fc2ブログ

ロシアがAI合成ウクライナ人を使いSNS上で情報戦を展開 AI合成されやニセ顔は本物より信頼される!?


YouTube等の映像配信での偽造(技術)が進んでいる。
先日のウクライナ大統領への国民への演説映像もフェイク。
情報(映像含む)の真偽は、受け身で捉えると誤った事実がどんどん蓄積される。
自ら考えながら、情報の真偽を捉える必要性が、より増してきている。

以下(リンク)引用
=========ー
AIによる画像合成「ディープフェイク」が登場して以来、「本物と見分けがつかない偽物画像」が生成されるようになりました。
そして実際、戦争においても情報戦で悪用されています。最近でも、ロシアで活動するグループが「存在しないウクライナ人」を作り上げ、SNS上のアカウントでウクライナの政治批判を行っていると発覚しました。

こうしたAI合成の偽顔を使った情報戦は、実際かなり有効である可能性が、最近の研究から示されています。イギリス・ランカスター大学(Lancaster University)心理学部に所属するソフィー・ナイチンゲール氏ら研究チームは、これらAI合成画像の危険性を裏付ける研究結果を発表しています。

研究はこのニュースより以前に発表されているものですが、人々はAIによって合成された顔を、本物の顔よりも「信頼できる」と評価するというのです。研究の詳細は、2022年2月14日付の学術誌『Proceedings of the National Academy of Sciences』に掲載されました。

■AI合成顔の方が本物より信頼性が高い
研究チームは、AIによって生成された顔が、どれほど人をだませるのか調査することにしました。そのために、まずアメリカの半導体メーカー「NVIDIA」のAIを用いて、400人の合成顔を作成。これらの合成顔は、男性と女性の2つの性別、また黒人、白人、東アジア人、南アジア人からなる4つの人種に分類されていました。そしてここに本物の顔を追加し、本物と偽物が入り混じった800のサンプルを用意しました。

最初の実験では、315人の参加者に800のサンプルのうち128の顔画像を見てもらい、それぞれが本物か偽物か判断してもらいました。
その結果、正解率は48.2%でした。2択の問題で正解率が半分以下ということは、真偽の判別が非常に難しく、むしろ「合成顔の方が本物っぽい」とさえ言えるでしょう。

2つ目の実験では、参加者にいくつかの判別するための手がかりが与えられました。画像を評価する前にAIによって生成された顔の特徴をレクチャーしたのです。
その結果、正解率は59%になりました。

判別のレクチャーがあっても正解率は少ししか上昇しなかったのです。3つ目の実験では、参加者に128の顔画像を、どれほど信頼できると思うか、7段階で評価してもらいました。
その結果、「AI合成顔の方が本物よりも平均7.7%信頼度が高い」という結果になったようです。

研究チームは、「合成顔の方が信頼されるのは、AIが平均的な顔にもとづいて生成するため」だと考えています。
「特徴を持った本物の顔」よりも「偽物の平均的な顔」の方が信頼されやすい、ということでしょう。
さて今回の結果をまとめると、「私たち人間は、本物よりもAI合成顔の方を信頼する傾向にあり、よりリアルに感じる」と言えます。
では、これほどのAI合成技術は、現在どのように悪用されているのでしょうか?

■ロシアとウクライナ間の情報戦にAI合成が利用される
「本物よりも本物らしい合成顔」は、すでにさまざまな分野で悪用されています。
代表的なのは合成ポルノです。有名人の顔が無許可で合成され、ポルノとして世界中に拡散されてしまうのです。自分が標的になることを考えると、恐怖でしかありませんね。またAI合成技術を利用すれば、偽の情報を簡単にでっち上げることも可能。

それは現在のロシアとウクライナ間の戦争で生じていることからも明らかです。
最近、ロシアのあるグループが、ウクライナ人の顔をAIで合成し、FacebookやTwitterアカウントで政治的発言をしていたことが発覚したのです。

生成された「いかにもウクライナ人らしい顔」の2つのアカウントのプロフィールには、それぞれ元航空技師や元ギター教師と記載されていました。そして彼らは、ウクライナに対する批判的な情報を発信し続けていたのです。一見プロフィール画像は何の問題もないように見え、SNSを見た人は、彼らの主張も1つの意見として受け入れるかもしれません。ところがアメリカの放送会社NBCに所属するベン・コリンズ氏は、彼らの画像には、「耳の形がおかしいこと」や「左右のイヤリングが不揃い」など、AI生成ならではの欠点が見られると指摘。

また不正文書を検出するサービス「Sensity」もこれらの画像を偽物だと判定しました。現在、これら偽ウクライナ人たちのアカウントは各社の対応によって削除されているようです。

さて、このことから、AIによる合成画像は既に国家間の情報戦に利用されていると分かります。
今回の偽情報は、世界中の関心が寄せられている問題だからこそ暴かれました。
では、もっと限定された分野で偽情報が出回っていたらどうでしょうか?

きっと私たちは今回の研究結果にあるように、「偽情報の方が信頼できる」と誤認してしまうことさえあるでしょう。
これまで信頼性が高いと考えられていた「顔写真付きのプロフィール」も、疑いの目で見なければいけない時代が到来したのです。
=========ー
引用終了

(森敏幸)
スポンサーサイト



コメント

コメントの投稿

トラックバック


この記事にトラックバックする(FC2ブログユーザー)