6月20日(木)付け読売新聞の朝刊記事で”ディープフェイク”という耳慣れない言葉について取り上げていたのでご紹介します。
そもそも”ディープフェイク”という言葉の意味ですが、AI関連技術の進歩とともに今や本物と見間違う精巧な偽動画をつくることが出来るようになったのです。
そこで、こうした技術をAIのディープラーニング(深層学習)とフェイクニュース(偽ニュース)にちなんで名付けられたのです。
ではこうした精巧な偽動画はどのように作られるのでしょうか。
実在する動画の特徴を学び、偽動画を作るAIと、本物か偽物かを判定するAIが競い合い、膨大な回数の試行錯誤を繰り返すことで偽動画を作り出すのです。
従来のフェイクニュースとの違いについては、圧倒的に精巧であるということです。
政治家など著名人本人が実際に発言したように見えるといいます。
ですから偽動画を見破ることはとても困難だといいます。
フェイスブックなどでは、専門チームが専用ソフトで発見を試みていますが、限界があるというのです。
こうした状況を受けて、6月13日にワシントンの米議会下院委員会で開かれた公聴会で、大学教授や専門家らが真剣な表情で偽動画の監視議論を交わしました。
「選挙やジャーナリズム、株価に影響を与えかねない」、「ロシアと中国は、敵対勢力の信用性を傷付ける目的で使う可能性がある」と指摘されたほか、「アメリカ社会は偽動画が与えるリスクへの備えが十分出来ていない」と警鐘を鳴らす声が出ました。
なお、こうした偽動画の投稿者の判明はとても難しいといいます。
以上、記事の内容の一部をご紹介してきました。
インターネット、IT、あるいはAIは、私たちの暮らしをとても豊かにしてくれます。
しかし、一方でこうした技術は、今や本物と区別がつかないほどの”ディープフェイク”を作り出せるほどに進歩しているのです。
そこで、一部のユーザーの中からは、自分を目立たせたい欲望や社会を混乱させたい欲望に駆られたり、回覧回数の増加による収入増を狙って”ディープフェイク”を発信する人が出て来るようになります。
あるいは、ある組織や国家がある意図を持って”ディープフェイク”を発信するリスクが生じます。
これまでのフェイクニュースと異なり、政治家など著名人本人が実際に発言したように見えるというのですから、一時的に国際社会を大混乱に陥らせてしまうリスクをはらんでいます。
なお、”ディープフェイク”の具体的なリスクとして、以下のようなものが考えられます。
・一般生活者やアイドルなどのイメージダウン
・選挙直前の相手候補のイメージダウン
・株価の大暴落や急騰
・戦争勃発の引き金
しかし、こうした”ディープフェイク” の投稿者の判明は現在とても難しいというのですから、”ディープフェイク”のリスク対応策は今のところとても困難な状況にあると言えます。
考えてみて下さい。
もし、アメリカのトランプ大統領や中国の習近平国家主席などの現実の動画と”ディープフェイク”がネット上で入り混じって投稿されていたら、世界中の人たちはどの動画を信じていいのか分からず、大混乱に陥ってしまいます。
しかも、現実と”ディープフェイク”との見分けは出来ないのですから、大混乱は暫くの間続いてしまいます。
最悪の事態として考えられるのは、米中の戦争の勃発の”ディープフェイク”です。
例えばアメリカと中国との覇権争いが行き詰まって限界に達し、中国から核弾頭を搭載したロケットがアメリカに向けて発射されたというような”ディープフェイク”が投稿されたら、最悪の場合、世界の終わりを迎えることになってしまいます。
ということで、”ディープフェイク”のリスク対応策は早急に求められます。
具体的には、以下のような対応策が考えられます。
・”ディープフェイク”の悪影響に対する一般ユーザーへの啓もう
・”ディープフェイク”の早急な識別技術の確立
・瞬時の”ディープフェイク”の削除
・”ディープフェイク”投稿者の早急な判明技術の確立
・”ディープフェイク”投稿者に対する重い処罰