これまでプロジェクト管理と日常生活 No.848 『イーロン・マスク氏が指摘するＡＩのリスク』などでＡＩのリスクについてお伝えしてきました。
そうした中、昨年１１月２日（木）放送の「ワールドビジネスサテライト」（テレビ東京）で今年行われるアメリカの大統領選挙で懸念が高まる生成ＡＩのリスクについて取り上げていたのでご紹介します。
なお、日付は全て番組放送時のものです。
バイデン大統領の再選が焦点となる来年１１月５日の大統領選挙まで間もなく１年となります。
今、その大統領選挙の大きな課題として指摘されているのがＡＩによって作られた画像や動画です。
本物か偽物か分からないものが既に多く出回り、選挙の情勢に影響を与えるのではないかと懸念が高まっています。
ＡＩのリスクにどう対応するのか、現場を取材しました。
「速報です。」
「２０２４年の大統領選挙でバイデン氏が再選を果たしました。」
「今朝、勢いづいた中国が台湾に侵攻した。」
こちらはアメリカの野党、共和党が４月に公開した広告。
来年の大統領選挙でバイデン大統領が勝利して混迷に陥るとした様子が批判的に描かれています。
更に、共和党の大統領候補者選びで、トランプ前大統領の最大のライバルと言われるデサンティス フロリダ州知事が選挙からの撤退を表明する映像です。
「私はフロリダ州知事のロン・デサンティスだ。」
「私は共和党の予備選挙から撤退し、トランプ前大統領を全面的に支援する。」
実は、これらの動画は全てＡＩの技術を使って作られたものなのです。
アメリカでは今、本物かどうか見極めが難しい動画が広く拡散、ＡＩへの懸念が広がっています。
こうした状況に、アメリカ議会、上院ではＡＩに関する議論を深めるフォーラムが開かれていまして、関係者らが続々と部屋に入ってきます。
出席した共和党のバンス上院議員は、テレビ東京の取材に対して、次のようにおっしゃっています。
「ＡＩには現実的なリスクがある。」
「ＡＩが人間と同じように会話が出来れば、多くの問題が生じる。」
また、民主党のスミス上院議員は次のようにおっしゃっています。
「ＡＩを監視し、責任を持って管理して、被害が出ないようにしなければならない。」
ＡＩのリスクにどう向き合えばいいのか、アメリカ ペンシルベニア州・フィラデルフィアのドレクセル大学では今、その研究が進んでいます。
マシュー・スタム准教授の研究室ではＡＩによって作られた映像が本物か偽物かどうかを見分ける技術の開発が行われています。
スタム准教授は、ＡＩで作られたものには、ある特徴があるといいます。
「これはトランプ前大統領の写真だが、この３つは全てＡＩにより生成されたもの。」
「ロゴの字が“Ｈ・Ｔ・Ｈ・Ａ・Ｐ”とあるが、これは英単語には存在しない言葉。」
画像の背景にあるホワイトハウスのロゴ、ＡＩではスペリングなど、細部にミスが発生することがあるといいます。
「（次に、ＡＩによって作られたバイデン大統領の映像を見てもらうと、）「髪の毛」の細かい部分がおかしい。」
「ＡＩの技術では、リアルな髪の毛の質感をうまく生成出来ないことがある。」
「しかし、この画像は偽物か見分けるのは難しい。」
「限りなく本物のようにも見える。」
最近では、一目で本物かどうか見分けがつかないものが増えてきたといいます。
「（こうした中、最近開発したのが、）分析したい画像の一部分を切り出して「分析」をクリックすると画像情報を分析して、本物か偽物か鑑定する。」
「これは「合成（偽物）」と出てくる。」
画像の中にある画像編集の痕跡などを分析することで、ＡＩによって作られたかどうかを瞬時に検知するシステムです。
しかし、その一方で、急速に技術が進展するＡＩに危機感を募らせています。
「ＡＩによる画像生成は急激に進化していて、常に新しいものが公開されている。」
「技術が改良され、広く利用出来るようになればなるほど、悪意のある利用は増える。」
来年１１月に控える大統領選挙、アメリカ国内の世論調査では、５３％の人が「ＡＩによる誤った情報が大統領選挙の勝敗に影響する」と回答しています。
今後、どういった対策が必要なのか、ＡＩの選挙への影響に詳しい専門家、キャンペーン・リーガル・センターのシャナ・ポーツさんは次のようにおっしゃっています。
「ＡＩの規制は来年の大統領選挙前に導入されることが有権者の判断のためにも重要だ。」
誤った情報で有権者の投票行動が左右されれば混乱を招きかねないことから、大統領選の前までにＡＩに対する規制を設けるべきだとポーツさんは主張しています。
選挙の正当性への懸念が更に揺らぐ事態に警鐘を鳴らします。
「今、アメリカ人は選挙に対して強い不信感を抱いている。」
「選挙広告が真実ではないと知ったら、有権者の不信感は更に増すだろう。」
「政治に参加する人や投票数が減るなど、民主主義にとっては悪影響だ。」
こうした状況について、番組コメンテーターでピクテ投信投資顧問 シニア・フェローの市川眞一さんは次のようにおっしゃっています。
「勿論、規制などは必要だと思います。」
「ただ、それ以上に今、重要なことはマスメディア、報道が正しい情報を伝える。」
「つまり、迷った時は報道を見れば、ないし報道を読めば、しっかりとした正しい情報が得られる、そういう報道の権威を復活させていかなければいけないですね。」
「（メディアが信頼を得られるかどうかというところという指摘に対して、）そうですね。」
以上、番組の内容をご紹介してきました。
番組の内容を以下にまとめてみました。
（１１月５日に行われる大統領選挙のリスク）
・バイデン大統領の再選が焦点となる２０２４年１１月５日の大統領選挙まで間もなく１年となるが、今、その大統領選挙の大きな課題として指摘されているのがＡＩによって作られた画像や動画である
-本物か偽物か分からないものが既に多く出回り、選挙の情勢に影響を与えるのではないかと懸念が高まっている
-こうした状況に、アメリカ議会、上院ではＡＩに関する議論を深めるフォーラムが開かれている
（ＡＩに係わるリスクの対応策）
・アメリカ ペンシルベニア州・フィラデルフィアのドレクセル大学のマシュー・スタム准教授の研究室ではＡＩによって作られた映像が本物か偽物かを見分ける技術の開発が行われている
・ＡＩで作られたものには、ある特徴があるという
-画像の背景にあるホワイトハウスのロゴ、ＡＩではスペリングなど、細部にミスが発生することがある
-ＡＩの技術では、リアルな髪の毛の質感をうまく生成出来ないことがあるが、偽物か見分けるのは難しい
・最近では、一目で本物かどうか見分けがつかないものが増えてきた
・こうした中、最近開発したのが、分析したい画像の一部分を切り出して画像情報を分析して、本物か偽物か鑑定する
-画像の中にある画像編集の痕跡などを分析することで、ＡＩによって作られたかどうかを瞬時に検知するシステムである
・しかし、その一方で、急速に技術が進展するＡＩに危機感を募らせている
-ＡＩによる画像生成は急激に進化していて、常に新しいものが公開されており、技術が改良され、広く利用出来るようになればなるほど、悪意のある利用は増える
・２０２４年１１月に控える大統領選挙、アメリカ国内の世論調査では、５３％の人が「ＡＩによる誤った情報が大統領選挙の勝敗に影響する」と回答している
・今後、どういった対策が必要なのか、ＡＩの選挙への影響に詳しい専門家、キャンペーン・リーガル・センターのシャナ・ポーツさんは次のように指摘している
-ＡＩの規制は来年の大統領選挙前に導入されることが有権者の判断のためにも重要である
・選挙の正当性への懸念が更に揺らぐ事態に警鐘を鳴らしている
-今、アメリカ人は選挙に対して強い不信感を抱いている
-選挙広告が真実ではないと知ったら、有権者の不信感は更に増す
-政治に参加する人や投票数が減るなど、民主主義にとっては悪影響である
・コメンテーターの市川さんは、規制などは必要だが、それ以上にマスメディア、報道が正しい情報を伝えることが重要であると指摘している
-迷った時は報道を見れば、ないし報道を読めば、しっかりとした正しい情報が得られる、そういう報道の権威を復活させていかなければいけない
こうして見てきて、特に気になるのは以下の内容です。
・アメリカ国内の世論調査では、５３％の人が「ＡＩによる誤った情報が大統領選挙の勝敗に影響する」と回答している
・本物か偽物かを瞬時に鑑定する検知するシステムが最近開発されているが、一方で一目で本物かどうか見分けがつかないものが増えてきている
・選挙広告が真実ではないと知ったら、有権者の不信感は更に増し、政治に参加する人や投票数が減るなど、民主主義にとっては悪影響である
要するに、生成ＡI関連技術の進歩は、本物と見分けのつかないほど精巧な偽情報の作成を可能にし、その拡散によって、今や選挙制度の根幹を揺るがし、民主主義を破壊するほどのリスクをもたらしているのです。
こうした状況において、コメンテーターの市川さんは、規制などは必要だが、それ以上にマスメディア、報道が正しい情報を伝えることが重要であると指摘しています。
ちなみに、報道の重要性については、私もアイデアよもやま話 No.5780 今こそ求められる一人一人が事実を知る権利と学ぶ権利！でお伝えしてきました。
しかし、やはり選挙に限らず、偽情報の拡散は規制で厳しく取り締まるべきなのです。
なぜならば、精巧な偽情報の占める割合が増えていくにつれて、私たちの事実認知、および物事に対する判断基準が知らず知らずのうちにねじ曲がったものとなり、いびつな社会になってしまうからです。
さて、生成ＡＩのリスクは今やいろいろなかたちで顕在化しています。
ですから、特に大統領選挙のような重要なイベントに対しては適切な再発防止策が求められるのです。
それでも今後とも生成ＡＩの進化とともに、その悪用の方法も進化していくことは明らかです。
ですから、悪用に対抗すべく、適切なコンティンジェンシープランも常に求められるのです。
まさに生成ＡＩをめぐる“善と悪の戦い”は未来永劫続くのです。
そして私たちの暮らしはこうした状況の中で便利になっていくのです。
TrackBack (0)｜ by e-an
TrackBackURL : ボットからトラックバックURLを保護しています
