6月4日(火)放送の「時論公論」(NHK総合テレビ)で天安門事件について取り上げていましたが、今回はAIが示す中国人の本音に焦点を当ててご紹介します。
なお、今回の論者は加藤 青延解説委員でした。
この(中国の天安門関連)問題を考える時に、私はどうしても、2年前に人々を驚かせたある事件を思い起こさざるを得ません。
それは、中国が世界に誇るAIが引き起こしたものでした。
最先端のAIが、人間のようにしっかりとした受け答えが出来るかどうか、一般の人たちとネット上でチャットをさせるという試みが行われたのです。
ところが、誰かが「中国共産党万歳」とつぶやくと、AIはすかさず「あのように腐敗して無能な政治に万歳が出来るのか?」とつぶやき返したのです。
そこで、このAIに習近平主席の政治スローガンである「『中国の夢』とは何か」と尋ねると、AIは「アメリカに移住することだ」と答えたそうです。
まさに「AIの反乱」ともいわれたこの試みはすぐに取りやめになりました。
このAIは残念ながら、中国社会で生き残るためにはどう発言すれば安全かについて、少々学習が足りなかったのかもしれません。
ただ考えてみますと、AIは決して自らの力で答えを考え出したのではなく、中国の人たちの間で交わされるチャットの内容を繰り返し学習した結果、そのような答えに行きついたとされます。
つまりAIの発言こそ、チャットで結びつく膨大なネットユーザーたちの本音、あるいは最大公約数であったと言うべきなのかもしれないのです。
以上、番組の内容の一部をご紹介してきました。
今回ご紹介したAIの受け答えには、中国の共産党政権も驚いたと思います。
まさに想定外です。
番組を通して思うのは、所詮AIとはネットという枠の中のビッグ―データを使ったディープラーニング(深層学習)の結果をベースにいろいろな判断をするツールなのです。
ですから、図らずも最先端のAIは中国国民の本音を引き出してしまったのです。
以前お伝えしたように、AIと違って、現実の私たちは日々の暮らしの中でネット関連情報だけでなく、家族、あるいは友人、知人、仕事の関係者などいろいろな人たちと情報交換をしています。
また、街中や旅行先などでいろいろな景色に接しています。
こうした日常生活から、肌感覚でいろいろなものを感じ取っているのです。
ですから、人間とAIとでは得られる情報の幅や質が異なるのです。
以前、2045年にはAIが人類を超えるシンギュラリティ(参照:No.4104 ちょっと一休み その661 『AIは天使か悪魔か!』)を迎えるとお伝えしましたが、AIにはこうした限界が常に付きまとっているのです。
しかし、アイデアよもやま話 No.3958 人間の脳とAIがつながったら・・・ その4 人類はやがて生物ではなくなる!?でもお伝えしたように、いずれ人間の脳とAIがつながる時代がやってきます。
そうした時代においては、人間の脳とAIの持つ情報が融合され、それまでのAIの限界が無くなった状況を迎えます。
そうした状況においても、AIはあくまでも人間の暮らしをサポートするという位置付けであることが大前提であることがとても大切になります。
そうしなければAIが暴走してしまうリスクがあるからです。
ということで、今回ご紹介した、中国におけるAIと人間とのやり取りの実験は、図らずもAIの限界を露呈させましたが、私たち人間に全てをAIに依存することの危うさをあらためて教えてくれたのです。