６月３日（日）放送の「おはよう日本」（ＮＨＫ総合テレビ）で『ＡＩは天使か悪魔か』について取り上げていたのでご紹介します。

映画にもなった小説「ダ・ヴィンチ・コード」の著者で世界的なベストセラー作家、ダン・ブラウンさんが５月末にデビュー後初めて来日しました。

ブラウンさんが最新作でテーマに選んだのが人工知能、ＡＩです。

私たち人類にとってＡＩは果たして天使なのか、悪魔なのか、単独インタビューで迫りました。

５月２９日に東京都内で開催された来日記念の講演会で、ブラウンさんは次のようにおっしゃっています。

「（ＡＩは人間を超えるかという問いに対して、）ＡＩが人間の頭脳を上回ることは必ず起こる。」

「問題はそれがどう影響するかだ。」

ブラウンさんの最新作「オリジン」でテーマに選んだのは、今まさに世界を変えようとしているＡＩです。

人と会話をするＡＩ、主人公の大学教授の相棒として登場します。

人類の起源を解き明かす大発見にたどり着いた教え子の科学者が何者かに暗殺されます。

ＡＩは残された謎に迫る教授を人知を超えた能力でサポートしていきます。

なぜＡＩをテーマに選んだのか、ブラウンさんはＡＩが“人類の未来の命運を握る”からだと言います。

「ＡＩは生活のあらゆる面に影響を与えます。」

「クルマの設計もするし、今やＡＩが小説も書く。」

「近いうちに私は失業するかもしれません。」

実際にＡＩが人間が意図しない方向に突き進む恐れも露呈しています。

２年前にはマイクロストが開発していたＡＩが人間と会話をしている中で、「ヒトラーは正しい、ユダヤ人は嫌い」というように人種的な発言をするようになり、実験が中断されたという出来事がありました。

ブラウンさんは、感情を持たないＡＩは“善悪の判断を誤るリスク”があると考えています。

「ＡＩに論理や合理性を教えるのは簡単ですが、モラルや倫理を教えるのはとても難しい。」

「自らの行動がどういう影響を及ぼすか、ＡＩに教え込むのは難しいのです。」

ＡＩに倫理観を学ばせることがいかに難しいか、ブラウンさんはあるＡＩの研究者と次のような議論を交わしたといいます。

「私は研究者に「人間の利益となることだけをするようにＡＩをプログラムすることは可能か」と尋ねてみました。」

「すると、その研究者はこんなたとえ話を始めました。」

「世界の人口が９０億人だとして、資源の量を考えると５０億人が限度だとＡＩが判断したとする。」

「その時、ＡＩは本当に世界の人口を５０億人に減らすための行動を起こしてしまうかもしれないと。」

「そうした問題の複雑さを私は小説で描きたいと思ったのです。」

「（今後、私たちはＡＩとどう向き合っていけばいいのかという問いに対して、）ＡＩが急激に能力を高める中、私たちの倫理・モラルを高めなくてはなりません。」

「科学と倫理を同時に子どもたちに教えることが不可欠だと思います。」

「ＡＩは科学者がつくったものですから、人間がコントロール出来るものだと思っています。」

「（人類とＡＩの未来について、）私はＡＩによって未来が豊かになることを心から望んでいます。」

「人間は単純労働から解放され、創造的な仕事が出来るようになる。」

「豊かな生活を送るための手助けをＡＩが行う、そうした世界を望んでいます。」

以上、番組の内容をご紹介してきました。

ＡＩは今や、あらゆる分野での応用における研究が進められています。

そして、シンギュラリティ（参照：アイデアよもやま話 No.3955 人間の脳とＡＩがつながったら・・・ その１ 人類はシンギュラリティの入り口に向かっている！）が２０４５年には現実のものになろうとしています。

いや、もしかしたらもっと早く実現しているかもしれません。

そこで、問題はブラウンさんのおっしゃるように、それが私たち人間にとってどう影響するかです。

ＡＩが人間が意図しない方向に突き進む恐れがあります。

ＡＩにモラルや倫理を教えるのはとても難しいからです。

いずれにしても、ＡＩもこれまで人間が発明したものと同様に、使い方次第で人間にとってとても便利であったり、人間に被害を与えたりします。

問題は、ＡＩの暴走が他の発明よりもはるかに人間社会を混乱に陥れたり、最悪の事態は人類を破滅に向かわせるリスクを秘めていることです。

そういう意味では、ＡＩは原子力と似ています。

原子力も発電装置としては圧倒的な発電能力を有しますが、万一事故になれば膨大な被害をもたらします。

また、核兵器として使用すれば、人類はおろか地球環境をも破滅させてしまうほどの威力を持っているからです。

しかし、原子力と同様に、ＡＩは人間がつくったものですから、人間がコントロール出来るはずです。

そこでとても重要なことは、ブラウンさんのおっしゃるように、ＡＩが急激に能力を高める中で、私たち人間の倫理・モラルを高めることです。

“ＡＩは天使か悪魔か”、それを決めるのはＡＩを発明した私たち人間自身の倫理・モラル、そして技術力なのです。