プロジェクト管理と日常生活 No.913 『歴史家、ハラリ氏の掲げる、混迷が続く現代社会を読み解くキーワードとは』でも最後に触れましたが、生成ＡＩのチャットＧＰＴは、常に正しい情報を提供しているとは限りません。
そこで今回は、生成ＡIの限界についてお伝えします。
チャットＧＰＴによれば、生成ＡIの限界は以下の７項目です。（添付参照）
1. 知識の正確性と最新性の限界
2. 理解と推論の限界
3. 創造性の限界
4. 倫理・偏見の問題
5. 感情・意識の欠如
6. 計算資源の制約
7. セキュリティとプライバシーの問題
まず、１番目の知識の正確性と最新性の限界については、生成ＡＩは学習データに基づいて回答を生成するため、どの時点まで、そして、どの範囲まで生成ＡＩが学習データとしているかによって、質問によっては回答結果が変わってきます。
ですから、この限界は６番目の計算資源の制約、すなわちサーバーの処理能力、あるいは学習データの容量による学習データの制約を突破することによって解決出来ると見込まれます。
２番目の理解と推論の限界については、ＡＩはまだ発展途上なので、今後の更なる進歩により改善されると期待出来ます。
３番目の創造性の限界については、生成ＡＩの基本的な能力、すなわち学習データに基づいて回答を生成するため、この制約を打破する、すなわち学習データに基づかずで独創的なアイデアを生成するまでには大きなハードルがあると思います。
４番目の倫理・偏見の問題については、近い将来、存在する情報をほぼリアルタイムでサーバーに取り込めば、そしてこうした大量のデータを処理出来るほどのサーバーが実用化されれば、学習データに偏りが無くなると思いますが、それでも、ある観点で重要ではあってもデジタル化されないデータは世界中に大量に存在します。
また、倫理的な価値観や偏見は生成ＡIのアルゴリズムによって生成ＡＩは回答を生成するため、絶対的に正しい回答が得られることは永遠にないと思います。
５番目の感情・意識の欠如については、様々な価値観を持った世界中の多くの人たちの感情や意識、あるいは悩み事の相談の結果のデータをサーバーに取り込んだとしても、やはり生成ＡＩは事例として回答するに止まるのです
７番目のセキュリティとプライバシーの問題については、ＡＩがこれらに関する国などによるルールを学習データとして取り込んで、それを基に回答するわけです。
ですから、セキュリティとプライバシーについては、基本的には国ごとに生成ＡＩによる回答は異なるのです。
また、ＡＩの進化により、偽情報や詐欺と真実の情報との識別がとても困難になり、従って、この問題解決は永遠のテーマとなりそうです。
そして、プライバシーの問題については、一旦ＳＮＳで公開されてしまうと瞬く間に拡散されてしまいます。
ですから、プライベートなデータが拡散されないような仕組みも生成ＡＩにとって永遠のテーマとなりそうです。
こうして見てくると、生成ＡＩについては、現在はまだまだ発展途上で、今後とも非常に速いスピードで発展していくと見込まれます。
同時に、文字情報、写真、動画、３Ｄなど、人間の文字に出来ないような感情といった一部の情報をのぞいて、存在する、あらゆる情報が生成ＡＩの学習データとして取り込まれていくのです。
しかし、一方で、こうした技術の進化により、ネット上での偽情報の拡散や犯罪などもどんどん巧妙になっていくと見込まれます。
さて、ＡＳＩ（超知能）（参照：アイデアよもやま話 No.5708 ＣｈａｔＧＰＴの次はＡＧＩ、そしてその次は・・・）の実用化で、どこまでＡＩが人類にとって便利になるのか、そして現在の生成ＡＩの限界がどこまで突破出来ているのか、更に新たにどんな懸念材料が出てくるのか、とても興味が湧いてきます。
いずれにしても、今、私たちは人類史上最大の革命、すなわちＡＩ革命の真っただ中にいることは間違いありません。
添付）
生成ＡIの限界は？
ChatGPT:
生成AIの限界はいくつかの側面で指摘されています。
- 知識の正確性と最新性の限界
- 生成AIは学習データに基づいて回答を生成するため、最新の情報をリアルタイムで把握することができない場合がある。（ただし、Web検索と組み合わせたモデルはその制限を克服しつつある）
- 間違った情報をもっともらしく生成する「ハルシネーション（幻覚）」の問題が依然として存在する。
- 理解と推論の限界
- 生成AIはデータのパターンを学習しているが、根本的な意味理解や本質的な論理的推論はまだ不完全。
- 数学的な証明や因果関係の深い分析、抽象的な概念の理解などでは人間に劣ることがある。
- 創造性の限界
- 生成AIは膨大なデータをもとに「新しいように見える」ものを生成するが、真に独創的なアイデアや画期的な発明を生み出すのは難しい。
- 過去のデータに依存するため、既存の概念の組み合わせが中心になりがち。
- 倫理・偏見の問題
- 学習データに偏りがあると、AIの出力にもバイアスが生じる。これは政治、ジェンダー、人種などの議論で特に問題となる。
- フェイクニュースやディープフェイクなど、悪用のリスクも高い。
- 感情・意識の欠如
- AIは感情を持たず、相手の心理を本当に理解することはできない。
- 対話においても「共感しているような返答」はできるが、本質的には計算された文章の出力に過ぎない。
- 計算資源の制約
- 高度な生成AIを運用するには膨大な計算リソースが必要であり、コストや環境負荷が問題となる。
- モデルが大規模化するにつれ、電力消費やハードウェアの制限が課題になる。
- セキュリティとプライバシーの問題
- AIが悪意のある目的で使用された場合、偽情報の拡散、詐欺、個人情報の侵害などのリスクがある。
- AI自身が学習データから機密情報を推測してしまう危険性も指摘されている。
今後の展望
限界はあるものの、生成AIは進化を続けており、**強化学習やマルチモーダルAI（テキスト、画像、音声などを統合する技術）**の発展により、より高度な推論や創造的なタスクへの応用が期待されている。
また、**AGI（汎用人工知能）**の実現に向けた研究も進んでおり、今後は「限界」とされている部分の一部が克服される可能性もある。
