昨年１０月１６日（水）放送の「ワールドビジネスサテライト」（テレビ東京）で無断生成ＡＩについて取り上げていたのでご紹介します。
なお、日付けは全て番組放送時のものです。
富士通や東京大学など、９つの企業や大学は今日、インターネット上の偽情報を検知するシステムの開発に乗り出すことを発表しました。
生成ＡＩで作られたフェイク動画や画像などが大きな問題となる中、問題の解決につながるのでしょうか。
声優の中尾隆聖さんは次のようにおっしゃっています。
「私の声が勝手に売られていたんです。」
「驚きました。」
「私たちの声は商売道具で、人生そのものです。」
「無断で生成ＡＩに使われている私たち声優の気持ちを聴いて下さい。」
「ノーモア無断生成ＡＩ！！」
こう訴えるのは、「それいけ！アンパンマン」のばいきんまん役などで有名は声優の中尾隆聖さん。
日本を代表する声優、２６人が集まり、権利者の許可なくＡＩにより作り出される動画などに警鐘を鳴らそうと、昨日から始まったキャンペーンです。
ＡIによる偽動画で広がる被害。
前澤友作氏のフェイク動画：
「日本人に高収入をもたらす新規の投資プロジェクトをご紹介したいと思います。」
有名人になりすまし、詐欺などにつながる投資を呼びかけるフェイク動画も今、問題となっています。
こうした中、今日、富士通のリサーチディレクター、山本大さんは次の内容を発表しました。（東京・千代田区）
「オールジャパン体制で偽情報の検知から根拠収集・分析・評価までを統合的に行う。」
富士通や東京大学など９つの企業と大学が連携し、ネット上の偽情報を見破る新たなシステムを構築すると発表。
今回のシステムの基盤となるのが今、開発している文字情報の真偽を判定する仕組み。
山本さんは次のようにおっしゃっています。
「例えば、今、当社、富士通はシーテックに出展しておりますので、それを打ち込んでみたいと思います。」
すると、「本記事について、ｔｒｕｅと判定されました。」と表示されました。
続けて、事実ではない文章を入力してみると、今度は「「本記事について、ｆａｌｓｅと判定されました。」と表示されました。
真偽を判定する根拠とするのが自治体や企業の公式ホームページなど信頼出来るウェブサイトなどの情報だといいます。
更に、こちらはフェイクと判定された映像です。
国立情報学研究所の山岸順一教授は次のようにおっしゃっています。
「白く塗られている領域は生成ＡIが改ざんした可能性が高いということを示している。」
こちらの白い部分が加工された可能性が高いと判定された部分。
あらかじめ大量の偽動画を収集し、それらに共通するパターンをＡＩに覚えさせたうえで本物の動画とも比較することで加工された痕跡を見つけ出しているといいます。
“オールジャパン”で構築を目指す偽情報の検知の仕組み。
山本さんは次のようにおっしゃっています。
「当社１社だけで行なうというよりも、日本屈指の様々なアカデミアも含めて知見を集約して、偽情報に立ち向かっていく。」
以上、番組の内容をご紹介してきました。
番組の内容を以下にまとめてみました。
（広がる無断生成ＡＩ）
・声優の中尾隆聖さんは「私の声が勝手に売られていたんです。ノーモア無断生成ＡＩ！」と言う
・日本を代表する声優、２６人が集まり、権利者の許可なくＡＩにより作り出される動画などに警鐘を鳴らそうと、昨年１０月１５日からキャンペーンを始めた
・前澤友作氏など、有名人になりすまし、詐欺などにつながる投資を呼びかけるフェイク動画も今、問題となっている
（オールジャパン体制での偽情報対策が始動）
・富士通や東京大学など、９つの企業や大学は昨年１０月１６日、インターネット上の偽情報を見破るシステムの開発に乗り出すことを発表
-オールジャパン体制で偽情報の検知から根拠収集・分析・評価までを統合的に行う
・今回のシステムの基盤となるのが今、開発している文字情報の真偽を判定する仕組みである
-真偽を判定する根拠とするのが自治体や企業の公式ホームページなど信頼出来るウェブサイトなどの情報だという
・偽動画判定
-あらかじめ大量の偽動画を収集し、それらに共通するパターンをＡＩに覚えさせたうえで本物の動画とも比較することで加工された痕跡を見つけ出す
また、２月２６日（水）付けネット記事（こちらを参照）で吉本ばなな、Amazonでの偽小説販売に注意喚起について取り上げていたので内容の一部をまとめてご紹介します。
小説家の吉本ばなな氏は、２月２５日にXで、Amazonに自身の偽の著作が販売されていると注意喚起した。
問題の電子書籍は「世界には時間がない」というタイトルで、596円で販売されていたが、現在は削除されている。
吉本氏はAmazonの対応が不十分であると批判し、「犯罪を容認していることになる」と憤りを示した。
吉本氏の一連の投稿には、「作家に対して間違ったイメージや思想を拡散させてしまう」、「AIを悪用する人は今後ともたくさん出るだろう」 という声が集まっていた。
以上、ネット記事の内容の一部をまとめてご紹介してきました。
なお、この記事について、更にチャットＧＰＴで調べてみると、以下のことが分かりました。（添付１参照）
・同様の被害は他の著名作家にも及んでおり、村上春樹さんや東野圭吾さんらの名前を使った偽書籍も確認されている
・これらの偽書籍は、生成ＡＩを活用して作成されたとみられ、正しくない日本語が用いられるなどの特徴があった
・この問題を受け、Amazonの審査体制や著作権管理の強化が求められている
以上の情報を以下にまとめてみました。
（生成ＡIの悪用の事例）
・声優の声を勝手に売買
・有名人になりすまし
-詐欺などにつながる投資を呼びかけるフェイク動画
・著名な小説家の名前を使った偽書籍の売買
（生成ＡIの悪用対策）
・オールジャパン体制での偽情報対策
・Ａｍａｚｏｎによる審査体制や著作権管理の強化
なお、Ａｍａｚｏｎによる審査体制や著作権管理の強化については添付２を参照下さい。
Ａｍａｚｏｎなりの体制で取り組んでいるようです。
しかし、今も新手の偽情報の悪用が発生していることから、Ａｍａｚｏｎには更なる取り組みの強化が求められます。
さて、生成ＡIを活用した偽情報による犯罪には様々な種類があります。（添付３参照）
ですから、今後とも、私たちの暮らしの様々なところでこうした犯罪が発生してくると見込まれますから、被害に遭わないように常に注意が必要です。
なぜならば、オールジャパン体制での偽情報対策やＡｍａｚｏｎによる審査体制や著作権管理の強化がなされても、今後ともこうした対策を先回りするような犯罪が発生すると見込まれるからです。
なお、技術革新を促す最大のきっかけについて、技術革新は「危機」と「競争」によって最も加速し、そこに「政策」と「技術の進化」が掛け合わさることで爆発的に進むことが多いといいます。（添付４参照）
具体的には、やはり、戦争、犯罪、あるいは人間の好奇心が技術進歩の最大のキーだと思います。
そして現在は、ＡＩという技術の進化が戦争や犯罪、あるいは宇宙における開発に大変革をもたらしつつあるのです。
添付１）
作家、吉本ばななさんの生成ＡＩがらみの被害とは？
ChatGPT:
作家の吉本ばななさんは、2025年2月、Amazonの電子書籍サービス「Kindle」で自身の名前を騙った偽の書籍が販売されていることを確認し、注意を呼びかけました。
sponichi.co.jp
問題となったのは、「世界には時間がない」というタイトルで、生成AIを用いて作成されたとみられる内容でした。
oricon.co.jp
吉本さんはSNSで「こんな本書いてないのでもちろん法的に訴えますが、読者のみなさん間違えて買わないでください」と注意喚起し、Amazonに削除を求めました。
asahi.com
同様の被害は他の著名作家にも及んでおり、村上春樹さんや東野圭吾さんらの名前を使った偽書籍も確認されています。
sponichi.co.jp
これらの偽書籍は、生成AIを活用して作成されたとみられ、正しくない日本語が用いられるなどの特徴がありました。
この問題を受け、Amazonの審査体制や著作権管理の強化が求められています。
添付２）
Amazonの審査体制や著作権管理の強化がなされているか？
ChatGPT:
Amazonは、著名な小説家の名前を使用した偽書籍の販売を含む、知的財産権の侵害や模倣品の取引を防ぐため、審査体制や著作権管理の強化に取り組んでいます。
審査体制の強化: 2023年、Amazonはお客様やブランドオーナー、販売パートナーを模倣品や詐欺などの不正行為から守るため、12億ドル以上を投資し、機械学習のサイエンティストやソフトウェア開発者、専門調査員など15,000人以上の専門家を配置しています。
aboutamazon.jp
これにより、70万件以上の悪質な新規出品アカウントの開設を阻止しました。
著作権管理の強化: Amazonは、国際知的財産保護フォーラム（IIPPF）と連携し、偽造品や知的財産権侵害商品の販売防止に努めています。
aboutamazon.jp
この協力関係により、権利保有者や製造メーカー、再販業者、流通業者、政府機関、小売業者、ストア運営者がそれぞれの役割を果たし、偽造品や特許侵害商品の販売に対抗しています。
これらの取り組みにより、Amazonはプラットフォーム上での偽書籍の販売を含む知的財産権侵害の防止に努めています。
添付３）
生成ＡIを活用した偽情報（偽動画も含めて）による犯罪にはどんな種類があり得るか？
ChatGPT:
生成AIを活用した偽情報（偽動画も含む）による犯罪には、以下のような種類が考えられます。
- フェイクニュース・情報操作
- AI生成のニュース記事や画像、動画を使い、政治・経済・社会に関する偽情報を拡散。
- 選挙で候補者を貶める偽情報を作成し、世論を操作。
- 金融市場に影響を与えるデマを流し、株価操作や経済的混乱を引き起こす。
- ディープフェイク詐欺（音声・動画・画像の偽造）
- 経営者や上司になりすました指示: 企業の経営者の音声や映像を偽造し、従業員に不正送金を指示。
- 家族や知人になりすました金銭詐取: AI音声で親族や友人を装い、金銭を騙し取る。
- 有名人のフェイクスキャンダル: 芸能人や政治家の偽動画を作成し、風評被害を与える。
- 偽の証拠映像を作成し、犯罪の冤罪を生む: AIで捏造した防犯カメラ映像や証拠音声を作成し、無実の人を犯罪者に仕立て上げる。
- 偽書籍・偽コンテンツ詐欺
- 著名な作家や研究者の名前を使った偽書籍を作成・販売。
- AI生成の論文やレポートを使用した学術詐欺。
- 偽の専門書や研究資料を販売し、誤った情報を広める。
- AIを活用したフィッシング詐欺
- AIが個人情報を元にターゲットごとに最適化された詐欺メールを作成。
- AIボイスやディープフェイクを使い、銀行職員や政府機関を装って被害者を騙す。
- チャットボットを使い、カスタマーサポートを装ってログイン情報を盗む。
- SNS・レビューサイトの偽情報操作
- AIボット（AIを活用して自動的に会話や作業を行うプログラム）を大量に作成し、特定の企業や政治家の評価を操作。
- AI生成の偽レビューで、商品の評価を操作したり競合を貶めたりする。
- ソーシャルメディア上で特定の意見を拡散し、世論を操作。
- 金融詐欺・投資詐欺
- AIで作成した架空の投資案件を宣伝し、投資家を騙す。
- 偽の企業HPや財務報告書をAIで作成し、架空企業への投資を誘導。
- AI生成の不正な取引記録を使い、詐欺的な金融取引を行う。
- AIを活用したサイバー攻撃
- AIがターゲットの行動を学習し、フィッシングメールの成功率を高める。
- AIを用いた自動化されたハッキングツールで、サーバー攻撃や情報漏洩を行う。
- AIがCAPTCHAを突破し、大量の不正アカウントを作成。
- 偽の求人詐欺
- AI生成の企業情報や人事担当者の偽映像を用い、応募者から個人情報を詐取。
- AIチャットボットを用い、架空の仕事で応募者を騙し、手数料を要求。
- AIで作成した偽の労働契約書を使い、詐欺を行う。
- 保険金詐欺
- AIで偽の医療診断書や事故証明書を作成し、保険金を不正請求。
- AI生成の画像や動画を使い、架空の事故や火災の証拠を偽装。
- AIを活用した誹謗中傷・名誉毀損
- AIが生成した偽のSNS投稿や映像を用いて、個人や企業の評判を落とす。
- AIによるディープフェイク動画を用いたセクシャルハラスメントやリベンジポルノ。
- AIを使った自動化された誹謗中傷コメントの大量投稿。
生成AIの技術が進化するにつれ、これらの犯罪の手口も高度化しています。対策として、AI生成コンテンツの識別技術の開発、規制強化、ユーザーのリテラシー向上が求められます。
添付４）
技術革新を促す最大のきっかけは？
ChatGPT:
技術革新を促す最大のきっかけは、**「切実な課題」や「強いインセンティブ」**が生まれることです。以下のような要因が技術革新のトリガー（きっかけ）になります。
- 危機や課題の発生（Need-driven）
- 戦争や安全保障の危機 → インターネット（ARPAネット）、GPS、ジェット機の開発
- 環境問題・エネルギー危機 → EV（電気自動車）、再生可能エネルギー、バッテリー技術
- パンデミックや医療課題 → mRNAワクチン、遠隔医療、AI創薬
- 競争・市場の変化（Market-driven）
- 企業間競争の激化 → スマートフォンの進化（Apple vs. Samsung）、AI（OpenAI vs. Google）
- 新しい市場の誕生 → eコマース（Amazon）、ライドシェア（Uber, Lyft）、フィンテック（暗号資産）
- 技術の進化と融合（Technology-driven）
- 半導体の進化 → AI・機械学習の発展、スマートデバイスの普及
- コンピュータの高性能化 → クラウド技術、量子コンピューティング
- 通信技術の向上 → 5G・6G、IoT、メタバース
- 政策・規制の変化（Regulation-driven）
- 政府の補助金・投資 → EV・再エネ分野での支援（IRA法、EUのグリーンディール）
- 法律の変更 → データプライバシー規制（GDPR）、金融ルールの緩和（仮想通貨市場の拡大）
- 社会的・文化的要因（Culture-driven）
- 世代の価値観の変化 → サステナブル技術の発展、シェアリングエコノミー
- 個人のビジョン → スティーブ・ジョブズ（iPhone）、イーロン・マスク（Tesla, SpaceX）
つまり、技術革新は「危機」と「競争」によって最も加速し、そこに「政策」と「技術の進化」が掛け合わさることで爆発的に進むことが多いです。
