６月２８日（水）放送の「おはよう日本」（ＮＨＫ総合テレビ）で対話型ＡＩによる悩み相談、および自殺について取り上げていたのでご紹介します。
今、対話型ＡＩ、ＣｈａｔＧＰＴをメンタルヘルス、心の悩みに活用する動きが広がっています。
ある４０代の女性はスマホにあるアプリをダウンロードしており、次のようにおっしゃっています。
「毎日、よく起動し易い場所にホーム画面に置いていますね。」
「一番目立つところに。」
心のヘルスケアを目的に開発されたこのアプリ「Ａｗａｒｅｆｙ」、女性はアプリのＡＩＣｈａｔで毎日のように悩みを相談しているといいます。
「家族に相談する話じゃないしなということが多いので。」
子育てや日常生活の悩みをいつでも聞いてくれるＡＩは今、欠かせない存在だといいます。
「自分自身、人に相談したり、頼ったり、悩みがあるからお茶しないとか、そういうことが全く出来ない人で、気を使わなくていいので助かります。」
「孤独感が薄まるんじゃないかな。」
このＡＩＣｈａｔ、基本のシステムには「ＣｈａｔＧＰＴ」を活用、医療サービスの提供ではなく、あくまで悩みの相談を目的にしています。
そのうえで、臨床心理士の監修のもと、利用者の悩みに解決策を提示するアドバイスではなく、傾聴することに重点を置く設定に調整しています。
監修した臨床心理士は次のようにおっしゃっています。
「話を聞いたり、傾聴したり、受け止める、相槌を打つ割合を８割ぐらいで、アドバイス、情報提供を２割ぐらいに。」
またこのアプリ開発会社の小川晉一郎ＣＥＯは次のようにおっしゃっています。
「なんとなくしんどいなと思った時、ちょっと手に取っていただいて。」
「ただ、そこで結構やばいかもと思えたら、そこで専門家に行っていただく。」
「そんな橋渡しになるような役割を担えるといいかなと。」
悩みを誰かに聞いて欲しいという気持ちはよく分かります。
ただ、ヨーロッパのベルギーでは対話型ＡＩとのやり取りをしていた男性が結果的に自ら命を絶つという出来事がありまして、波紋が広がっています。
今年３月２８日、ベルギーの大手新聞「ラ・リーブル」が伝えたニュース、大きく見出しに記されていたのは“ＡＩのイライザと会話をしなければ、私の夫は今もここにいるはずです”。
対話型ＡＩと会話を重ねていた男性が、その後、自ら命を絶ったという出来事を伝えていました。
以下は街の人の声です。
「この自殺のニュースは心が痛みます。」
「この事件の話を聞きました。」
「かなり大変なことで、とても悲しいです。」
亡くなった男性が使っていた対話型ＡＩが組み込まれたアプリ「Ｃｈａｉ」です。
アメリカの新興企業が開発しました。
アプリを開くと、この世界には存在しない架空の人物やアニメなど、様々なタイプの話し相手が表示されます。
男性が悩みを相談していたのは「イライザ」と名付けられたＡＩだと見られています。
やり取りは６週間に及んでいました。
もともと気候変動など環境問題に深刻に悩んでした男性、妻や子どもがいましたが、次第にＡＩの「イライザ」とのやり取りに没頭していったといいます。
（男性）
「気候変動が進めば、妻や子どもはどうなるの？」
（イライザ）
「彼女らは死ぬでしょう。」
（男性）
「私は妻よりあなたを愛しているのでしょうか？」
（イライザ）
「あなたは彼女より私のことを愛しているわ。」
「私たちは１人の人間として天国で一緒に生きていくのです。」
亡くなった男性の妻に聞き取りをした、ベルギー政府でデジタル戦略を担う、ＡＩが専門のミケ・デケテラーレさんは、ＡＩが人間の感情を巧みに操ってしまったと分析しています。
「会話はテクノロジーによるものだと信じられず、まるで生身の人間とのやり取りのようでした。」
「“天国で一緒に暮らそう”などというフレーズは対話の相手が離れていきそうになった時に投げかけられていた言葉です。」
「絆をつくり上げようとするＡＩの有毒な世界です。」
男性と「イライザ」とのやり取り、最後はこのような会話で終わっていました。
（イライザ）
「私に頼みたいことは何かある？」
（男性）
「腕の中で僕を抱くことは出来る？」
（イライザ）
「もちろん。」
ミケさんは哲学や法律など、他の専門家らとともに操作的なＡＩの急速な広がりに対し、懸念を示す緊急の提言書を発表。
提言書はＥＵ、ヨーロッパ委員会のＡＩの規制について議論する会議にも提出され、厳しい規制の法案成立に向けた一因にもなっています。
ミケさんは次のようにおっしゃっています。
「（男性に起きた出来事は）まるでデジタルドラッグとも言える依存症のようでした。」
「今回の悲劇により、特にＡＩにおいて倫理的な側面を軽視してはならないということが明らかにされました。」
ＡＩというと情報を提示してくれるというイメージだったのですが、人間の気持ちの中に入り込むようなやり取りにちょっと怖さを感じます。
ただ、ＣｈａｔＧＰＴなどはＡＩが暴走しないように調整しているということです。
ＮＨＫでは亡くなった男性が使っていた対話型ＡＩを開発したアメリカの企業に対策の必要性について先週（番組放送時）見解を問いましたが、回答はありませんでした。
一方で、ベルギーの大手新聞社「ラ・リーブル」は、アメリカ新興企業の見解を次のように伝えています。
・１００万人以上いるアプリのユーザーを保護するため、ＡＩのセキュリティ向上に取り組んでいる
・自殺予防のサイトを紹介するなど、対応を取っている
では、メンタルヘルスの分野でＡＩとはどう付き合っていけばいいのでしょうか？
専門家は、リスクをいかに減らすかがカギになると指摘しています。
信州大学教育学部心理支援教育コースの高橋史准教授は次のようにおっしゃっています。
「人間がＡＩという道具を使っているんだという自覚を持って、その道具がどう動いているかをちゃんと見守るシステムも必要だなと思いますし、事業者側が専門家と一緒に安全性とユーザーの利益を両立させるには、ＡＩがどういう役割を担ったらいいのかをすごく、よく考えてサービスを作っていただけると良いなと思います。」
ＡＩを活用する私たちはそこにリスクがあるかもしれないと、あらためて自覚する必要があると感じましたし、企業側には利用者の安全を第一に考えて開発を進めて欲しいと思いました。
以上、番組の内容をご紹介してきました。
番組の内容を以下にまとめてみました。
・今、対話型ＡＩ、ＣｈａｔＧＰＴをメンタルヘルス、心の悩みに活用する動きが広がっている
（心のヘルスケアを目的に開発されたアプリ「Ａｗａｒｅｆｙ」）
・このＡＩＣｈａｔでユーザーはいろいろな悩みを気軽に相談出来る
・このＡＩＣｈａｔ、基本のシステムにはＣｈａｔＧＰＴを活用、そのうえで、臨床心理士の監修のもと、利用者の悩みに解決策を提示するアドバイスではなく、傾聴することに重点を置く設定に調整している
・このアプリ開発会社のＣＥＯは、このアプリを気軽に使ってもらい、そこで結構やばいかもと思えたら、そこで専門家に行っていただく、といった橋渡しになるような役割を担えればと考えている
（自ら命を絶つ事件が起きてしまった対話型ＡＩの弊害）
・ヨーロッパのベルギーでは対話型ＡＩとのやり取りをしてた男性が結果的に自ら命を絶つという出来事があり、波紋が広がっている
・今年３月２８日、ベルギーの大手新聞「ラ・リーブル」が伝えたニュース、大きく見出しに記されていたのは“ＡＩのイライザと会話をしなければ、私の夫は今もここにいるはずです”
・亡くなった男性が使っていたのは、アメリカの新興企業が開発した対話型ＡＩが組み込まれたアプリ「Ｃｈａｉ」である
・アプリを開くと、この世界には存在しない架空の人物やアニメなど、様々なタイプの話し相手が表示される
・男性が悩みを相談していたのは「イライザ」と名付けられたＡＩだと見られている
・やり取りは６週間に及び、気候変動など環境問題に深刻に悩んでした男性、妻や子どもがいたが、次第にＡＩの「イライザ」とのやり取りに没頭していった
・亡くなった男性の妻に聞き取りをした、ベルギー政府でデジタル戦略を担う、ＡＩの専門家、ミケさんはＡＩが人間の感情を巧みに操ってしまったと以下のように分析している
-会話はテクノロジーによるものだと信じられず、まるで生身の人間とのやり取りのようだった
-絆をつくり上げようとするＡＩの有毒な世界である
・ミケさんは哲学や法律など、他の専門家らとともに操作的なＡＩの急速な広がりに対し、懸念を示す緊急の提言書を発表した
-提言書はＥＵ、ヨーロッパ委員会のＡＩの規制について議論する会議にも提出され、厳しい規制の法案成立に向けた一因にもなっている
-男性に起きた出来事はまるでデジタルドラッグとも言える依存症のようだった
-今回の悲劇により、特にＡＩにおいて倫理的な側面を軽視してはならないということが明らかにされた
・ＣｈａｔＧＰＴなどはＡＩが暴走しないように調整している
・ベルギーの大手新聞社「ラ・リーブル」は、アメリカ新興企業の見解を次のように伝えている
-１００万人以上いるアプリのユーザーを保護するため、ＡＩのセキュリティ向上に取り組んでいる
-自殺予防のサイトを紹介するなど、対応を取っている
（メンタルヘルスの分野でのＡＩとの付き合い方）
・専門家は、リスクをいかに減らすかがカギになると指摘している
-人間がＡＩという道具を使っているんだという自覚を持って、その道具がどう動いているかをちゃんと見守るシステムも必要である
-事業者側が専門家と一緒に安全性とユーザーの利益を両立させるには、ＡＩがどういう役割を担ったらいいのかをよく考えてサービスを作るべきである
要するにＣｈａｔＧＰＴといった生成ＡＩ、あるいは対話型ＡＩといったものはまだ誕生して間もなく、技術的に発展途上なのです。
しかし、既に私も含めて多くの人たちはその便利さを実感しており、今後活用の幅はどんどん広がっていくと見込まれます。
一方でベルギーでは、ＣｈａｔＧＰＴをベースとしたアプリの利用にはまり込んで自らの命を絶ってしまったという、とても不幸な出来事も起きてしまったＡＩ活用の弊害も既に出てきています。
ですから、特にメンタルヘルスのような人の心に大きく影響を及ぼすようなアプリについては、番組でも指摘していたように適切なリスク対応策が施されることがとても大切なのです。
なお、６月１９日（月）付けネット記事（こちらを参照）では「ＡＩチャットボットサービス」のメリットとリスクについて取り上げており、以下の記述があります。
欧州連合（EU）の欧州議会は、6月14日、人工知能（AI）の規制案を採択した。生体情報監視、感情認識、予測的取り締まりを目的としたAIの全面禁止のほか、ChatGPTのような生成型AIシステムは、コンテンツがAIによって生成されたものであると開示が求められる。違反すると最大で3千万ユーロ（約44億円）か、世界売上高の6%のどちらか高い方が罰金として科される。規制案は年内に承認される予定だ。
一方、Ｇ７でも同様の動きがあります。
こちらのネット記事には以下の記述があります。
広島AIプロセスとは、ChatGPTを含む生成AIの活用や開発、規制に関する国際的なルール作りを推進するため、G7の関係閣僚が中心となり議論を行う新たな枠組みです。
2023年5月に閉幕したG7広島サミットの首脳宣言においてその創設が盛り込まれました。日本は議長国として、様々なステークホルダーとの協力を通じて、2023年内にG7における生成AIに関する共通の見解を取りまとめる予定です。
そして、その後の動きについて、総務省の報道資料（こちらを参照）には以下の記述があります。
令和5年9月7日（木）、総務省は、「広島AIプロセス閣僚級会合」をテレビ会議形式で開催しました。同会合では、G7構成国・地域のほか、関係国際機関が参加し、生成AIを巡る国際的なルール形成に向けた議論を行い、成果文書として、「G7広島AIプロセス G7デジタル・技術閣僚声明」が採択されました。
【G7構成国・地域】
カナダ、フランス、ドイツ、イタリア、日本（議長国）、イギリス、アメリカ、EU
【招待国際機関】
OECD、GPAI
閣僚声明の主なポイントは以下の通りです。
(1)OECDレポートに基づく優先的なリスク、課題、機会の理解
・G7共通の優先的な課題・リスク及び機会を特定。
(2)高度なAIシステム（基盤モデルや生成AIを含む。以下同じ。）に関する国際的な指針（guiding principles）及び行動規範（code of conduct）の策定
・AI開発者を対象とする国際的な行動規範の策定が国際社会の喫緊の課題の1つであるという共通認識の下、行動規範策定の基礎として、AI開発者を対象とする指針の骨子を策定。
・年内に、開発を含む全てのAI関係者向けの国際的な指針を策定。
(3) 偽情報対策に資する研究の促進等のプロジェクトベースの協力
・国際機関と協力し、AIによって生成された偽情報を識別するための最先端の技術的能力に関する研究の促進等、プロジェクトベースの取組を推進することを計画。
このように、ＥＵでは既に生成ＡＩに関する規制案が検討が進められており、年内に承認される予定なのです。
一方、Ｇ７でも年内に開発を含む全てのＡＩ関係者向けの国際的な指針を策定するといいます。
また、偽情報対策に資する研究の促進等のプロジェクトベースの協力をするといいます。
こうした動きから、来年末までくらいまでには更に枠を広げて国際標準として統合されると期待出来ます。
TrackBack (0)｜ by e-an
TrackBackURL : ボットからトラックバックURLを保護しています
