この画像を大きなサイズで見る24時間年中無休で健康相談に乗ってくれるAIチャットボットの存在はありがたい。私も、肩が痛い、目に出来物ができた、トイレが近いふざけんな、だのしょっちゅうAIに相談しているが、使い方によってはよろしくないこともあるようだ。
アメリカの研究チームによると、AIによる誤ったアドバイスを実践し、それで健康被害が生じても、AIとの会話の記録はAI企業のサービスの中にしか残らないため、医師が原因を特定することが極めて困難になるという。
AIがどのようなアドバイスを行ったかは、本人が履歴を見せない以上、外からは誰にも見えない仕組みになっているのが問題だとし、第三者機関による監視システムの必要性を訴えている。
この研究成果は『Nature Health』誌（2026年10月9日付）に掲載された。
参考文献：
- When AI chatbots give bad advice, no one can see the damage | EurekAlert!
AIへの医療相談に潜む、目に見えないリスク
瞬時に医療に関する情報を得られるAIチャットボットは、多くの人にとって身近な存在になっている。
手軽に使える一方で、そのアドバイスを信じ切ってしまった場合、目に見えないリスクをはらんでいる。
ニューヨーク州にあるビンガムトン大学やスタンフォード大学など、アメリカの4つの大学の研究チームによると、AIの誤った健康アドバイスによって被害が生じた際、その実態を把握することが極めて困難になる問題を指摘している。
AIが生成する健康情報には、本人が履歴を残して開示する以外、どんなやりとりがあったのかを外から確かめる仕組みがなく、被害の原因を調べる妨げになっているという。
塩の代わりに臭化物を摂取。誤情報が招いた被害
AIチャットボットは常に正しい答えを出すわけではない。
時には古い情報や誤った主張を参照し、自信満々に誤った回答を生成することがある。
論文では一つの事例として、減塩したいと考えたアメリカの60歳の男性が、ChatGPTにその方法を尋ねたケースを紹介している。
食事に使用される塩は塩化ナトリウムという物質だが、AIは塩の代用として、臭化ナトリウムが使えると答えたという。
臭化ナトリウムは食塩と同じ白い結晶で、味も塩に似てしょっぱく、わずかに苦みがある。
19世紀後半から20世紀初めにかけては鎮静剤などの薬として使われていたが、体に害があることから、アメリカでは1989年までに市販薬から取り除かれた。
味は塩に似ていても、臭化ナトリウムは体の中で塩の代わりにはならず、取り続けると体にたまり、幻覚や被害妄想などの精神症状を引き起こす。
男性はAIのアドバイスに従ってインターネットで臭化ナトリウムを購入し、塩の代わりに摂り続けた結果、重度の臭素中毒に陥り、入院することになった。
この画像を大きなサイズで見るAIのアドバイスは第三者にはわからない
男性を診察したアメリカ・ワシントン大学の医師たちは、男性がAIからどのようなアドバイスを受けたのかを確認できなかった。
医師たちは会話の記録を見ることができなかったため、自分たちでChatGPTに塩化ナトリウムの代わりになるものを尋ねてみた。
回答には臭化ナトリウムが含まれていたが、摂取することで健康被害が出ることがあるという、具体的な警告はなかったという。
AIとの会話の記録はAI企業のサービスの中にしか残らず、健康被害を報告して調べてもらえる窓口も用意されていない。
利用者が履歴を保存して開示しない限り、被害が生じても原因となった会話の記録を外から確認できない。
そのため、医師や研究者、規制を担う国の機関は、何が起きたのかを正確に検証できずにいる。
また、検索結果に表示されるAIの要約や、SNSに組み込まれたAIを通じて、自分で調べていない人が偶然誤った医療情報を目にすることもあるが、その場合も被害の痕跡はほとんど残らない。
論文の著者の一人であるビンガムトン大学のカイチェン・ヤン助教は、AIチャットボットからの医療アドバイスを誰も監視しておらず、誤りが起きても人々がそれを知る手段がないと警告している。
求められる第三者機関の監視と透明性の向上
被害が見えないままになるのを防ぐため、研究チームはAI企業に仕組みの改善を求めている。
利用者が自分の健康に関する会話の履歴を保存し、必要に応じて担当の医師と共有できる機能を導入すべきだと提言している。
AI企業には、問題のある健康アドバイスを報告し、調査できる仕組みを作ることも求めている。
SNS企業に対しては、AIが作った健康情報にわかりやすい表示を付け、医療の専門機関が確認するまでは表示を控えるべきだとしている。
検索エンジンも、確認済みの情報だけを要約に使うべきだという。
さらに研究チームは、医師が医療ミスをしたときに負う法的な責任を、AIチャットボットの企業にも広げるよう国に求めている。
ヤン氏は、AI企業は常に利益を上げることを優先するため対策を企業任せにはできず、第三者による独立した監視の仕組みが必要だと語っている。
References: DOI.10.1038/s44360-026-00206-x
