生成AI（人工知能）の「幻覚」問題が、医療分野において深刻なリスクをもたらす可能性があることが、最新の研究で明らかになった。生成AIは、あたかも事実であるかのような虚偽の情報を生成することがあり、これが誤った診断や治療法の提案につながる危険性が指摘されている。
医療現場でのAI活用の現状
近年、医療現場ではAIの導入が進んでおり、画像診断やカルテの分析、新薬の開発など、さまざまな分野で活用されている。しかし、生成AIが誤った情報を生成する「幻覚」現象は、特に患者の安全に直結する医療分野では重大な問題となっている。
幻覚問題の具体例
例えば、ある生成AIシステムは、患者の症状から稀な疾患を診断するよう求められた際、実際には存在しない疾患名を挙げ、誤った治療法を提案したケースが報告されている。また、別のシステムでは、医薬品の相互作用について質問された際、危険な組み合わせを安全だと誤って回答した事例もある。
専門家の見解
医療AIの専門家は、「生成AIの幻覚問題は、医療分野においては単なる誤情報ではなく、患者の命に関わる可能性がある」と警鐘を鳴らす。彼らは、AIを補助ツールとして使用する場合でも、その出力を常に人間が検証する必要があると強調している。
対策と今後の展望
この問題に対処するため、いくつかの対策が提案されている。まず、AIモデルのトレーニングデータを厳選し、医療情報の正確性を高めること。次に、AIが生成した情報に対して、信頼性スコアを付与するシステムの開発。さらに、医療従事者向けのAIリテラシー教育の強化も重要視されている。
また、規制当局も動きを見せており、米国食品医薬品局（FDA）は、医療用AIの承認プロセスを厳格化する方針を示している。日本でも、厚生労働省が医療AIのガイドライン策定を進めており、幻覚問題への対応が議論されている。
結論
生成AIの医療分野への応用は、大きな可能性を秘めている一方で、幻覚問題によるリスクも無視できない。技術の進歩とともに、安全性を確保するための枠組み作りが急務となっている。患者の安全を最優先に、AIと人間の適切な役割分担を模索する必要があるだろう。
