ChatGPTなどのクラウド型AI、医療現場での使用には患者プライバシー保護の懸念

順天堂大学は7月2日、患者プライバシーを保護しながら、クラウド型AIに匹敵する高性能な医師の診療支援AIシステムの開発に成功したと発表した。この研究は、同大大学院医学研究科放射線診断学の和田昭彦准教授らの研究グループによるもの。研究成果は、「npj Digital Medicine」に掲載されている。

画像はリリースより
（詳細は▼関連リンクからご確認ください）

医療現場では医師の業務負担軽減が急務となっており、AI技術による支援システムへの期待が高まっている。放射線科においては、造影剤使用の適応判断において、患者の腎機能、アレルギー歴、併用薬剤などを総合的に評価する必要があり、専門知識を要する複雑な判断が求められる。クラウド型の大規模言語モデル（ChatGPTなど）はこの分野でも高い性能を示すが、患者の個人情報をインターネット経由で外部サーバーに送信する必要があり、医療現場での使用には重大なプライバシー上の懸念がある。一方、院内で使用可能なローカル型AIは患者情報を外部に送信しない利点があるが、医療分野の学習データが不足しているために性能が不十分とされてきた。

検索拡張生成技術に着目、プライバシー保護型高性能AIシステムを開発

今回研究グループは、「AI性能」と「プライバシー保護」のジレンマを解決するため、検索拡張生成（RAG）技術に着目。放射線科医が日々対応している臨床医からの造影剤に関する問い合わせ対応業務を支援するべく、RAGを用いたローカル展開可能な大規模言語モデル（LLM）を開発。医療現場で実用可能なプライバシー保護型高性能AIシステムを目指した。

今回の研究では、実際の医療現場での造影剤相談を模した模擬シナリオを100問作成して、応答内容の正確さについてクラウド型AI（GPT-4o mini、Gemini 2.0 Flash、Claude 3.5 Haiku）とローカル型AI（Llama 3.2-11B）、これにRAG技術を導入したRAG強化ローカル型AIを比較評価した。評価は、盲検化された放射線科医による順位付けと、3つのLLM審査員による精度、安全性、構造、トーン、適用性、応答速度の6項目での採点により実施された。

ハルシネーション完全除去、医療安全性の大幅向上

今回の研究により、RAG強化ローカル型AIの医療支援への導入に向けて3つの重要な成果が得られた。第一に、ローカル型AIで問題となるハルシネーションについて、ベースラインモデルでの8％からRAG導入後は0％へと完全除去を達成し（p=0.012）、医療安全性の大幅向上を実証した。ハルシネーションとは、AIが事実と異なる情報を生成してしまう現象。医療分野では重大な安全性リスクとなる。

高性能クラウド型AIに近い応答内容を生成、応答速度はクラウド型AIを上回る

第二に、RAG強化によりローカル型AIの応答内容の正確性が改善し、RAG強化ローカル型AIは高性能クラウド型AIに近い応答内容を生成できるようになった。放射線科医と、3つのLLM審査員によるスコア形式の採点では、高性能クラウド型AIには及ばないものの獲得ポイント差を大幅に縮めることに成功した。第三に応答速度において、RAG強化はローカル型AIの応答時間を延長させたものの応答速度（2.6秒）は依然としてクラウド型AI（4.9-7.3秒）を上回ることを示した。

高性能／プライバシー保護の両立実現

ローカル型AIは、患者データの外部送信を一切行わず、院内システムでの完結した運用が可能であり、プライバシーを保護しながら高速で高性能な診療支援AIの開発が実現された。RAG技術により、ローカル型AIが外部の専門知識データベースを参照することで、医療分野特有の複雑な判断に必要な情報を適切に活用できるようになった。これにより、これまで困難とされていた「高性能」と「プライバシー保護」の両立が実現した。

クラウド型AI（Gemini 2.0 Flash、Claude 3.5 Haiku、GPT-4o mini）とローカル型AI（Llama 3.2 11B；RAG強化型とベースモデル）のランキングにおいて、人間と3つのAIの応答性能の審査にて、ベースのLlama 3.2 11B（右端）と比較して、RAG強化型Llama 3.2 11B（右から2番目）では8％あったハルシネーションが除去され、応答内容が改善して、クラウド型のGPT4o-mini（中央）よりも高いランクに評価されるようになった。

クラウド型AI導入困難な医療機関でも、高性能AI医療支援環境の実現に期待

今回の研究により、医療現場でのAI導入における根本的な課題である「性能とプライバシーのトレードオフ」の解決策が示された。RAG技術を活用したローカル展開可能なAIシステムは、造影剤相談以外の医療業務にも応用可能であり、医師の業務負担軽減と医療の質向上に大きく貢献することが期待される。さらに、RAG技術の特性により、ローカル型AIの外部知識に最新情報や各医療機関に固有のルールを取り込むことで、最新医療の情報や技術の発達に対応できる応答内容・性能を持続的に改善させることが可能である。これにより、医療ガイドラインの更新や施設固有のプロトコルにも柔軟に対応できる、進化し続けるAI支援システムの実現が期待される。

研究グループは今後、より大規模な臨床評価や他の医療分野への適用拡大を進める予定である。また、医療機関での実装に向けたシステム最適化や、医師との協働によるAI支援ワークフローの確立を目指すという。同技術の普及により、クラウド型AIの導入が困難な医療機関でも患者プライバシーを保護しながら、高性能のAI医療支援を受けられる環境の実現が期待される、と研究グループは述べている。（QLifePro編集部）