健康AIエージェントは、どこまで自律してよいのか？

健康AIの自律性は、性能ランキングだけでは決められません。誤ったときの影響、元に戻せるか、本人が理解して同意できるかで決めるべきです。安全側から並べると、役割は次のように分けられます。

• 観測する：睡眠や心拍など、取得済みデータを整理する。
• 解釈を補助する：「通常範囲から外れている可能性」を根拠と不確実性つきで示す。
• 提案する：記録、休息、専門家への相談など、選択肢を提示する。
• 確認後に実行する：本人が内容と宛先を確認してから、リマインダー作成など取り消し可能な処理を行う。
• 単独で高影響の判断をする：診断、服薬変更、緊急度の確定、医療記録の重要な変更など。

現在の消費者向け健康AIで中心にすべきなのは、観測、解釈の補助、提案までです。確認後の実行は最小権限と明示確認を条件に限定し、高影響の判断を既定動作にすべきではありません。

自律性を上げるとは、AIを賢くするだけでなく、現実へ作用する権限を渡すことです。

2025年にNEJM AIで発表されたMedAgentBenchは、仮想電子健康記録の中で、検索だけでなくデータ更新も行う300課題を評価しました。最良モデルの成功率は69.67%で、全般に情報取得より書き込みを伴う課題の方が難しい結果でした。[1]

2026年のnpj Digital Medicineの研究では、ウェブ検索やコード実行を使うエージェントは単体のLLMより精度がわずかに向上した一方、トークン使用量は10倍超、遅延は2倍超となり、ハルシネーションも残りました。[2] 処理を長くすれば安全になるとは限りません。誤った観測が計画に入り、その計画がツール実行へ渡ると、誤りは連鎖します。

さらに、多くの評価は整えられた課題やシミュレーションです。Stanford AI Index 2026が紹介する500件超の臨床AI研究の分析では、約半数が試験問題型で、実臨床データを使った研究は5%でした。[3]

患者向けの長い対話を評価するPatientAgentBenchも、静的な一問一答では見えない、ツール結果の未確認や危機時の案内漏れを報告しています。[4] ただし、これは2026年7月公開の査読前プレプリントであり、結果は暫定的です。

WHOは健康分野の大規模マルチモーダルモデルについて、透明性、説明責任、データ保護、人間の自律性を含む統治を求めています。[5] 健康AIエージェントでは、その原則を具体的な権限設計へ落とす必要があります。

• 読み取り専用を初期値にし、機能ごとに必要最小限のデータと権限だけを渡す。
• 「睡眠が短かった」という観測と、「回復していない」という解釈を分ける。
• 実行直前に、何を、なぜ、誰に、どのデータを使って行うかを示す。
• 実行結果を検証し、履歴と取消手段を残す。
• 情報不足、信号の矛盾、重大な症状の申告時には推測を続けず、人へ判断を戻す。
• 正答率だけでなく、見逃し、不要な警告、確認漏れ、属性群ごとの差を測る。

米FDAは臨床意思決定支援ソフトウェアの境界を整理し、患者や介護者向けの機能も、意図された用途によっては医療機器規制の対象になり得ることを示しています。[6] 生成AI医療機器については、第三者の基盤モデルが拒否動作、出力形式、バージョン管理など安全上重要な挙動へ影響することも論点です。[7] なお後者は最終指針ではなく、意見募集のための文書です。

健康AIエージェントは、会話が続くほど新しい目的を見つけ、別のデータやツールを使おうとします。最初に「利用規約へ同意」しただけでは、その後の一つひとつの行動まで理解した同意とは言えません。

必要なのは、目的や権限が変わる地点で確認を取り直すことです。心拍の要約を表示する許可は、家族へ送信する許可ではありません。カレンダーを読む許可は、予定を書き換える許可ではありません。いつでも停止し、権限を戻し、履歴を削除できることが、利用者の主体性を支えます。

心拍、睡眠、声、行動の変化をまとめ、本人が振り返る材料を提示する。必要なら追加の文脈を尋ね、本人が選んだ小さな行動を記録する。ここにはエージェントの価値があります。

一方、数値だけで病名や感情を確定する、服薬や受診の要否を決める、本人の確認なく家族・勤務先・医療者へ共有する。ここには越えてはいけない境界があります。緊急時の支援導線も、曖昧な自動判断に任せず、対象、条件、連絡方法を事前に定め、検証された仕組みとして扱う必要があります。

健康AIの成熟度は、自動化できる量ではなく、根拠を示し、権限を絞り、不確かなときに止まれるかで測られます。