感情を読むAIは、本当に感情を読めるのか？

感情には、本人が感じる主観的な体験、身体反応、表情や声、状況の解釈、行動への傾向などが関わります。一方、AIが扱えるのは観測可能なデータです。カメラが捉えた顔の動き、声の高さや速さ、文章中の単語、心拍や皮膚電気活動などを数値へ変換し、学習データの中で似たパターンに付いていたラベルを予測します。

つまり「怒り」という出力が意味するのは、多くの場合「この入力は、学習データで怒りと分類された例に似ている」ということです。AIが本人の主観へ直接アクセスしたわけではありません。

感情名は観測値ではありません。信号と文脈から組み立てられた、ひとつの仮説です。

感情認識モデルを学習させるには、入力データと正解ラベルが必要です。例えばRAVDESSという研究用データセットでは、24人の俳優が8種類の感情を表現し、第三者がその妥当性を評価しました。[1] このデータで高い精度を出したモデルは、演じられた表現を分類する能力を示します。しかし、それだけで日常の自然な感情を同じ精度で推定できるとは限りません。

正解に本人の自己申告を使う研究もあります。自己申告は本人の体験に最も近い手がかりですが、言語、記憶、文化、その時点での解釈にも影響されます。2,185本の映像に対する自己申告を分析した研究では27種類の感情カテゴリーが見いだされましたが、境界は完全に分離せず、連続的な勾配でつながっていました。[2]

笑顔は喜びだけでなく、礼儀、緊張、困惑を隠す反応かもしれません。顔から感情を判断する傾向には、文化による違いも報告されています。[3]

声についても同様です。感情的な発声の認識を異なる文化集団で比較した研究では、文化的な相対性が確認されました。[4] 話し方は感情だけでなく、言語、地域、性格、発話内容、相手との関係にも左右されます。

心拍変動などの生体信号も、呼吸や姿勢を変えるだけで値が動きます。[5] ある変化が緊張、興奮、運動、会話のどれによるものかを、単一の値から決めることはできません。生理反応は有用な手がかりですが、感情名と一対一に対応する辞書ではないのです。

顔、声、文章、生体信号を組み合わせるマルチモーダルAIは、一つの信号だけを使う場合より多くの文脈を扱えます。用途を限定した予測で性能が向上することもあります。

しかし、入力を増やしても正解ラベルの曖昧さは消えません。文化差、個人差、測定環境、信号どうしの時間のずれが残り、扱う個人情報も増えます。「センサーが多いほど真実に近い」と考えるのではなく、何を正解と定義し、どの条件で検証したモデルなのかを明らかにすることが重要です。

NISTのAIリスク管理枠組みも、用途と文脈に応じた妥当性、信頼性、透明性、継続的な評価を求めています。[6] テストデータ上の正答率は重要ですが、それだけで現実の人間理解を保証するものではありません。

感情に関わるAIをつくるなら、出力を判定ではなく仮説として扱う必要があります。欧州AI規則は、医療・安全上の限定的な例外を除き、職場や教育機関で感情を推測するAIの利用を禁止しています。[7] 問題は精度だけではありません。推測された側が反論しにくいことや、その推測が採用・教育・評価に使われることも含まれます。

設計で守るべきこと

• 観測した信号と、そこから推測した内容を分ける。
• 確信度、適用条件、分からないことを示す。
• 本人が推測を訂正し、利用を拒否できるようにする。
• 他人の平均だけでなく、その人自身の過去との変化を見る。
• 重大な判断を、感情ラベルだけに委ねない。

Lumoが目指すのも、表情や心拍から感情名を当てることではありません。ある体験の前後で、身体、声、行動がどう動いたのか。その変化を時間軸で観察し、本人が自分の状態を考えるための手がかりとして返すことです。

AIが上手に感情名を付ける未来より、分からないものを、分からないまま丁寧に扱える未来を。