AIが「存在しない単語」を作り出している？Apple Intelligenceの”幻覚”問題が世界で波紋を呼んでいる

あなたが受け取った通知の要約、本当に正しいと思って読んでいませんか？　実はそこに、誰も書いていない言葉が混じっているかもしれない。　Apple Intelligenceの通知要約機能が、英語圏のユーザーの間で「見たことのない単語を作り出している」という報告が相次いでいて、今テック界隈がざわついている。

AIが”でっちあげた”単語が通知に表示されるって、どういうこと？

Apple Intelligenceには、届いたメッセージやメール、アプリの通知を自動で要約してくれる機能がある。忙しいとき、長いメッセージをパッと確認できる便利な仕組みだ。でも最近、ユーザーたちがSNSで「この単語、辞書に存在しないんだけど？」という投稿を次々にシェアしはじめている。

これはAIの”ハルシネーション（幻覚）”と呼ばれる現象で、大規模言語モデルがもっともらしいけど実在しない情報を生成してしまうバグのようなもの。Googleの検索AIでも同様の問題が過去に起きているが、Appleのような「信頼と洗練さ」を売りにしてきたブランドで起きているのが、ダメージとして大きい。

正直言うと、私がこれを最初に見たとき「え、これAppleがやること？」と思った。Appleって、出す前に徹底的にテストするイメージがあったから。でも今回の件は、AI機能を競合に遅れじと急いで実装したツケが出ているのかもしれない、と思っている。

日本のiPhoneユーザーも他人事じゃない理由

「英語の話でしょ？」と思ったあなた、ちょっと待ってほしい。Apple Intelligenceは現在、英語・日本語を含む複数言語への展開が進んでいる最中。日本語での通知要約機能も近い将来、本格稼働するはずで、同じ問題が日本語で起きない保証はどこにもない。

そもそも日本語はひらがな・カタカナ・漢字が混在する、AIにとってかなり複雑な言語だ。英語でさえ存在しない単語を生成してしまうなら、日本語で「それっぽいけど誰も使ったことのない熟語」が生まれる可能性は十分にある。しかも通知の要約って、ユーザーが読み流す場面で使われるから、間違いに気づかないまま意思決定してしまうリスクがある。

たとえば「〇〇さんから至急の連絡があります」という要約が実は「来週でいいよ」という内容だったら…考えただけで怖い。AIを”信頼して読み流す”習慣がつく前に、この問題をちゃんと知っておくべきだと私は思う。

👀 次回気になるテーマ：　AI要約が当たり前になった時代に「自分で読む力」はどう変わるのか——ヨーロッパで広がる”デジタルスロー”ムーブメントに迫ります。