2025年1月18日Appleは、iPhoneのニュースサービスにおいて、生成AIが誤った情報を生成する問題が発生したことを受け、この機能の一時停止を決定した。問題はBBCなど複数のメディア組織から苦情が寄せられたことで発覚。IT企業の代表格とも言えるAppleが問題に直面したことで、生成AI技術の信頼性における課題が改めて浮き彫りになっている。
AppleのAIニュース機能、重大な誤報を生成し即時停止に
Appleが停止を決定した「News Alert Service」は、iPhoneのロック画面上で、複数のニュース通知をAIが要約して表示する機能だ。このサービスは、iPhone 16シリーズおよびiPhone 15のプレミアムモデルに搭載されたAIプロセッサを活用したもので、米国、英国、豪州、カナダの4カ国で提供されている。
しかし、このサービスが深刻な誤報を生成したことにより、複数のメディアから苦情の声が上がった。具体的には、「ある殺人容疑で起訴されている男性が自殺した」という事実無根の報道や、「某スポーツ選手の性的指向に関する誤った情報」などが、実在する報道機関のロゴ付きで配信される事態が発生。生死やアイデンティティの問題など、重要な個人情報に関する誤報を発信してしまった。これを受けてAppleは、次期ソフトウェアアップデート（iOS 18.3）において、この機能を一時的に停止することを発表した。
生成AIの”ハルシネーション”問題、大手テック企業でも課題に
この問題の根底には、生成AI技術特有の「ハルシネーション」と呼ばれる現象がある。ハルシネーションとは、AIが実在しない情報を、まるで事実であるかのように生成してしまう現象を指す。昨年にはGoogleも検索エンジンの生成AI機能で同様の問題に直面し、機能の改修を余儀なくされている。
Appleは今回の問題に対する改善策として、AIが生成した内容であることを明確に示す表示や、潜在的なエラーについての警告表示を導入する計画を明らかにした。具体的には、AI生成コンテンツをイタリック体で表示することで、通常のニュース配信との視覚的な区別を図る方針である。
まとめ
生成AI技術は急速な進化を遂げているものの、その信頼性には依然として課題が残されている。AppleのようなIT業界における先進企業でも、AIの「ハルシネーション」問題は完全には解決できていないことがわかった。特にニュース配信のような正確性が求められる領域では、慎重な運用が必要とされている。今回のAppleの対応は、生成AI技術の実用化における品質管理の重要性を示す事例として、業界全体に影響を与えることが予想される。
