Appleが誤報問題でAIニュース機能を停止 生成AIの信頼性にはいまだリスク残存
2025年1月18日Appleは、iPhoneのニュースサービスにおいて、生成AIが誤った情報を生成する問題が発生したことを受け、この機能の一時停止を決定した。問題はBBCなど複数のメディア組織から苦情が寄せられたことで発覚。IT企業の代表格とも言えるAppleが問題に直面したことで、生成AI技術の信頼性における課題が改めて浮き彫りになっている。
AppleのAIニュース機能、重大な誤報を生成し即時停止に
Appleが停止を決定した「News Alert Service」は、iPhoneのロック画面上で、複数のニュース通知をAIが要約して表示する機能だ。このサービスは、iPhone 16シリーズおよびiPhone 15のプレミアムモデルに搭載されたAIプロセッサを活用したもので、米国、英国、豪州、カナダの4カ国で提供されている。
しかし、このサービスが深刻な誤報を生成したことにより、複数のメディアから苦情の声が上がった。具体的には、「ある殺人容疑で起訴されている男性が自殺した」という事実無根の報道や、「某スポーツ選手の性的指向に関する誤った情報」などが、実在する報道機関のロゴ付きで配信される事態が発生。生死やアイデンティティの問題など、重要な個人情報に関する誤報を発信してしまった。これを受けてAppleは、次期ソフトウェアアップデート（iOS 18.3）において、この機能を一時的に停止することを発表した。
生成AIの”ハルシネーション”問題、大手テック企業でも課題に
この問題の根底には、生成AI技術特有の「ハルシネーション」と呼ばれる現象がある。ハルシネーションとは、AIが実在しない情報を、まるで事実であるかのように生成してしまう現象を指す。昨年にはGoogleも検索エンジンの生成AI機能で同様の問題に直面し、機能の改修を余儀なくされている。
Appleは今回の問題に対する改善策として、AIが生成した内容であることを明確に示す表示や、潜在的なエラーについての警告表示を導入する計画を明らかにした。具体的には、AI生成コンテンツをイタリック体で表示することで、通常のニュース配信との視覚的な区別を図る方針である。
まとめ
生成AI技術は急速な進化を遂げているものの、その信頼性には依然として課題が残されている。AppleのようなIT業界における先進企業でも、AIの「ハルシネーション」問題は完全には解決できていないことがわかった。特にニュース配信のような正確性が求められる領域では、慎重な運用が必要とされている。今回のAppleの対応は、生成AI技術の実用化における品質管理の重要性を示す事例として、業界全体に影響を与えることが予想される。
Plus Web3は「Web3領域に特化したキャリア支援サービス」
Plus Web3では、Web3で働きたい人材と、個人に合わせた優良企業をマッチングする求人サービスを行っています。
- Web3で働くことも考えている…
- Web3のインターン先はどこがいいか分からない…
- どんな知識やスキルがあれば良いのか分からない…
このような悩みを抱える人は、一度「無料キャリア相談」にお越しください。あなたにマッチした優良企業をご紹介いたします。
Plus Web3は「最先端技術に取り組むテクノロジー領域（Web3/AI）に特化したキャリア支援サービス」
Plus Web3 Agentは、AI開発やブロックチェーン技術など、急成長する先端技術分野への転職をサポートする専門エージェントです。
経験者はもちろん、異業種からの転身を検討される方にも最適な機会をご紹介しています。
- 成長産業であるAI業界やWeb3領域でのキャリアを検討している
- 未経験からでもAI・Web3業界に挑戦できる道を探している
- 自分のスキルを最先端技術分野でどう活かせるか知りたい
こんな方におすすめです
業界に精通したキャリアアドバイザーが、あなたの経験・スキル・志向性を丁寧にヒアリングし、最適な企業とポジションをマッチングします。
まずは無料キャリア相談で、あなたの可能性を広げるチャンスを掴みませんか？
Web3企業
AI企業
この記事が気に入ったら
フォローしてね！