AIによる虐待判定システム、精度不足で実用化見送りへ

こども家庭庁が開発を進めていた「虐待判定AIシステム」の導入が見送られたことが,

2025年3月3日に判明した。2021年度から約10億円をかけて開発されていたが、試験運用で判定ミスが60%に達する結果となり、その精度の低さが課題となった。

開発の背景とAI判定の問題点

同庁が開発したAIシステムは、虐待が疑われる子どもの一時保護の必要性を判定することを目的としている。過去の虐待事例約5000件を学習させ、傷の有無や保護者の態度など91項目を基に、虐待の可能性を0から100のスコアで評価する仕組みだ。
今年度は10の自治体の児童相談所と協力し、過去の虐待事例100件を用いて精度検証が行われた。

しかし、テストの結果、100件中62件でAIの判定が実際の判断と大きく異なっていたことが判明した。特に深刻な事例では、子どもが「母に半殺し以上のことをされた」と証言していたにもかかわらず、AIの判定スコアは2〜3と極めて低かった。

判定精度が低かった原因として、学習データの不足や入力情報の精度不足が指摘されている。特に、ケガの程度や範囲を詳細に記録する仕組みが不完全であったことが、判定の精度低下につながったと考えられる。

さらに、虐待の形態が非常に多様であることも、AIがうまく対応できなかった原因の一つである。身体的虐待はもちろん、心理的虐待やネグレクト（育児放棄）など、AIでは数値化が難しい要素が多いため、単純なスコア化では十分に評価できないという課題も浮き彫りとなった。

導入断念による影響と今後の課題

当初、同庁は今年度内の導入を目指していたが、判定ミスの多さを受けて「時期尚早」と判断し、システム導入を断念した。
この決定は、全国の児童相談所に大きな影響を与える可能性がある。

現在、児童相談所は人手不足が深刻であり、業務の効率化が急務だ。
AI導入が見送られたことで、今後は人員不足を補いながら、迅速かつ正確な虐待対応を実現するための新たな手段が求められる。職員の教育や情報共有を強化し、現場での対応力を高めることが一層重要となるだろう。

一方で、AI技術は急速に進化しており、将来的に精度が向上すれば再度導入が検討される可能性がある。たとえば、感情や心理状態の解析が進むことにより、AIはより複雑なケースにも柔軟に対応できるようになるだろう。
また、学習データの量や質の向上により、精度の高い判断が期待されている。

最終的には、AIと人間の協力による支援システムの構築が不可欠になると思われる。
AIは業務の補助として役立つものの、最も重要なのは児童相談所の専門的な知識や経験に基づく判断である。AI技術をうまく活用し、人間の判断力を補完する形で虐待問題に対応することが、今後の解決に向けた一つの道となるだろう。

Plus Web3は「Web3領域に特化したキャリア支援サービス」

あわせて読みたい

【Web3転職相談可能！】Web3業界で働くには？必要な手順と大切なことを解説 近年名前を聞くことが多くなったWeb3。 多くのスタートアップが競合を強めたり、大手企業がWeb3業界に参入したりなど、ますます注目を高めています。 しかし具体的にWeb...

Plus Web3では、Web3で働きたい人材と、個人に合わせた優良企業をマッチングする求人サービスを行っています。

• Web3で働くことも考えている…
• Web3のインターン先はどこがいいか分からない…
• どんな知識やスキルがあれば良いのか分からない…

このような悩みを抱える人は、一度「無料キャリア相談」にお越しください。あなたにマッチした優良企業をご紹介いたします。