PKSHA Technologyの「PKSHA Security for Post Guard」が不適切投稿をAIで自動検知

2025年2月25日に提供が開始された「PKSHA Security for Post Guard」は、AI技術を用いて誹謗中傷や虚偽情報を自動的に検知し、安全なオンライン環境の構築を狙う新サービスだ。

増大する不適切投稿とサービスの背景

近年、SNSや掲示板などの匿名性を背景とした誹謗中傷や虚偽情報が急増している状況が続いている。これらの投稿は個人の名誉を毀損するだけでなく、社会全体の混乱を招く要因ともなり得るため、早急な対策が求められてきた。
PKSHA Technologyは「人とソフトウェアの共進化」を掲げ、AI技術によってこうした問題を解決へ導くことを目指す企業だ。

今回発表された「PKSHA Security for Post Guard」は、独自開発の高精度テキスト解析を搭載し、誹謗中傷や未成年を狙った不適切な勧誘といった不正投稿を迅速に検知するという。
大量の投稿からリスクの高いコンテンツを抽出することで効率化でき、人による監視の負荷を軽減しながら高い精度を追求する点が特徴といえる。すでに金融業界などで実績を積んだ技術を応用しており、オンライン上のリスク軽減策として国内外のプラットフォーム事業者から期待を集めている。

近年は、未成年をターゲットとした違法勧誘や虚偽情報の流布が深刻化しているが、その実態を把握するには膨大な作業が必要だったとみられている。

AI活用による監視体制と今後の展開

このサービスでは、人とAIが協力するハイブリッド型の監視体制を採用している。
単にキーワードを拾うだけでなく、投稿の文脈を考慮して誹謗中傷や誘導的表現を判断する点が強みだといえる。AIモデルは定期的に再学習を行い、新たなトレンドに合わせて検知精度を高める仕組みを備えている。

さらに専用の管理画面では、利用者が独自の検知ルールを設定可能で、細かな運用要件にも柔軟に対応することができる。API連携にも対応しているため、プラットフォーム運営者がリアルタイムで不適切投稿の有無を把握しやすくなるとみられる。

これらの機能を背景に、オンライン上の風評被害や未成年者の保護を強化したい企業にとって、有効な選択肢となる可能性が高い。今後はさらなる機能拡張も計画されているため、広範なリスクマネジメントの一環として、デジタル社会で果たす役割がより重要になっていくだろう。

関連記事

あわせて読みたい

北海道教育委員会がAI教材「すらら」の継続利用を決定 2025年2月21日、北海道教育委員会は、不登校支援の一環としてAI教材「すらら」の継続利用を行う方針であることを発表した。この取り組みはメタバース空間「ほっかいどう...