神戸デジタルラボがAIセキュリティ診断提供　生成AI特有の脅威に対応

2025年11月12日、神戸市の神戸デジタル・ラボ（KDL）は、生成AIを活用したWebアプリケーション向けに「AIシステムのセキュリティ診断サービス」を提供開始したと発表した。
AI特有の誤作動や情報漏えいリスクを検査する国内発の取り組みだ。

AI活用システムの脆弱性を可視化する新診断サービス

KDLは、生成AIや大規模言語モデル（LLM）を搭載したWebアプリケーション向けに特化したセキュリティ診断サービスを開始した。
AI技術の導入が広がる一方で、従来型の診断では捉えきれないリスクが顕在化しており、企業側の対策が課題になっていた背景がある。

本サービスでは、AIモデルへの直接的なプロンプト送信とWebアプリケーションを通じた操作の双方で脆弱性を検査する。
プロンプトインジェクション（※）や機密情報の漏えい、スクリプト実行の誘発、外部ツール連携の悪用など、AI特有のふるまいに起因する問題を幅広く分析する仕組みだ。

診断内容は、AIが不正な入力によって挙動を変えられる危険性や、内部情報が応答に混入する可能性、あるいはAI出力を介したコード実行リスクなど多岐にわたる。
診断結果をもとにWebアプリケーションを改修することで、これらのリスクを抑制できる。

KDLは2008年から情報セキュリティサービス「Proactive Defense」を通じ、多様なWebアプリケーションやプラットフォームの診断を実施してきた実績を持つ。
さらに、生成AIを用いた業務支援アプリケーションの開発経験も豊富で、AIとシステム開発、セキュリティの三領域に通じた点が特徴とされる。
その知見を基に、実務に即した改善提案を行える点が強みになっている。

※プロンプトインジェクション：ユーザーの入力を通じてAIの動作や意図を不正に操作する攻撃手法。内部情報の漏えいや不正出力を誘発する可能性があるため、生成AIの主要リスクとされる。

AI導入拡大で高まる安全性要求　企業の対策は不可避に

AIの業務活用が急速に広がるなか、企業が向き合うべきリスクは今後さらに複雑化すると予想される。
生成AIは利便性が高い一方、誤出力や機密漏えい、外部操作による誤作動などの課題を内包しており、適切な対策なしでは業務継続に重大な影響を及ぼす可能性がある。

今回の診断サービスは、こうした新種の脅威に体系的に対応する初期ステップになる。
AI特有の挙動を踏まえて検査する仕組みは、従来のWebアプリケーション診断では補えなかった領域を埋めるもので、AI活用を進める企業の安全性を底上げする効果が期待される。

一方で、企業にとっては導入時のコストや運用面での負荷も無視できない。
AIモデルの更新頻度や外部サービス連携が増えるほど監視すべきポイントが増え、診断や改修の継続が必要になるからだ。
とはいえ、AIの導入規模が広がる以上、セキュリティ対策は避けて通れない問題といえる。

今後は、AIツールの利用拡大に合わせ、各企業が自社のリスクに応じた診断やガイドライン策定を進める動きが加速するとみられる。
業界全体で安全基準をどこまで整備できるかが、AIの社会実装を支える重要な焦点になりそうだ。

株式会社神戸デジタル・ラボ プレスリリース

関連記事：

NTTデータ先端技術、「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」を提供開始

あわせて読みたい

NTTデータ先端技術、「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」を提供開始 2025年2月25日、NTTデータ先端技術は日本国内で「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の提供を開始した。このサービスは、最新の「OWASP Top 10 ...