ラック、生成AIシステム特有のセキュリティ問題を診断するサービス (Security NEXT)

ラックは、「生成AI」を活用したシステムに対して、セキュリティ評価を行うサービス「生成AI活用システム リスク診断」の提供を開始した。 同サービスは、プロンプトより入力されたテキストを処理する対話型AI機能を用いたウェブシステムにおいて、「生成AI」特有の脆弱性や悪用のおそれがないか評価し、改善点なども含めて報告する診断サービス。 ポリシーを回避して不適切なコンテンツが表示されたり、学習された機密 …