もっと詳しく

ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」を提供を開始した。同社によれば、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であることが明らかになってきているという。 同サービスは、「プロンプトの悪用による機密情報の搾取」「不適切なコンテンツの …