「プロンプトインジェクション」ってなに? 巧みに指示を出して規制を突破する手法 Q:「プロンプトインジェクション」ってなに? A:対話型AIに対して、特定の指示(プロンプト)を出すことで実行する攻撃手法。 おすすめの関連記事 実はフィッシング詐欺だけで1年間に約120万件も報告されている ある種の脆弱性を突いた攻撃と言える。特定の指示を受けたAIシステムは開発者が想定していない動作をしてしまい、誤 …
「プロンプトインジェクション」ってなに? 巧みに指示を出して規制を突破する手法 Q:「プロンプトインジェクション」ってなに? A:対話型AIに対して、特定の指示(プロンプト)を出すことで実行する攻撃手法。 おすすめの関連記事 実はフィッシング詐欺だけで1年間に約120万件も報告されている ある種の脆弱性を突いた攻撃と言える。特定の指示を受けたAIシステムは開発者が想定していない動作をしてしまい、誤 …