ChatGPTをはじめとするAIチャットbotをWebサイトに適用して顧客窓口にする際、問題になるのが「プロンプトインジェクション」だ。対策が甘いと、悪意を持ったユーザーに意図しない使われ方をしてしまう。余計なコストを支払わされたり、機密情報が漏えいするリスクがある。 リクルートが運営する旅行情報サイト「じゃらんnet」がAIチャットbotサービス「AIチャットでご提案」を試験提供している。AIチ …
ChatGPTをはじめとするAIチャットbotをWebサイトに適用して顧客窓口にする際、問題になるのが「プロンプトインジェクション」だ。対策が甘いと、悪意を持ったユーザーに意図しない使われ方をしてしまう。余計なコストを支払わされたり、機密情報が漏えいするリスクがある。 リクルートが運営する旅行情報サイト「じゃらんnet」がAIチャットbotサービス「AIチャットでご提案」を試験提供している。AIチ …