米Microsoftは、AIの品質と安全性に関する課題への対処を可能にする、生成AIアプリ開発者向けの新たな機能を、「Azure AI Studio」にて提供することを3月28日(現地時間)に発表した。 今回、発表されたのは、プロンプトインジェクション攻撃を検出してブロックするPrompt Shields、モデル出力内の「ハルシネーション」を検出するためのGroundedness detectio …
米Microsoftは、AIの品質と安全性に関する課題への対処を可能にする、生成AIアプリ開発者向けの新たな機能を、「Azure AI Studio」にて提供することを3月28日(現地時間)に発表した。 今回、発表されたのは、プロンプトインジェクション攻撃を検出してブロックするPrompt Shields、モデル出力内の「ハルシネーション」を検出するためのGroundedness detectio …