米国大統領令に基づくAIモデルの「レッドチーミング」自動化ツール

米国大統領令に基づくAIモデルの「レッドチーミング」自動化ツールとは

米国大統領令に基づくAIモデルの「レッドチーミング」自動化ツールとは、2023年10月に発出された米国大統領令14110号「安全で安心な信頼できるAIの開発と利用に関する大統領令」を受けて、特に基盤モデルのような強力なAIシステムに対し、悪用や予期せぬ挙動、バイアス、セキュリティ脆弱性などを特定するために実施される「レッドチーミング」と呼ばれる攻撃的テストプロセスを効率化・自動化するためのソフトウェアやフレームワーク群である。これは、AIの安全性と信頼性を確保し、国際的なAI規制の議論においても重要な位置を占める。

このキーワードが属するテーマ