敵対的サンプル（Adversarial Examples）攻撃からAIモデルを保護する防御技術

敵対的サンプル（Adversarial Examples）攻撃からAIモデルを保護する防御技術とは

敵対的サンプル（Adversarial Examples）攻撃からAIモデルを保護する防御技術とは、機械学習モデルが人間には知覚できないわずかな摂動によって誤った予測や分類を行う「敵対的サンプル攻撃」に対して、モデルの頑健性（ロバストネス）を高め、その脆弱性を低減するための技術群です。これは、自動運転、医療診断、金融取引など、AIの社会実装が進む中でその信頼性と安全性を確保するために不可欠な要素であり、広範な「AIリスクマネジメント」における重要な柱の一つとして位置づけられます。具体的には、敵対的サンプルを検出・除去する手法、モデルの学習過程を改善する手法、入力データを変換する手法などが研究・開発されています。

このキーワードが属するテーマ