AIセキュリティ：トークンレベルでのプロンプトインジェクション検知と防御

AIセキュリティ：トークンレベルでのプロンプトインジェクション検知と防御とは

「AIセキュリティ：トークンレベルでのプロンプトインジェクション検知と防御」とは、大規模言語モデル（LLM）に対する悪意ある指示（プロンプトインジェクション）を、入力テキストがトークンに分解される過程や、生成されるトークン列の段階で検知し、防御する技術です。プロンプトインジェクションは、LLMの意図しない動作を引き起こし、情報漏洩や誤情報生成などのリスクをもたらします。この防御手法は、単語や文脈全体ではなく、LLMが内部的に処理する最小単位である「トークン」のパターンやシーケンスを分析することで、より精密かつ早期に攻撃を識別します。親トピックである「LLMのトークナイザー」が入力テキストをいかにトークン化するかを理解することは、この防御メカニズムの理解に不可欠です。

このキーワードが属するテーマ