AIの守りを鍛える新手法、**GPT-Red**登場
AIの守りはAIの攻撃で鍛える、という発想の下、OpenAIが攻防対戦型の訓練を公開した。攻撃役と防御役のAIを競わせることで、GPT-5.6は同社史上もっとも堅牢なモデルへと成長した。実務適用には安全性と検証のさらなる整備が不可欠だろう。
出典: AIの守りはAIの攻撃で鍛える、オープンAIが「LLMハッカー」を開発
出典: AIの守りはAIの攻撃で鍛える、オープンAIが「LLMハッカー」を開発