Anthropicが発表、わずか250件の悪意ある文書で13Bモデルの毒入れが可能に
Anthropicや英AISIなどの研究チームは、LLMへのデータ汚染攻撃に関する研究を発表した。モデルの規模に関係なく、攻撃の成否はデータの割合ではなく絶対数に依存し、わずか250件の悪意ある文書を混ぜるだけでバックドアの埋め込みに成功した。大型モデルほど汚染しにくいという前提を覆す結果だ。
The Alan Turing Institute
チューリング研究所調査：英8〜12歳の4人に1人が生成AIを利用
アラン・チューリング研究所の調査によると、英国の家庭の55%が生成AIを利用しており、8〜12歳の子どもの22%が利用経験があると回答しました。最も使われているのはChatGPTで、創作や情報収集、遊びが主な目的となっています。