#ChouBun

15:00研究拡散指数 31

Sakana AIが汎用記憶機構を発表、不要な情報を忘れることで性能向上

Sakana AIは人間の記憶のように不要なトークンを取捨選択する「ニューラル・アテンション・メモリ・モデル（NAMM）」を発表した。進化型アルゴリズムで最適化され、メモリ消費を抑えながら長文推論性能を向上させる。言語で獲得した記憶機構は、追加学習なしで画像認識や強化学習モデルにもゼロショット転移できる。