Googleが「Nested Learning」を発表：AIの「壊滅的忘却」を防ぐ新パラダイム
Google ResearchはAIが新しい知識を学ぶ際に過去の記憶を失う「壊滅的忘却」を防ぐ新パラダイム「Nested Learning」を発表した。モデル構造と最適化アルゴリズムを多層の入れ子構造として統合し、検証アーキテクチャ「Hope」において標準的なTransformerを上回る長文記憶性能を実証した。
Google ResearchはAIが新しい知識を学ぶ際に過去の記憶を失う「壊滅的忘却」を防ぐ新パラダイム「Nested Learning」を発表した。モデル構造と最適化アルゴリズムを多層の入れ子構造として統合し、検証アーキテクチャ「Hope」において標準的なTransformerを上回る長文記憶性能を実証した。