#Nested Learning

AI科研传播指数 31

Google 提出 Nested Learning：打破架构与算法界限，专治大模型「健忘症」

Google Research 提出机器学习新范式 Nested Learning，试图解决大模型的灾难性遗忘问题。该方法将网络架构与优化算法统一为按不同频率更新的嵌套优化问题，并据此设计出自修改架构 Hope，在长文本与常识推理评测中表现优于标准 Transformer。