Sakana AI 提出 Transformer²:像活脑一样实时调整权重,性能反超 LoRA
Sakana AI 发布自适应架构 Transformer²。它先分析任务需求,再通过强化学习训练的奇异值微调动态调整模型权重。其参数量远少于 LoRA,却在数学、代码与视觉任务中全面占优,甚至支持跨模型复用能力。
Sakana AI 发布自适应架构 Transformer²。它先分析任务需求,再通过强化学习训练的奇异值微调动态调整模型权重。其参数量远少于 LoRA,却在数学、代码与视觉任务中全面占优,甚至支持跨模型复用能力。