DeepMind 提出 OPRO:讓大模型自己迭代最佳化 Prompt
DeepMind 研究團隊在一篇新論文中提出 OPRO 方法,直接把大模型當作最佳化器。這項技術用自然語言描述任務並記錄歷史得分,讓模型自主摸索規律,在沒有形式化數學公式的情況下迭代尋找更優解,尤其擅長自己調優提示詞以提升準確率。
DeepMind 研究團隊在一篇新論文中提出 OPRO 方法,直接把大模型當作最佳化器。這項技術用自然語言描述任務並記錄歷史得分,讓模型自主摸索規律,在沒有形式化數學公式的情況下迭代尋找更優解,尤其擅長自己調優提示詞以提升準確率。
據 The Verge 報道,Google CEO Sundar Pichai 在播客訪談中透露,下週將把 Bard 升級為更強大的 PaLM 模型。他坦言當前執行輕量版 LaMDA 的 Bard 就像拿「改裝思域去賽車」,換上新架構後,其邏輯推理、程式設計和解數學題能力都會顯著改善。
研究團隊提出具身多模態語言模型 PaLM-E。它將影像等連續感測器資料直接編碼進大語言模型的嵌入空間,最大模型引數達 562B。這意味著大模型不僅能看懂現實世界,還能指揮機器人規劃並執行多步驟長任務,遇到從未見過的新物體也能自主泛化完成操作。