딥마인드, LLM이 스스로 프롬프트를 최적화하는 OPRO 발표
딥마인드 연구진이 대규모 언어 모델을 최적화 도구로 활용하는 OPRO 기법을 발표했다. 복잡한 수학 공식 대신 자연어 설명과 이전 시도 점수를 메타 프롬프트에 담아, 모델이 스스로 개선안을 찾아내며 작업 정확도를 높이는 최적의 프롬프트를 작성하도록 돕는다.
PaLM
순다 피차이 구글 CEO "바드, 다음 주 더 강력한 PaLM 모델로 업그레이드"
외신에 따르면 순다 피차이 구글 CEO는 팟캐스트 인터뷰에서 바드를 차세대 대형 모델인 PaLM 기반으로 곧 업그레이드하겠다고 밝혔다. 현재의 바드를 "개조한 시빅으로 고성능 레이스에 출전한 꼴"에 빗대며, 업그레이드 후 추론과 코딩, 수학 문제 해결 능력이 크게 개선될 것이라고 전했다.
5620억 파라미터 로봇 언어 모델 'PaLM-E' 공개: 센서와 언어의 결합
연구팀이 임바디드 멀티모달 언어 모델 'PaLM-E'를 발표했다. 센서 관측 데이터를 언어 모델의 임베딩 공간에 직접 주입하는 방식으로, 최대 5620억 개 파라미터까지 확장된다. 로봇은 이를 통해 '서랍에서 칩 가져오기' 같은 복잡한 다단계 작업을 시각 피드백을 반영하며 수행할 수 있다.