OpenAI, 구글 TPU 도입 시작: 엔비디아 의존 줄이고 비용 절감
로이터에 따르면 OpenAI가 ChatGPT 등의 추론 작업에 구글의 TPU를 임대해 사용하기 시작했다. 그동안 엔비디아 GPU에 전적으로 의존해온 컴퓨팅 인프라를 다변화해 급증하는 추론 비용을 낮추고 단일 공급업체 리스크를 줄이려는 조치다.
Trillium
구글, 칩 설계 AI '알파칩' 가중치 공개…TPU 3세대 걸쳐 적용
구글이 반도체 레이아웃을 설계하는 강화학습 시스템 '알파칩(AlphaChip)'의 사전 학습 가중치를 오픈소스로 공개했다. 체스나 바둑처럼 회로 배치를 학습해 사람이 몇 달씩 걸리던 작업을 몇 시간 만에 끝내며, 최신 6세대 트릴리엄(Trillium)을 포함한 구글 TPU와 미디어텍 칩 설계에 이미 쓰이고 있다.