구글, 칩 설계 AI '알파칩' 가중치 공개…TPU 3세대 걸쳐 적용
구글이 반도체 레이아웃을 설계하는 강화학습 시스템 '알파칩(AlphaChip)'의 사전 학습 가중치를 오픈소스로 공개했다. 체스나 바둑처럼 회로 배치를 학습해 사람이 몇 달씩 걸리던 작업을 몇 시간 만에 끝내며, 최신 6세대 트릴리엄(Trillium)을 포함한 구글 TPU와 미디어텍 칩 설계에 이미 쓰이고 있다.
AI 컴퓨팅
최신 소식 보기
엔비디아, 美 정부 '글로벌 포용적 AI' 파트너십 합류…개도국에 1천만 달러 지원
엔비디아가 미국 정부 주도의 '글로벌 AI 포용성 파트너십(PGIAI)'에 참여한다고 밝혔다. 엔비디아는 개발도상국의 대학과 개발자에게 약 1천만 달러 규모의 무료 AI 교육 및 GPU 크레딧을 지원한다. 오픈AI, 구글 등과 함께 신흥국의 AI 접근성을 높여 지속 가능한 발전을 돕는다는 계획이다.
샘 올트먼, '지능의 시대' 기고: "수천 일 내 초지능 등장할 수 있어"
OpenAI CEO 샘 올트먼이 '지능의 시대'라는 블로그 글을 통해 딥러닝의 확장을 바탕으로 수천 일 내에 초지능이 등장할 수 있다고 밝혔습니다. 그는 AI가 부유층의 독점물이나 갈등의 원인이 되지 않으려면 컴퓨팅과 에너지 인프라 구축이 필수적이라고 강조했습니다.
퀄컴, 인텔 인수 타진 보도 나와
월스트리트저널에 따르면 퀄컴이 최근 인텔에 잠정적 인수 가능성을 타진했다. 인텔은 AI 칩 경쟁 지연 등으로 100억 달러 비용 절감과 1만 5,000명 이상 감원을 발표하며 고전 중이다. 실제 성사될 경우 반도체 판도가 뒤흔들리겠지만 반독점 규제 등 넘어야 할 산이 많다.
마이크로소프트, AI 데이터센터 위해 '스리마일섬 원전' 전력 20년 독점 구매
마이크로소프트가 콘스텔레이션과 20년 전력 구매 계약을 맺고 폐쇄된 스리마일섬 원자력 발전소를 재가동해 전력을 독점 공급받기로 했다. 규제 당국의 승인을 거쳐 2028년부터 800메가와트 이상의 무탄소 전력을 확보해 AI 데이터센터 확장에 투입한다는 구상이다.
엔비디아, AI 에어리얼 공개: 무선 기지국과 생성형 AI를 단일 플랫폼으로 통합
엔비디아가 AI 무선 접속망(AI-RAN) 구축을 위한 가속 컴퓨팅 제품군 'NVIDIA AI Aerial'을 발표했다. 통신사는 단일 인프라에서 5G·6G 통신망 최적화와 에지 생성형 AI 서비스를 함께 구동해 인프라 비용을 줄일 수 있다. T모바일, 에릭슨, 노키아와 혁신 센터도 조성한다.
인텔, AI 파운드리 사업 독립 자회사로 분사…주가 6% 급등
인텔은 AI 반도체 파운드리 부문을 자체 이사회를 갖추고 외부 자금을 조달할 수 있는 독립 자회사로 분사한다고 발표했다. 지속된 대규모 적자에서 벗어나 엔비디아와 경쟁하기 위한 전략으로, 발표 당일 인텔 주가는 6.4% 급등했다.
바이트댄스, TSMC와 손잡고 자체 AI 칩 설계 추진
바이트댄스가 TSMC와 협력해 훈련 및 추론용 자체 AI 칩 2종을 설계 중이며 2026년 양산을 목표로 하고 있다고 외신이 전했다. 고가의 엔비디아 GPU 의존도를 낮추기 위한 행보지만, 아직 설계 단계로 최종 확정되지는 않았다.
그록, 사우디 아람코와 손잡고 대규모 AI 추론 데이터센터 구축
AI 칩 스타트업 그록이 사우디 아람코와 제휴를 맺고 사우디아라비아에 대규모 AI 추론 데이터센터를 짓는다고 밝혔다. 아람코가 수억 달러를 투자해 초기 19,000개의 LPU를 배치하고 연내 가동할 계획이다. 향후 최대 200,000개까지 확대해 중동과 인도를 아우르는 AI 허브로 육성한다는 구상이다.
메타, 라마 생태계 성적표 공개: 누적 다운로드 3.5억 건 육박, 클라우드 사용량 두 달 만에 2배
메타는 라마 3.1 출시 이후의 성장 지표를 공개했습니다. 허깅페이스 누적 다운로드 수는 전년 대비 10배 이상 증가한 3억 5,000만 건에 육박하며, 주요 클라우드 파트너의 토큰 사용량도 5월부터 7월 사이 2배 이상 늘었습니다. 8월에는 가장 큰 405B 모델 이용자 수가 가장 많아 오픈소스 모델의 기업 도입이 본격화되고 있음을 보여줍니다.
매직, 1억 토큰 처리하는 LTM-2-mini 공개 및 3억 2000만 달러 투자 유치
매직은 1억 토큰의 초장문 맥락을 추론할 수 있는 AI 모델 'LTM-2-mini'를 발표했다. 이는 코드 약 1000만 줄이나 소설 약 750권에 달하는 분량으로, 해당 맥락 크기에서 Llama 3.1 405B 대비 추론 연산 비용을 약 1000배 절감했다. 매직은 3억 2000만 달러의 신규 투자 유치와 구글 클라우드와의 슈퍼컴퓨터 구축 파트너십도 함께 공개했다.
엔비디아 2분기 매출 2배 급증해 300억 달러 돌파, 그러나 시간외 주가 7% 하락
엔비디아가 발표한 2분기 매출은 전년 대비 122% 급증한 300억 4,000만 달러로 시장 전망치를 웃돌았습니다. 데이터센터 매출이 154% 폭증했으나, 블랙웰 칩 재설계로 매출총이익률이 소폭 하락하고 투자자들의 눈높이가 지나치게 높았던 탓에 시간외 거래에서 주가는 7% 이상 하락했습니다.
세레브라스, 세계 최고속 AI 추론 출시…Llama 3.1 초당 1800토큰 기록
세레브라스 시스템즈가 초고속 AI 추론 서비스인 '세레브라스 인퍼런스'를 공개했다. Llama 3.1 8B 모델 기준 초당 1800토큰을 출력해 기존 GPU 클라우드 대비 20배 빠르며 16비트 정밀도를 온전히 유지한다. 가격은 8B 기준 100만 토큰당 10센트부터 시작해 다단계 AI 에이전트의 실시간 반응성을 획기적으로 개선한다.
퀄컴, 중급형 스마트폰용 '스냅드래곤 7s 3세대' 공개
퀄컴이 실시간 번역 등 온디바이스 생성형 AI 기능을 지원하는 '스냅드래곤 7s 3세대'를 발표했다. 800달러 이상 플래그십에 머물던 AI 기능을 500~600달러대 중급형 기기로 확대하며, 다음 달 샤오미 스마트폰에 최초 탑재된다.
엔비디아, 온디바이스 SLM '네모트론-4 4B' 공개: RTX PC서 게임 NPC와 실시간 대화
엔비디아가 게임스컴에서 디지털 휴먼 기술 스위트 'NVIDIA ACE'에 첫 온디바이스 소형 언어 모델 '네모트론-4 4B 인스트럭트'를 추가했다. 15B 모델에서 지식 증류 및 양자화되어 메모리 점유율을 대폭 낮췄다. 이용자의 RTX PC에서 로컬로 구동되어 '메카 브레이크' 등 게임 속 NPC가 클라우드 없이도 지연 시간 없이 자연스럽게 플레이어의 명령을 이해하고 반응한다.
인간 뇌 오가노이드로 만든 생체 컴퓨터, 월 500달러에 연구용 대여 시작
외신에 따르면, 스위스 스타트업 파이널스파크가 인간 뇌 오가노이드를 연산 장치로 활용하는 생체 컴퓨팅 플랫폼 '뉴로플랫폼'을 월 500달러에 대여하고 있다. 전극 자극과 도파민 보상으로 신경망을 학습시키며, 기존 AI 대비 전력 소비를 10만 분의 1로 줄이는 것이 목표다. 현재 30여 개 대학 연구팀이 참여 중이다.
긱벤치 개발사, 크로스플랫폼 AI 벤치마크 'Geekbench AI 1.0' 출시
프라이메이트 랩스가 AI 성능 측정 도구 'Geekbench AI 1.0'을 정식 출시했다. 기존 Geekbench ML의 후속작으로, 안드로이드·리눅스·macOS·윈도우 전반에서 머신러닝 워크로드 성능을 표준화된 기준으로 측정하고 비교할 수 있다.
마이크로소프트와 팔란티어, 미 국방 기밀 클라우드에 GPT-4 도입
팔란티어와 마이크로소프트는 파트너십을 확장하고 미국 국방 및 정보 커뮤니티의 기밀·최고 기밀 클라우드에 Azure OpenAI 서비스와 GPT-4를 도입한다고 발표했다. 팔란티어 AIP와 통합해 군수와 작전 계획 등 핵심 안보 업무의 AI 활용을 지원한다.
AI 칩 스타트업 그록, 6억 4000만 달러 투자 유치…얀 르쿤 고문 합류
AI 추론 칩 스타트업 그록(Groq)이 블랙록이 주도한 라운드에서 6억 4000만 달러 투자를 유치하며 기업가치 28억 달러를 기록했다. 엔비디아에 맞서 LPU 칩 보급을 대폭 늘릴 계획이며, 메타의 얀 르쿤 수석 AI 과학자를 기술 고문으로 영입했다.
엔비디아, 설계 결함으로 차세대 AI 칩 '블랙웰' 인도 최소 3개월 연기설
외신에 따르면 엔비디아가 생산 막바지에 발견된 설계 결함으로 인해 차세대 AI 칩 '블랙웰 B200' 출하를 최소 3개월 연기한다고 마이크로소프트 등에 통보했다. 대규모 출하가 내년 1분기로 미뤄지면서 수백억 달러어치를 주문한 빅테크들의 인프라 일정에 영향이 불가피할 전망이다. 엔비디아는 소문에 답변을 피했다.