IBM, 차세대 메인프레임 'z17' 발표…Telum II 탑재해 일일 4500억 회 AI 추론 처리

클라우드 기반 대형 언어 모델에 시선이 쏠려 있는 사이, 금융권과 국가 기간망의 핵심을 지키는 메인프레임이 본격적인 AI 시스템으로 진화했습니다.

IBM은 새로운 차세대 메인프레임인 'IBM z17'을 발표했습니다. 5년간의 연구개발과 300건 이상의 특허 출원, 100개 이상의 고객사 피드백을 반영해 하드웨어부터 소프트웨어까지 AI 워크로드를 염두에 두고 설계된 기기입니다.

1밀리초 응답 속도와 일 4500억 회 추론

IBM z17의 핵심은 새로운 '텔럼 II(Telum II)' 프로세서입니다. 2세대 온칩 AI 가속기가 내장되어 클록 주파수와 연산 능력이 향상되었고, 캐시 메모리 용량도 40% 증가했습니다.

이를 통해 z17은 1밀리초 미만의 지연 시간으로 하루 4500억 회 이상의 AI 추론을 처리할 수 있습니다. 이전 모델인 z16과 비교하면 하루 처리 가능한 AI 추론 작업이 50% 늘어난 수치입니다.

IBM은 이를 통해 기업이 트랜잭션의 100%를 실시간으로 스코어링해 금융 사기를 잡아낼 수 있다고 설명합니다. 또한 2025년 4분기에는 PCIe 카드 형태의 '스파이어(Spyre) 가속기'가 추가되어, IBM 그래닛(Granite) 모델 기반의 생성형 AI 어시스턴트와 에이전트까지 로컬에서 직접 구동할 수 있게 됩니다.

운영체제 업데이트와 AI 기반 시스템 관리

운영체제도 크게 달라집니다. 2025년 3분기 출시 예정인 'z/OS 3.2'는 하드웨어 가속 AI 기능과 NoSQL 데이터베이스, 하이브리드 클라우드 데이터 처리를 폭넓게 지원합니다.

운영 관리 측면에서는 2025년 5월 정식 출시되는 'IBM Z 오퍼레이션 유나이트(Operations Unite)'가 도입됩니다. 시스템 메트릭과 로그를 오픈텔레메트리(OpenTelemetry) 형식으로 통합하고, watsonx Assistant for Z와 연동해 AI 채팅 인터페이스로 실시간 시스템 장애를 분석하고 해결할 수 있도록 돕습니다.

왜 중요한가

많은 이들이 메인프레임을 과거의 유물로 취급하지만, 글로벌 금융과 주요 공공 인프라는 여전히 이 장비에 의존하고 있습니다. IBM의 이번 접근 방식이 영리한 이유는, 보수적인 기업들에게 민감한 데이터를 외부 클라우드로 옮기라고 요구하는 대신 '데이터가 머무는 바로 그 자리'에 AI 연산 환경을 구축해 줬다는 점입니다.

금융사와 의료 기관 입장에서 컴플라이언스 위험이나 네트워크 지연 없이 1밀리초 안에 실시간 추론을 마칠 수 있다는 점은 대단히 강력한 매력입니다. 대출 리스크 완화나 결제 이상 징후 포착 같은 실제 업무에 즉시 투입할 수 있습니다.

다만 이 장비는 막대한 도입 비용을 감당할 수 있는 최상위 엔터프라이즈의 전유물이며, 본격적인 생성형 AI 구동을 위한 스파이어 카드가 연말에나 나온다는 점은 도입을 검토하는 기업이 고려해야 할 부분입니다. 그럼에도 불구하고 핵심 엔터프라이즈 환경에서 데이터 주권을 지키며 AI를 확장하는 현실적인 해법을 제시했다는 점에서 중요한 이정표가 될 것으로 보입니다.