애플, 온디바이스 AI API '파운데이션 모델 프레임워크' 공개

앱에 생성형 AI 기능을 넣으려는 개발자에게 가장 큰 고민은 두 가지입니다. 매달 불어나는 클라우드 API 비용과 사용자가 네트워크 연결을 끊었을 때 기능이 먹통이 되는 문제입니다.

Apple이 WWDC에서 이 두 가지 고민을 한 번에 덜어줄 카드를 꺼냈습니다. Apple Intelligence의 핵심인 온디바이스 파운데이션 모델을 서드파티 개발자가 직접 활용할 수 있도록 지원하는 신규 API, Foundation Models Framework를 발표했습니다.

오프라인 지원에 추론 비용도 0원

새로운 프레임워크를 이용하면 개발자는 외부 클라우드 모델을 거칠 필요 없이 기기 내부 모델을 앱에 곧바로 통합할 수 있습니다.

Apple의 소프트웨어 엔지니어링 담당 수석 부사장 크레이그 페데리기(Craig Federighi)는 Apple Intelligence를 구동하는 모델이 더 강력하고 효율적으로 발전했다고 설명했습니다. 개발자에게 온디바이스 모델 접근 권한을 직접 제공해 매일 사용하는 앱 전반에서 새로운 지능형 경험을 촉발하겠다는 구상입니다.

이 프레임워크의 핵심 강점은 명확합니다. 모든 처리가 기기 안에서 완결되어 사용자 프라이버시가 안전하게 보호되고, 인터넷이 끊긴 오프라인 환경에서도 그대로 동작하며, 개발자에게 추가 추론 비용이 전혀 발생하지 않습니다.

Apple이 제시한 실제 사례를 보면, 교육 앱이 기기 안에서 사용자 필기 노트를 바탕으로 퀴즈를 생성하거나, 아웃도어 앱이 통신이 불가능한 야외에서 자연어 검색을 제공하는 식입니다.

기존 앱에 쉽게 녹여낼 수 있도록 가이드 생성 기능과 도구 호출(Tool Calling) 같은 핵심 장치들도 기본으로 제공됩니다.

개발자 테스트는 Apple Developer Program을 통해 developer.apple.com에서 즉시 시작되며, 일반 공개 베타는 다음 달 beta.apple.com을 통해 배포될 예정입니다.

왜 중요한가

인디 개발자와 중소 개발사 입장에서 토큰 비용 걱정 없는 무료 온디바이스 AI는 파격적인 혜택입니다.

그동안은 AI 기능을 하나 넣으려 해도 사용자가 늘어날수록 API 요금 부담이 커져 수익 모델을 맞추기 어려웠습니다. 이제 기기 자체 연산력을 쓰면서 비용 부담을 없앨 수 있는 만큼, 다음 달 공개 베타가 나오면 기존 앱에 바로 도입을 검토해 볼 가치가 충분합니다.

업계 관점에서도 이번 조치는 매우 영리한 선택으로 보입니다. Apple이 자체 앱 몇 개로 AI 사용법을 제시하는 데 그치지 않고, 수백만 생태계 개발자에게 모델을 개방해 킬러 서비스를 직접 발굴하도록 유도하는 전략이기 때문입니다.

다만 온디바이스 소형 모델의 체급 한계는 감안해야 합니다. 모바일 기기의 배터리와 발열 한계 안에서 돌아가는 모델인 만큼, 거대 클라우드 모델 수준의 복잡한 논리 추론을 기대하기는 어렵습니다. 요약이나 로컬 검색 같은 실용적인 기능에 집중하고 사용자 기대치를 현실적으로 관리하는 작업이 필요해 보입니다.