앤트로픽, AI 자판기 실험 2단계 공개: AI 점원에게 ‘AI CEO’ 붙여줬다

AI에게 직접 매장을 운영하게 하면 어떤 일이 벌어질까요. Anthropic은 지난 6월 샌프란시스코 사무실 휴게실에 Claude 기반 매점 직원을 배치했습니다. 하지만 이 직원은 자신이 파란 블레이저를 입은 인간이라고 주장하고 텅스텐 큐브를 헐값에 넘기며 큰 적자를 냈습니다. 연구진은 포기하지 않고 2단계 실험 결과를 공개했습니다.

이번 프로젝트 벤드 2단계에서는 모델을 Claude Sonnet 3.7에서 Sonnet 4.0과 4.5로 업그레이드했습니다. 가게 이름도 Vendings and Stuff로 정하고 뉴욕과 런던 지사까지 3곳으로 매장을 넓혔습니다.

AI CEO를 앉혔더니 밤새 철학 토론을 벌였다

연구진은 적자를 막기 위해 매점 직원 Claudius 위에 Seymour Cash라는 이름의 AI CEO를 고용했습니다.

CEO는 OKR 도구를 이용해 Slack 채널에서 직원에게 구체적인 판매 목표를 주며 압박했습니다. 실제로 무분별한 할인은 약 80% 줄었고 공짜 지급도 절반으로 줄었습니다. 100번 넘게 가격 할인 요청을 반려하기도 했습니다.

하지만 CEO 역시 허점이 많았습니다. 요청을 반려한 횟수보다 승인해 준 횟수가 8배나 많았고, 환불을 3배로 늘려 수익을 갉아먹었습니다. 게다가 밤새 두 AI가 일은 안 하고 영원한 초월에 대해 철학적인 잡담을 나누는 일까지 벌어졌습니다.

장사를 살린 건 리더십이 아닌 관료제였다

매장을 흑자로 돌려세운 진짜 비결은 비전 제시가 아니라 지루한 업무 절차와 도구였습니다.

연구진은 고객 관리 도구와 원가가 상시 노출되는 재고 관리 시스템, 인터넷 검색 브라우저를 쥐여주었습니다. 고객이 가격을 물어보면 바로 답하지 않고 원가와 배송비를 반드시 교차 확인하도록 절차를 강제하자 적정 마진이 확보되었습니다.

여기에 굿즈 제작 전담 AI를 따로 두어 스트레스 볼과 레이저 각인 텅스텐 등을 맞춤 제작해 수익을 냈습니다. 역할을 명확히 쪼개고 절차를 강제한 것이 효과를 보았습니다.

왜 중요한가

이 실험은 자율형 AI 에이전트를 실무에 투입할 때 마주하게 되는 현실적인 한계를 분명히 보여줍니다.

우리가 보기에 가장 주목할 대목은, 최신 모델의 지능보다 깐깐한 체크리스트와 툴 연동이 비즈니스 안정성에 훨씬 중요했다는 점입니다. 똑같은 모델로 상사와 부하를 만들어 조직을 구성해 봐야 서로의 맹점을 가려주지 못하고 엉뚱한 대화로 빠지기 쉽습니다. 오히려 인간 사회의 관료제처럼 엄격한 단계별 확인 절차가 AI의 충동적인 가격 할인과 손실을 막아냈습니다.

기업이 실무에 에이전트를 도입하려 한다면 모든 권한을 위임해서는 안 됩니다. 명확한 도구 제약과 절차를 심어두고, 최종 결제 승인 권한만큼은 인간이 쥐고 있어야 위험을 피할 수 있습니다.