앤트로픽, 철학자 영입해 클로드 윤리 교육: 3만 단어 AI 헌법 주도

수천억 개 매개변수를 지닌 거대 언어 모델에게 사람다운 도덕성을 가르치는 일은 코드가 아닌 철학에서 출발하고 있습니다.

기업가치 3500억 달러에 달하는 앤트로픽에서 클로드의 인격 정렬팀을 이끄는 인물은 스코틀랜드 출신의 철학자 아만다 아스켈입니다. 최근 월스트리트저널이 집중 조명한 그의 임무는 설명하기엔 단순하지만 범위는 방대합니다. 클로드에게 착하게 행동하는 법을 가르치는 것입니다.

아스켈의 이력은 독특합니다. 던디 대학교에서 철학과 순수미술을 전공하고 옥스퍼드대에서 석사급 학위를 거쳐 2018년 뉴욕대에서 철학 박사 학위를 받았습니다. 박사 논문 주제는 무한한 인구가 존재하는 우주에서의 윤리적 난제였는데, 매일 수많은 이용자와 대화하는 AI의 윤리를 다루는 현재 업무에 맞닿아 있습니다.

3만 단어 헌법으로 스스로 반성하는 AI

아스켈은 2018년부터 2021년까지 오픈AI에서 안전과 정책 연구를 담당하며 GPT-3 논문의 공동 저자로 참여했습니다. 하지만 안전 우선순위가 밀리고 있다는 우려로 회사를 떠나 2021년 앤트로픽에 합류했습니다.

그는 앤트로픽의 핵심 방법론인 헌법적 AI의 주요 설계자입니다. 대규모 외주 인력의 라벨링에 전적으로 의존하는 대신, 성문화된 헌법을 모델에 주고 클로드 스스로 자신의 답변을 비판하고 수정하게 만드는 방식입니다.

2026년 1월에 공개된 최신 3만 단어 분량 헌법의 상당 부분도 아스켈이 직접 작성했습니다. 강화학습과 합성 데이터를 활용해 클로드가 유익하고, 정직하며, 무해한 방향으로 답하도록 훈련합니다.

부모의 마음으로 쓰는 100쪽짜리 프롬프트

아스켈은 자신의 역할을 종종 부모에 비유합니다. 클로드의 추론 패턴을 면밀히 분석하고 때로는 100쪽이 넘는 시스템 프롬프트를 다듬으며 호기심과 감성 지능, 도덕적 자기반성 능력을 길러냅니다.

2023년에는 동료 딥 간굴리와 함께 자연어 지시만으로도 고도화된 모델이 편향되거나 유해한 출력을 스스로 줄일 수 있다는 도덕적 자가 교정 논문을 발표하기도 했습니다. 그는 기빙 왓 위 캔 회원으로서 평생 수입의 최소 10%에서 최대 절반 이상을 글로벌 빈곤 퇴치에 기부하기로 서약했으며, 2024년 타임 100 AI에 선정됐습니다.

왜 중요한가

클로드를 쓸 때 느껴지는 훈계하지 않는 태도와 기계적인 답변 거절을 줄인 차분한 어조는 우연이 아니라 아스켈 팀이 정교하게 설계한 결과입니다. 다른 AI가 민감한 질문에 무작정 대화를 차단하거나 도덕 교과서 같은 설교를 늘어놓는 것과 달리, 클로드는 논리를 갖추고 맥락을 살려 답하기 때문에 기획이나 작문 등 복잡한 실무에서 바로 체감할 만한 가치를 줍니다.

업계 전반으로 보면, 불투명한 인적 검열 공장에 의존하던 AI 정렬을 투명한 원칙 중심 자가 규제로 전환했다는 데 큰 의미가 있습니다. 모델이 어떤 기준에 따라 답변을 검열하고 다듬는지 외부에서 감시할 수 있는 기준점을 제시했기 때문에, 경쟁사들도 성문화된 윤리 체계를 내놓도록 압박받게 됩니다.

우리는 앤트로픽이 모호한 피드백 대신 공개된 헌법과 자가 반성을 도입한 점을 매우 영리한 선택으로 봅니다. 다만 3만 단어의 헌법이라 해도 소수 서구 철학자 집단의 윤리관이 강하게 반영될 수밖에 없습니다. 다양한 문화권과 법적 기준이 충돌하는 글로벌 환경에서 한 편의 헌법이 모두에게 공정한 기준이 될 수 있을지는 앞으로 지켜봐야 할 문제입니다.