OpenAI, ChatGPT 행동 기준 공개: 사용자 맞춤 설정과 대중 참여 추진

ChatGPT가 사소한 질문에 훈계를 늘어놓으며 답변을 거부하거나 정치적 편향을 드러낼 때마다, 사용자들은 개발사가 의도적으로 개입한 것이 아니냐는 의구심을 품어왔습니다.

논란이 이어지자 OpenAI는 공식 블로그를 통해 시스템의 동작 방식과 개선 계획을 밝혔습니다. OpenAI는 모델에서 나타나는 편향은 의도된 기능이 아니라 버그일 뿐이라며, 사용자 맞춤 설정과 대중 참여를 늘리겠다고 발표했습니다.

AI 훈련은 코딩보다 개를 훈련시키는 쪽에 가깝다

OpenAI는 대형 신경망의 동작이 일반적인 소프트웨어처럼 명시적인 코드로 작성되지 않는다고 설명했습니다.

사전 훈련 단계에서 모델은 방대한 인터넷 문서를 통해 문법과 세상에 대한 지식, 추론 능력을 배우지만, 그 과정에서 웹상의 수많은 편견도 함께 흡수합니다.

이후 인간 검토자가 지침에 따라 모델의 응답을 평가하는 미세 조정 단계를 거칩니다. OpenAI는 검토자들과 매주 회의를 진행하며 지침을 다듬고 있으며, 논쟁적인 주제에서는 특정 정치 집단의 편을 들지 말 것을 명시하고 있습니다.

이들은 편향 문제를 해결하기 위해 정치적 논쟁 관련 검토 지침 일부를 공개했으며, 잠재적 편향 요인을 줄이고자 검토자 그룹의 인구통계학적 정보 공개와 Constitutional AI 등 외부 연구 도입도 추진 중입니다.

기본 동작 개선부터 사용자 맞춤 설정까지

OpenAI는 시스템 개선을 위한 세 가지 핵심 과제를 제시했습니다.

첫째는 기본 동작의 개선입니다. 정상적인 요청을 부당하게 거부하거나 위험한 답변을 거부하지 못하는 문제, 그리고 말을 지어내는 환각 현상을 줄이기 위해 연구와 엔지니어링에 투자합니다.

둘째는 사용자 맞춤 설정 허용입니다. 다른 사람이나 심지어 OpenAI 구성원이 강하게 동의하지 않는 견해라도, 사용자가 원한다면 시스템 동작을 직접 조정할 수 있는 기능을 개발하고 있습니다.

셋째는 규칙 설정에 대중의 의견을 반영하는 것입니다. 권력 집중을 막기 위해 외부 레드팀 평가, 교육 분야 의견 수렴, 제3자 기관의 안전 감사 등을 통해 허용 한계를 사회와 함께 결정하겠다는 방침입니다.

왜 중요한가

우리는 OpenAI가 단일한 도덕적 심판관 역할을 내려놓으려 한 점을 영리한 선택이라고 봅니다.

글로벌 수억 명이 쓰는 도구에 하나의 획일적인 가치관을 강제하는 것은 불가능하며, 끊임없는 정치적 공방에 휘말릴 수밖에 없습니다. 안전의 절대적 마지노선만 남겨두고 답변 성향의 조율 권한을 사용자에게 넘기는 편이 훨씬 현실적입니다.

사용자와 창작자 입장에서는 쓸데없는 도덕적 훈계를 듣지 않고, 자신의 목적에 맞게 도구를 유연하게 조정할 수 있어 실용성이 크게 높아질 것입니다.

다만 맞춤 설정의 자유와 유해 콘텐츠 방지 사이의 경계를 어디에 둘지는 여전히 숙제로 남습니다. 대중의 합의를 모으는 과정이 자칫 서비스 발전 속도를 늦추거나 또 다른 갈등을 낳을 위험도 지켜볼 대목입니다.