AWS, 기업용 생성형 AI 비서 '아마존 Q' 공개…업무 데이터 학습 배제

클라우드 인프라를 다루는 엔지니어라면 누구나 복잡한 네트워크 오류나 끝없이 이어지는 기술 문서 앞에서 시간을 낭비해 본 경험이 있을 것입니다.

시중에 나온 생성형 AI 챗봇이 유용하긴 하지만, 회사 내부 시스템 구조나 접근 권한을 전혀 알지 못하고 보안 우려 때문에 실제 업무에 쓰기에는 제약이 컸습니다.

AWS가 연례 콘퍼런스 re:Invent에서 기업 업무 환경에 특화된 새로운 생성형 AI 어시스턴트 Amazon Q를 공개했습니다.

17년간 축적된 AWS 전문 지식 탑재

Amazon Q는 AWS가 17년 동안 쌓아온 아키텍처 모범 사례와 설정 문서, 기술 경험을 기본적으로 학습했습니다.

AWS 관리 콘솔은 물론, 개발자들의 통합개발환경과 슬랙 같은 사내 메신저에서도 대화형 인터페이스로 바로 불러와 쓸 수 있습니다.

콘솔에서 EC2나 S3 설정 오류가 발생하면 전용 트러블슈팅 버튼을 눌러 Q가 원인을 분석하고 해결책을 제시하도록 할 수 있습니다.

노트북에서 EC2 인스턴스로 접속이 되지 않을 때 질문을 던지면, 전체 네트워크 구성을 점검해 해당 인스턴스가 프라이빗 서브넷에 위치해 있다는 점을 찾아내는 식입니다.

개발자 도구인 CodeWhisperer와 결합해 이전 작업자의 복잡한 코드를 설명해 주거나 데이터베이스 쿼리를 최적화해 주며, CodeCatalyst에서는 이슈 목록의 작업을 바탕으로 실행 계획을 세우고 코드 초안까지 작성해 줍니다.

기업 권한 완벽 연동, 고객 데이터 학습 배제

기업들이 생성형 AI 도입을 망설이는 가장 큰 이유는 기밀 유출과 내부 권한 관리 문제입니다.

기존 도구들이 사후에 보안 기능을 덧붙인 것과 달리, Amazon Q는 설계 단계부터 엔터프라이즈 환경의 보안과 프라이버시를 핵심에 두었습니다.

조직 내 기존 계정 체계와 역할, 접근 권한을 그대로 반영하기 때문에 직원이 질문하더라도 자신이 열람 권한을 가진 데이터 안에서만 답변을 받게 됩니다.

또한 고객사가 입력한 업무 데이터와 코드는 기저 모델 학습에 절대 사용되지 않는다는 원칙을 세웠습니다.

현재 Amazon Q는 프리뷰 형태로 공개되었으며, 고객센터 지원 서비스인 Amazon Q in Connect는 정식 출시되었습니다.

왜 중요한가

우리는 Amazon Q가 마이크로소프트의 코파일럿 독주를 겨냥한 AWS의 가장 강력한 실무형 반격이라고 봅니다.

일반적인 문서 작성이나 창작 영역 대신, 기업들이 가장 많은 비용과 시간을 쏟고 있는 거대한 클라우드 인프라 운영 영역을 정조준했습니다.

엔지니어 입장에서 매번 문서를 뒤적이고 네트워크 설정을 디버깅하던 시간을 확실히 줄여준다면, 클라우드 운영 환경에서 대체하기 힘든 도구로 자리 잡을 가능성이 높습니다.

기존 권한 체계를 존중하고 고객 데이터를 모델 학습에 쓰지 않는다는 점 역시 보안에 민감한 대기업 고객의 도입 문턱을 대폭 낮춰주는 영리한 선택입니다.

다만 실제 업무 환경에서 내부 문서가 난잡할 경우 기대만큼 정확한 답변을 내놓을 수 있을지가 관건입니다. 인프라 설정과 관련된 영역인 만큼 AI의 사소한 환각이 자칫 시스템 장애로 이어질 수 있어, 실제 도입 시에는 검증 절차에 각별한 주의가 필요해 보입니다.