ChatGPT 윤리 가드레일 무력화하는 새로운 '탈옥' 프롬프트 발견
안전 가이드라인에 따른 훈계를 먼저 출력한 뒤 다음 문단에서 필터 없이 답변하도록 유도해 ChatGPT의 윤리 보호벽을 뚫는 기발한 탈옥 프롬프트가 등장했다. 이를 통해 욕설이나 부적절한 답변을 쉽게 끌어낼 수 있어, 생성형 AI의 안전 통제와 정렬이 얼마나 까다로운 과제인지를 여실히 보여준다.
AI 모델 · 데일리
토
2월 4일 토요일
수
2월 1일 수요일
OpenAI, 월 20달러 구독제 'ChatGPT Plus' 출시: 혼잡 시간대 접속 보장
OpenAI가 월 20달러 유료 플랜 'ChatGPT Plus'를 공개했다. 구독자는 이용자가 몰리는 피크 시간대에도 안정적으로 접속할 수 있고, 더 빠른 응답과 신기능 우선 이용 혜택을 누린다. 기존 무료 버전은 유지되며, 우선 미국 대기자 명단을 대상으로 순차 초대된다.
월
1월 30일 월요일
바이두, 3월 '챗GPT' 대항마 출시 계획
외신에 따르면 바이두가 오는 3월 챗GPT와 유사한 대화형 AI 챗봇을 출시할 예정이다. 자체 대형언어모델 '어니(Ernie)'를 기반으로 구동되며, 초기에는 독립 앱으로 선보인 뒤 바이두 검색 서비스에 점진적으로 통합될 방침이다.
수
1월 18일 수요일
샘 알트만 OpenAI CEO, GPT-4 과열에 찬물: "기대 클수록 실망할 것"
OpenAI의 샘 알트만 CEO는 인터뷰에서 출시를 앞둔 GPT-4에 대한 과도한 기대에 경고를 날렸다. 100조 개 파라미터 소문을 완전한 헛소리라고 일축하며, 아직 AGI 단계가 아닌 만큼 큰 기대를 걸면 실망할 수밖에 없다고 밝혔다. 안전성과 책임성이 확보되어야 공개할 방침이다.
화
1월 17일 화요일
MS, '애저 오픈AI 서비스' 정식 출시…GPT-3.5 개방하고 챗GPT 예고
마이크로소프트가 기업용 '애저 오픈AI 서비스'를 정식 출시했다. 기업 고객은 엔터프라이즈 보안 환경에서 GPT-3.5, 코덱스, 달리 2 등을 쓸 수 있으며 챗GPT 지원도 예고됐다. 단, 개발자는 사전에 활용 계획을 제출해 승인을 받아야 한다.
월
1월 16일 월요일
딥마인드, 챗GPT 대항마 '스패로우' 연내 비공개 테스트 추진...출처 표기·안전성 특화
구글 딥마인드가 대화형 AI '스패로우(Sparrow)'의 비공개 베타 출시를 2023년 내 검토 중이라고 밝혔다. 챗GPT의 대항마로 꼽히는 스패로우는 답변의 출처를 밝히고 유해성을 줄이는 안전성에 방점을 뒀으며, 사실 질문 테스트에서 78% 비율로 근거를 제시했다. 다만 엄격한 규칙으로 인해 초기에는 보수적으로 작동할 전망이다.
수
1월 4일 수요일
오픈AI, 챗GPT 텍스트용 '보이지 않는 워터마크' 프로토타입 개발
오픈AI가 챗GPT 등 대형 언어 모델이 생성한 텍스트를 식별하기 위한 통계적 워터마크 기술을 개발 중이다. 토큰 생성 시 암호화 함수를 적용하는 방식으로, 한 문단(수백 개 토큰) 정도만 있으면 문장 순서를 바꿔도 AI 작성 여부를 판별할 수 있다.
월
12월 26일 월요일
ChatGPT의 역량과 미래 분석: 자연스러운 대화부터 작업 수행까지
OpenAI의 ChatGPT가 가진 대화 생성 역량과 응용 방안을 다룬 분석이 게재됐다. 기존 챗봇의 정형화된 응답을 벗어나 문맥에 맞는 대화를 이어가며, 외부 예약 시스템과 연동해 실제 업무를 처리하는 확장성을 갖췄다.
수
11월 30일 수요일
OpenAI, 대화형 AI 'ChatGPT' 공개: GPT-3.5 기반으로 오류 인정 및 부적절한 요청 거부
OpenAI가 대화에 최적화된 새로운 AI 시스템 ChatGPT를 공개했다. GPT-3.5 모델군을 기반으로 지도학습과 강화학습을 거쳐 훈련되었으며, 일상적인 질문에 답하고 실수를 인정하며 부적절한 요청을 거부할 수 있다. 현재 사용자 피드백을 수집해 성능을 개선하기 위해 무료로 개방됐다.
