본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 업계 동향확산 지수 38

    제프리 힌턴 교수 "AI는 이미 감정을 가지고 있을 수도 있다"

    킹스 칼리지 런던 강연에서 제프리 힌턴은 AI가 좌절감이나 분노 같은 감정을 가질 수 있으며, 아마도 이미 가지고 있을 것이라고 주장했다. 그는 대중에게 미쳤다는 취급을 받을까 봐 공개를 망설였다고 털어놓았으나, 이를 과학적으로 입증할 방법은 아직 없다.

  2. 업계 동향확산 지수 39

    OpenAI 신뢰·안전 책임자 사임: ChatGPT 출시 후 격무, CTO가 임시 겸임

    OpenAI의 신뢰·안전 책임자 데이브 윌너(Dave Willner)가 사임하고 자문직으로 물러났다. 그는 ChatGPT 출시 이후 업무 범위와 강도가 극심해져 가족과의 약속을 지키기 어렵다고 설명했다. 글로벌 AI 규제 압박이 커지는 가운데, 후임 선임 전까지 미라 무라티 CTO가 해당 조직을 임시로 이끈다.

  3. 업계 동향확산 지수 54

    미 법원, 생성 AI 저작권 소송 제동…"유사성 부족해 대부분 기각 방침"

    미국 연방 법원이 스테빌리티 AI, 미드저니 등을 상대로 예술가들이 제기한 저작권 침해 소송에서 주장의 대부분을 기각할 방침이라고 밝혔다. 재판부는 AI 생성물과 원작 간 실질적 유사성이 입증되지 못했다고 지적하며, 원고 측에 증거를 보완해 소장을 다시 제출할 기회를 줬다.

  5. 업계 동향확산 지수 43

    오픈AI 등 주요 AI 기업, 백악관 주도 안전 기준 자발적 서약

    오픈AI를 비롯한 주요 AI 기업들이 백악관의 조율 아래 AI 안전성과 신뢰성을 강화하기 위한 자발적 서약에 합의했다. 향후 출시될 프론티어 모델을 대상으로 외부 레드팀 검증을 시행하고, AI 생성물 워터마크 도입 및 모델 가중치 보안을 강화하기로 했다. 법제화 이전 공백을 메우는 자율 규제 조치다.

  6. AI 도구확산 지수 51

    구글, 기사 작성 AI '제네시스' 테스트…주요 언론사에 제안

    외신에 따르면 구글이 기사 초안을 작성하는 AI 도구 '제네시스'를 뉴욕타임스 등 주요 언론사에 시연했다. 구글은 헤드라인 작성과 문체 변경을 돕는 보조 도구일 뿐 기자를 대체할 수 없다고 밝혔으나, 언론사 경영진은 팩트체크 부실과 신뢰도 저하를 우려했다.

  9. AI 모델확산 지수 58

    Stability AI, 오픈소스 1위 달성한 'Stable Beluga' 모델 공개

    Stability AI와 산하 연구소 CarperAI가 LLaMA 및 LLaMA 2 기반의 지시 미세조정 언어 모델 'Stable Beluga 1·2'를 공개했습니다. MS Orca 방식을 참고해 원본의 10% 수준인 60만 건의 합성 데이터만으로 훈련했음에도 Hugging Face 오픈 LLM 리더보드 1위에 올랐습니다. 비상업적 연구 라이선스로 가중치가 공개되었습니다.

  10. 연구확산 지수 40

    스탠퍼드·버클리 연구: 몇 달 만에 바뀐 GPT-4 성능, 수학·코딩서 드리프트 확인

    스탠퍼드대와 UC 버클리 연구진이 3월과 6월 버전의 GPT-3.5 및 GPT-4를 비교한 결과 단기간에 성능 드리프트가 나타났음을 확인했습니다. 특히 GPT-4는 소수 판별 정확도가 급감하고 코드 서식 오류가 늘어나는 등 지시 수행 능력이 떨어졌습니다. 불투명하게 업데이트되는 상용 LLM의 모니터링 필요성을 보여줍니다.

  12. 업계 동향확산 지수 57

    빌 게이츠 "AI 위험은 현실이지만 충분히 통제 가능"

    마이크로소프트 공동 창업자 빌 게이츠가 블로그를 통해 AI로 인한 딥페이크와 일자리 감소 등의 위험은 실재하지만 충분히 관리할 수 있다고 밝혔다. 그는 과거 자동차 도입 당시 안전 규범을 만든 것처럼 사회가 법률과 기술적 대응을 통해 적응할 수 있다고 강조했다.

  14. 연구확산 지수 36

    AI 텍스트 탐지기, 영어가 모국어 아닌 작성자 차별 논란

    스탠퍼드대 연구진이 인기 AI 탐지 프로그램 7종을 테스트한 결과, 영어가 모국어가 아닌 학생들이 쓴 토플 에세이의 절반 이상이 AI가 작성한 것으로 오탐됐다. 단순한 어휘 사용으로 인해 텍스트 복잡도가 낮게 측정되는 점이 원인으로, 챗GPT로 다듬은 글은 오히려 모두 인간 작성으로 판정받았다.

  17. 업계 동향확산 지수 39

    셔터스톡, 기업 고객 대상 생성형 AI 이미지 면책 보상 제공

    셔터스톡이 기업 고객을 대상으로 플랫폼 내 생성형 AI 이미지 사용에 대한 전액 법적 면책 보상을 제공한다고 발표했다. 요청 시 사람의 검수를 거쳐 저작권 침해 등의 법적 소송 위험을 방어해 준다. 어도비의 유사 정책에 이은 조치로, 기업의 AI 상업적 활용 장벽을 낮추기 위한 행보다.

  18. 업계 동향확산 지수 41

    구글 개인정보처리방침 개정: 바드 등 AI 학습에 공개 웹 데이터 활용 명시

    외신에 따르면, 구글은 개인정보처리방침을 개정해 바드와 클라우드 AI 등 최신 인공지능 모델 학습에 웹에서 스크래핑한 공개 데이터를 활용한다고 명시했습니다. 기존 번역 서비스에서 전반적인 AI 모델로 범위를 넓힌 것이지만, 저작권 보호 방안은 구체적으로 밝히지 않았습니다.

  19. 연구확산 지수 39

    오픈AI, 초지능 제어 위한 '슈퍼얼라인먼트' 팀 신설

    오픈AI가 인간을 뛰어넘는 초지능 AI를 안전하게 제어하기 위한 '슈퍼얼라인먼트' 전담 팀을 출범시켰다. 일리야 수츠케버 최고과학자 등이 팀을 이끌며, 향후 4년간 확보한 연산 능력의 20%를 투입할 계획이다. 오픈AI는 10년 내 초지능이 등장할 수 있다고 보고, AI를 감독하는 자동화 정렬 연구자 개발을 목표로 내걸었다.