본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 업계 동향확산 지수 44

    오픈AI, AI 악용한 5개 여론 조작 네트워크 적발해 차단

    오픈AI가 자사 AI 모델을 악용해 온라인 여론 조작을 시도한 5개 비밀 공작 네트워크를 차단했다고 밝혔다. 러시아, 중국, 이란, 이스라엘 관련 조직들이 다국어 댓글 생성 등에 AI를 활용했으나, 실제 대중의 참여를 이끌어내는 데는 실패해 영향력은 미미했던 것으로 분석됐다.

  2. 업계 동향확산 지수 44

    머스크와 르쿤의 X 설전: AI 연구 방식과 과대광고 둘러싼 충돌

    메타의 수석 AI 과학자 얀 르쿤과 일론 머스크가 X에서 정면 충돌했다. 르쿤이 머스크의 과장된 홍보와 위기론 조성을 꼬집자 머스크는 르쿤의 최근 연구 실적을 문제 삼았다. 이는 개방형 학술 연구를 중시하는 진영과 비밀주의 중심의 상업 스타트업 간의 시각차를 적나라하게 드러낸다.

  3. 업계 동향확산 지수 56

    OpenAI 전 이사 폭로: ChatGPT 출시 소식, 트위터 보고 알았다

    외신에 따르면 OpenAI 전 이사회 멤버 헬렌 토너는 2022년 11월 ChatGPT 출시 사실을 사전에 공유받지 못하고 트위터를 통해 처음 알았다고 밝혔습니다. 또한 샘 알트먼 CEO가 스타트업 펀드 소유권을 숨기고 안전 절차에 대해 부정확한 정보를 제공하는 등 신뢰 문제가 불거져 지난해 해임 사태로 이어졌다고 설명했습니다.

  4. 업계 동향확산 지수 43

    앤트로픽, 전 오픈AI 안전 책임자 얀 레이케 영입

    오픈AI의 안전 정책을 비판하며 퇴사한 얀 레이케가 경쟁사 앤트로픽에 합류해 신규 ‘슈퍼얼라인먼트’ 팀을 이끌게 됐다. 확장 가능한 감독과 자동화 정렬 연구에 집중할 계획으로, 오픈AI가 관련 팀을 해체한 틈을 타 앤트로픽의 안전 중심 입지가 더욱 확고해졌다.

  6. 업계 동향확산 지수 37

    캐릭터AI, 메타·xAI와 AI 모델 공동 개발 파트너십 논의 중

    보도에 따르면 대화형 AI 플랫폼 캐릭터AI가 AI 모델 사전 훈련 및 연구 개발을 위해 메타, xAI와 협력을 논의하고 있다. 이번 논의는 인수가 아닌 연구 파트너십에 초점을 맞추고 있으며 아직 합의는 체결되지 않았다. 빅테크 기업들은 규제 당국의 감시를 피해 인수 대신 전략적 제휴로 기술 확보에 나선 모습이다.

  8. AI 도구확산 지수 42

    구글 검색 AI 오답 논란: 피자 치즈 안 떨어지게 풀 바르라 조언

    보도에 따르면 구글의 새 검색 기능 'AI Overviews'가 엉뚱한 답변으로 논란을 빚고 있습니다. 피자 치즈가 자꾸 떨어진다는 질문에 소스에 무독성 풀을 섞으라고 안내했는데, 11년 전 레딧의 장난 글을 그대로 긁어온 것으로 보입니다. 구글은 매우 드문 사례라고 해명했습니다.

  11. 업계 동향확산 지수 51

    MS 코파일럿+ '리콜' 기능, 사생활 침해 우려로 英 규제 당국 조사 착수

    영국 정보위원회(ICO)가 화면을 몇 초마다 자동 캡처해 저장하는 마이크로소프트의 신기능 '리콜'에 대해 조사에 착수했다. MS는 암호화된 스냅샷이 기기 로컬에만 저장된다고 설명했으나, 비밀번호와 금융 정보까지 여과 없이 기록될 수 있어 보안 전문가들의 우려가 커지고 있다.

  13. AI 도구확산 지수 63

    MS, 윈도우 검색 뜯어고칠 '리콜' 공개: PC에 '사진 같은 기억력' 부여

    마이크로소프트가 Build 2024에서 코파일럿+ PC용 새 기능 '리콜(Recall)'을 발표했다. 40개 이상의 온디바이스 멀티모달 소형 모델을 활용해 과거 열람한 웹페이지, 문서, 회의 내용 등을 모호한 단서로도 찾아낼 수 있다. 모든 데이터 처리는 오프라인 로컬 환경에서 이루어지며 6월 18일 업데이트로 제공된다.

  14. 업계 동향확산 지수 45

    OpenAI, 챗GPT 음성 선정 과정 공개하며 '요한슨 모방' 논란 Sky 중단

    OpenAI는 챗GPT의 음성 선정 과정을 공개하며 배우 스칼렛 요한슨 목소리와 유사해 논란이 된 'Sky' 음성 사용을 일시 중단했다. OpenAI는 다른 전문 성우의 목소리라며 모방을 부인했으나, 과거 요한슨에게 섭외를 요청했다 거절당한 사실을 인정하고 논란을 피하고자 조치에 나섰다.

  15. 업계 동향확산 지수 43

    슬랙, AI 학습에 사용자 데이터 기본 활용 논란…옵트아웃은 이메일로만

    슬랙이 고객 데이터를 기본적으로 AI 모델 학습에 사용하고 거부하려면 전용 이메일을 보내야 한다는 사실이 드러나 개발자들의 거센 반발을 샀다. 슬랙 측은 이모티콘 추천 등 검색 기능용이며 '슬랙 AI' 애드온에는 적용되지 않는다고 해명했으나 불투명한 약관에 비판이 쏟아졌다.

  17. 업계 동향확산 지수 51

    OpenAI 안전팀 균열: 슈퍼얼라인먼트 수장 일리야·라이케 줄퇴사

    기즈모도에 따르면 OpenAI의 슈퍼얼라인먼트 팀을 이끌던 일리야 수츠케버와 얀 라이케가 잇따라 사임했습니다. 안전 관련 핵심 연구 인력들도 대거 회사를 떠난 것으로 확인됐습니다. 샘 올트먼 복귀 지지 서명에 미온적이었던 안전 담당자들이 빠져나가면서 OpenAI의 안전 우선주의에 대한 우려가 커지고 있습니다.

  19. 업계 동향확산 지수 57

    OpenAI 공동창업자 일리야 수츠케버 퇴사…후임 최고과학자에 야쿠프 파초츠키

    OpenAI 공동창업자이자 최고과학자인 일리야 수츠케버가 회사를 떠난다고 발표했다. 후임에는 연구 디렉터 야쿠프 파초츠키가 임명됐다. 지난해 11월 이사회 사태 이후 현업에서 물러나 있던 상태였으며, 슈퍼얼라인먼트 책임자 얀 라이케도 함께 사임했다. 수츠케버는 개인적으로 의미 있는 새 프로젝트를 준비 중이라고 밝혔다.