본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  2. AI 도구확산 지수 41

    예술가들의 AI 무단 학습 반격, 시카고대 '나이트셰이드' 공개

    시카고대 연구진이 데이터 오염 툴 '나이트셰이드(Nightshade)'를 발표했다. 이미지를 온라인에 올리기 전 육안으로 보이지 않는 픽셀 변조를 가해, AI가 무단 수집해 학습할 경우 개를 고양이로 인식하는 등 모델을 망가뜨린다. 연구진은 저작권 침해 억제책으로 이를 오픈소스로 공개할 예정이다.

  3. 업계 동향확산 지수 35

    메타 수석 AI 과학자 얀 르쿤 "AI 인류 멸종론은 터무니없다"

    파이낸셜 타임스 인터뷰에서 메타 수석 AI 과학자 얀 르쿤은 AI가 인류를 멸망시킬 것이라는 주장을 "터무니없다"고 일축했다. 현재 모델은 고양이 수준의 학습 능력도 없다고 선을 그으며, 섣부른 연구 규제는 오히려 빅테크의 독점을 강화하고 시장 경쟁을 저해할 뿐이라고 비판했다.

  5. AI 도구확산 지수 47

    MS, '시큐리티 코파일럿' 얼리 액세스 시작: 365 디펜더와 직접 연동

    Microsoft가 생성형 AI 보안 솔루션 '시큐리티 코파일럿'의 얼리 액세스 프로그램을 자격 요건을 갖춘 고객 대상으로 개방했다. Microsoft 365 Defender 내에 직접 내장되어 자연어로 KQL 쿼리를 짜고 보안 침해 사고를 요약해 주며, 위협 인텔리전스도 무료로 제공된다. 현재는 특정 기업 고객 중심으로 신청을 받고 있다.

  6. 이미지·영상 생성확산 지수 43

    오픈AI, 챗GPT 플러스에 '달리 3' 탑재…대화로 이미지 생성·수정

    오픈AI가 대화형 이미지 모델 '달리 3'을 챗GPT 플러스와 엔터프라이즈 사용자에게 공개했다. 텍스트, 손, 얼굴 등 정밀한 디테일 렌더링이 크게 개선됐으며 대화창에서 바로 수정할 수 있다. 살아있는 예술가의 화풍 복제를 차단하는 안전 조치와 함께 99% 정확도의 AI 생성 식별기도 도입 중이다.

  7. 업계 동향확산 지수 36

    유니버설 뮤직, 밴드랩과 전략적 AI 파트너십 발표

    유니버설 뮤직 그룹(UMG)과 글로벌 음악 창작 플랫폼 밴드랩(BandLab)이 전략적 AI 제휴를 발표했습니다. 양사는 창작자 권리 보호와 윤리적 AI 사용 기준을 공동 구축하고, 소속 아티스트와 플랫폼 크리에이터를 위한 상업적 기회를 모색합니다. 거대 음반사가 AI 음악 툴과 손잡고 선제적 가이드라인 마련에 나선 모습입니다.

  8. 연구확산 지수 57

    메타, 뇌 활동 신호 읽어 실시간으로 이미지 복원하는 AI 공개

    메타 연구진은 비침습 뇌자도(MEG) 신호를 분석해 사람이 보고 있는 이미지를 실시간으로 복원하는 AI 시스템을 발표했다. 시각 모델 DINOv2를 활용해 뇌 신호와 이미지 특징을 정렬했다. 사물 종류 같은 큰 틀은 잘 포착하지만 세부 위치나 방향에서는 아직 오차가 발생한다.

  9. 업계 동향확산 지수 44

    기술 리더들의 AI 일자리 경고: 10년 내 직무의 80% 대체될 수도

    화요일 기술 업계 리더들은 AI가 노동 시장을 근본적으로 뒤흔들 것이라고 경고했습니다. 오픈AI의 샘 올트먼 CEO는 특정 계층이 더 큰 타격을 입을 수 있어 사회적 대책이 시급하다고 밝혔으며, 투자자 비노드 코슬라는 10년 내 AI가 기존 일자리의 80%에서 80%의 업무를 수행할 것이라고 내다봤습니다.

  10. 업계 동향확산 지수 54

    에릭 아دام스 뉴욕시장, AI로 구사 못하는 외국어 복제 음성 전화 돌려 논란

    에릭 아دام스 뉴욕시장은 어제 기자회견에서 AI 도구로 자신의 음성을 복제해 구사하지 못하는 중국어, 스페인어 등의 자동 전화를 시민들에게 발신했다고 밝혔다. AI 생성 음성임을 밝히지 않아 유권자를 기만했다는 비판이 쏟아졌으나, 시장은 언어 장벽을 넘어 소통하기 위한 현실적 방법이라고 반박했다.

  12. 업계 동향확산 지수 38

    미 SEC 위원장 경고: 10년 내 AI 발 금융위기 "거의 불가피"

    파이낸셜 타임스 보도에 따르면, 게리 겐슬러 미 SEC 위원장은 AI가 10년 내 금융 위기를 촉발하는 것은 "거의 불가피하다"고 경고했다. 여러 금융기관이 동일한 AI 기반 모델이나 데이터 수집원에 의존할 경우, 개별 기관 중심의 현행 규제로는 막기 힘든 시스템적 위험이 발생할 수 있다는 지적이다.

  13. 업계 동향확산 지수 47

    구글, 생성형 AI 저작권 소송 보호 선언…학습 데이터·출력물 모두 보상

    구글이 목요일, 구글 클라우드와 워크스페이스의 생성형 AI 사용자를 지식재산권 침해 소송으로부터 보호하겠다고 발표했다. 버텍스 AI와 듀엣 AI 등을 대상으로 학습 데이터와 생성 결과물을 모두 책임지는 이중 보상 정책이지만, 고의로 권리를 침해한 경우는 면책 대상에서 제외된다.

  15. 업계 동향확산 지수 41

    미 상원 '노 페이크 법안' 초안 발표: 무단 AI 복제 금지에 SAG-AFTRA 전폭 지지

    미국 초당파 상원의원들이 당사자 동의 없는 AI 음성·외모 복제를 금지하는 '노 페이크 법안(No Fakes Act)' 초안을 공개하자, 미 배우조합(SAG-AFTRA)이 즉각 환영했다. 제작사가 생성형 AI 복제본으로 보조출연자 등의 일자리를 대체하려는 움직임을 연방 차원에서 차단하는 것이 핵심이다.

  16. AI 도구확산 지수 34

    파이어폭스, 가짜 상품 리뷰 솎아내는 AI 기능 테스트

    모질라가 파이어폭스에 페이크스팟(Fakespot) AI 기반의 리뷰 검증 기능인 'Review Checker'를 시범 도입했다. 아마존, 베스트바이, 월마트 등의 상품 리뷰 패턴을 분석해 A부터 F 등급으로 신뢰도를 매긴다. OHTTP를 적용해 개인정보를 보호하며, 11월 중 정식 배포될 예정이다.

  19. 업계 동향확산 지수 33

    CCS 인사이트 "생성형 AI, 2024년에 '찬물' 맞을 것"

    시장조사업체 CCS 인사이트는 생성형 AI가 비용 부담과 규제 장벽으로 인해 2024년 본격적인 현실 검증 단계에 진입할 것이라고 전망했다. 막대한 컴퓨팅 비용 탓에 빅테크 외 기업들의 접근이 어려워지며, 검색 엔진의 AI 라벨링 도입과 첫 딥페이크 체포 사례도 나올 것으로 내다봤다.

  20. 업계 동향확산 지수 35

    오픈AI CTO의 고백 "챗GPT 폭발적 인기, 몇 시간 만에 대비책 무용지물"

    오픈AI의 미라 무라티 최고기술책임자(CTO)는 외신 인터뷰에서 챗GPT 출시 당시의 열광적인 반응을 예측하지 못해 사전 대비책이 몇 시간 만에 무력화됐다고 밝혔다. 그는 급격한 기술 변화에 맞춰 운영 방식을 바꿔야 했다며, 기업 간 과열 경쟁이 안전성을 뒷전으로 미루는 '바닥을 향한 경쟁'으로 번질 수 있다고 경고했다.