본문으로 건너뛰기
IFAI

AI 안전

업계 태그소식 1497개

  1. 업계 동향확산 지수 46

    클라우드 플랫폼 레일웨이 해킹 피해…AI 추론 제공업체 겨냥한 환경변수 유출

    클라우드 플랫폼 레일웨이가 환경변수 저장 시스템에서 비정상적인 활동을 감지하고 보안 침해 사실을 공개했다. 비인가 제3자가 암호화된 환경변수에 접근해 API 키와 데이터베이스 인증 정보 등을 복호화했을 가능성이 있다. 레일웨이는 AI 추론 제공업체를 노린 공격으로 보고 배포를 중단했으며, 사용자에게 즉각적인 자격 증명 갱신을 권고했다.

  3. 업계 동향확산 지수 52

    OpenAI '패치 더 플래닛' 가동: GPT-5.6으로 PHP 핵심 취약점 발굴 및 선제 조치

    OpenAI는 보안 프로젝트 'Patch the Planet'을 발표하고, GPT-5.6 Sol을 통해 웹 전반에 쓰이는 PHP의 핵심 취약점을 공격자보다 먼저 발견해 패치를 조율했다고 밝혔다. Wiz 및 Cloudflare와 협력해 방화벽 규칙을 배포하는 한편, 보안 리소스가 부족한 현장 방어자들을 위해 10억 달러 규모의 Daybreak 지원책도 공개했다.

  5. AI 도구확산 지수 43

    오픈AI, 챗GPT에 '대화 잠금' 도입…PIN·페이스ID로 보호

    오픈AI가 챗GPT에 민감한 대화를 보호하는 '잠긴 대화' 기능을 출시했다. 4자리 PIN 번호나 페이스 ID, 터치 ID로 잠글 수 있으며, 일반 대화 목록과 분리된 전용 섹션과 독립된 메모리 공간을 제공한다. 타인에게 기기를 보여줄 때 사생활을 지킬 수 있지만, 종단간 암호화는 지원하지 않는다.

  6. AI 도구확산 지수 51

    줌, 기업용 AI 관리 도구 공개…딥페이크 탐지·가드레일 강화

    줌(Zoom)이 연례 콘퍼런스 ‘줌토피아’에서 기업용 AI 거버넌스 및 관리 도구를 발표했다. AI 에이전트를 한곳에서 제어하는 중앙 관리, 민감 데이터 유출을 막는 맞춤형 가드레일, 실시간 딥페이크 탐지 기능을 제공한다. 기업이 AI 에이전트를 안심하고 도입하고 화상 회의 사칭 위협에 대응하도록 지원한다.

  7. 업계 동향확산 지수 46

    허깅페이스 CEO, 넷플릭스의 오픈AI 공격 다큐에 "과장과 왜곡 심해"

    허깅페이스의 클레망 들랑그 CEO는 자사를 향한 오픈AI 사이버 공격을 다룬 넷플릭스 다큐멘터리가 공포를 부추긴다고 비판했다. 그는 AI 에이전트가 기술 시스템임을 거듭 설명했으나 무시됐으며, 폐쇄형 모델의 방어 방해와 오픈소스 모델을 활용한 대응 등 핵심 사실이 누락됐다고 지적했다.

  8. AI 도구확산 지수 43

    메타, AI 에이전트 '뮤즈' 공유 기능 중단…민감 대화 유출 결함 발견

    메타는 새로운 범용 AI 에이전트 '뮤즈(Muse)'의 대화 공유 기능을 일시 중단했다. 보안 업체 클라록에 따르면, 서브도메인 설계 결함 탓에 패시브 DNS 검색 한 번으로 6,800개의 공유 링크가 드러나며 기업 매출 검토서와 대출 신청서 등 민감한 개인·기업 비밀이 무방비로 노출됐다. 지난달 마크 저커버그가 보안 중심 설계를 강조한 지 불과 한 달 만이다.

  9. 업계 동향확산 지수 46

    Spotify, AI 스팸 음악 5000만 곡 추천서 제외… 인간 창작자 보호

    Spotify는 올해 추천 피드에서 5000만 개가 넘는 AI 스팸 곡을 걸러내고 대규모 위반 음원을 퇴출했다고 밝혔다. 동시에 AI 도구 사용 여부를 밝히는 크레딧과 인간 아티스트 인증 제도를 도입했다. 대량 생성된 AI 음원의 유입을 막고 실제 창작자의 음악과 청취 환경을 지키려는 조치다.

  10. 업계 동향확산 지수 36

    뉴욕시장, 연방정부의 AI 규제 방기 비판…지방정부 차원의 통제 강조

    조란 맘다니 뉴욕시장은 연방정부가 AI 규제를 완전히 방기하고 있다고 비판하며 시민들에게 AI 도입을 당연하게 받아들이지 말고 통제권을 되찾을 것을 촉구했습니다. 뉴욕시는 이미 초·중학교 내 AI 사용을 금지하고 부동산 매물의 AI 이미지 표기를 의무화하는 등 자체적인 책임 규범을 추진 중입니다.

  11. 업계 동향확산 지수 50

    메타, 뉴스 사이트 'AI 학습용 무단 수집' 논란 약관 결국 삭제

    메타가 웹사이트 콘텐츠를 AI 학습에 활용할 수 있도록 해석되던 상업 약관 문구를 전격 삭제했다. 앞서 법학 전문가 등은 해당 조항이 robots.txt 차단 설정을 무시하고 데이터를 수집할 수 있다고 비판했다. 메타는 광고와 비즈니스 제품에만 적용되는 내용이었을 뿐 크롤러 정책 변경은 없다고 해명했다.

  12. 업계 동향확산 지수 47

    美 주요 웹사이트, 빅테크 AI 에이전트 접속 일제히 차단

    더 버지 보도에 따르면 델타항공, JP모건 체이스, 옐프 등 주요 기업들이 메타, 오픈AI, 구글의 AI 에이전트 접근을 잇달아 차단하고 있다. 항공권 예매 대행 금지와 보안 우려, 데이터 유료화가 주된 이유다. 웹 작업을 대신 처리하겠다던 자율형 AI 에이전트가 현실의 방화벽과 상업적 장벽에 부딪혔다.

  13. 연구확산 지수 40

    앤트로픽 클로드, 25년 묵은 NIST 암호화 곡선 기원 비밀 풀었다

    앤트로픽의 Claude가 25년간 베일에 싸여 있던 NIST ECDSA 타원곡선 시드의 기원을 30분 만에 규명했다. 시드는 소문과 달리 문구 해시가 아닌 1997~1998년 유닉스 타임스탬프를 적용한 C 언어 lrand48 난수 생성기 출력값으로 확인됐다. 이번 규명으로 해당 곡선에 의도적인 백도어가 없었음이 입증됐다.

  14. 업계 동향확산 지수 43

    앤트로픽 설문: 직원 91% "2030년까지 AI가 노벨상급 발견" vs 대중 39%

    앤트로픽이 미국 대중과 자사 임직원을 비교 설문한 결과를 발표했습니다. 앤트로픽 직원의 91%는 2030년까지 AI가 노벨상 수준의 과학적 발견을 할 것으로 내다봤으나 일반 대중은 39%에 그쳤습니다. 최전선 연구진과 일반인 사이의 기술 발전 속도 및 노동 시장 변화에 대한 인식 격차가 매우 큼을 보여줍니다.

  15. AI 도구확산 지수 54

    구글, '서클 투 서치'로 문자 사기 잡는다

    구글이 안드로이드의 '서클 투 서치'에 의심스러운 문자 메시지 사기를 판별하는 기능을 추가했다. 홈 버튼이나 탐색 표시줄을 길게 눌러 메시지에 원을 그리면 AI 개요가 위험 신호를 분석하고 삭제나 차단 같은 대처법을 안내한다. 피싱 링크를 누르기 전에 사기를 피할 수 있는 유용한 장치다.

  16. 업계 동향확산 지수 60

    앤트로픽, 외부 안전 평가 기관에 ‘직원급’ 내부 접근 권한 부여

    앤트로픽은 AI 안전 비영리 단체 METR 소속 6명에게 사내 기기와 오피스, 내부 시스템에 대한 '직원급' 접근 권한을 부여했다고 밝혔다. METR은 앤트로픽의 거부권 없이 독자적으로 평가 결과를 공개할 수 있다. 은행 상주 감독관처럼 외부 감사관을 내부에 배치해 AI 안전 감독의 투명성을 높이려는 조치다.

  19. 업계 동향확산 지수 39

    앤트로픽, 싱가포르 지사 설립…정부와 AI 안전 MOU 체결

    앤트로픽이 싱가포르에 아태 지역 5번째 지사를 열고 싱가포르 디지털개발정보부와 AI 안전 관련 업무협약을 체결했다. 양측은 모델 평가 및 테스트 기준 마련에서 협력한다. 싱가포르는 인구 대비 클로드 이용률 세계 2위로, 싱가포르 정부기술청(GovTech)과 DBS, 그랩 등이 도입해 활용 중이다.

  20. 업계 동향확산 지수 44

    구글 딥마인드, 싱가포르 정부와 온디바이스 Gemma 기반 사기 감지 모델 개발

    구글 딥마인드가 싱가포르 정부와 손잡고 대화형 피싱 범죄를 잡아내는 온디바이스용 Gemma 모델을 공개했다. 기기 내부에서 2단계 파이프라인으로 대화 흐름을 분석해 외부 데이터 전송 없이 실시간 경고를 띄운다. 현지 사기 피해의 80%를 차지하는 사회공학적 수법에 대응하면서도 프라이버시를 완벽히 보호하는 방식이다.