스탠퍼드 연구: AI 보조로 짠 코드가 취약점 더 많고 맹신도 높아
스탠퍼드 대학교 컴퓨터 과학자들의 연구에 따르면 깃허브 코파일럿 같은 AI 보조 도구를 사용한 개발자가 취약점이 더 많은 코드를 작성하는 경향을 보였습니다. 특히 암호화나 SQL 인젝션 영역에서 취약점이 두드러졌으며, 이들은 자신의 코드가 안전하다고 맹신하는 착각까지 겪는 것으로 나타났습니다.
연구 · 데일리
수
12월 21일 수요일
수
12월 14일 수요일
AI 연구 윤리 심사 어떻게 개선할까: 학계 공동 협력과 새 프레임워크 제안
학계 연구진이 AI 연구의 윤리 심사 방식을 개선하기 위한 공동 협력을 촉구했다. 기존 심사 기구는 연구 참여자 보호에만 치중해 알고리즘 편향이나 악용 등 광범위한 사회적 피해를 다루지 못하므로, 동료 평가와 연계된 새로운 평가 모델이 필요하다는 지적이다.
수
12월 7일 수요일
AI가 스스로 발명할 수 있을까? 'AI 발명자' 특허 기각이 던진 질문
AI 시스템 'DABUS'를 단독 발명자로 내세운 특허 출원이 세계 각국에서 잇따라 기각되면서 기계의 발명 능력을 둘러싼 논쟁이 커졌습니다. 기술 분석에 따르면 문제 모델링부터 개념 선별, 출력물 해석까지 인간의 지도가 필수적이어서 보조 도구에 가깝습니다. 즉 기계의 자율 발명은 아직 현실과 거리가 멉니다.
화
11월 29일 화요일
스탠퍼드대, 스테이블 디퓨전 미세조정해 흉부 X선 합성 영상 생성
스탠퍼드대 AIMI 연구진은 오픈소스 스테이블 디퓨전을 파인튜닝해 병변이 묘사된 흉부 X선 영상을 합성하는 데 성공했다고 발표했다. 막대한 전용 컴퓨팅 비용 없이도 의료 합성 데이터를 생성해 희귀 질환 훈련 데이터 부족을 메울 수 있음을 보여줬다.
수
5월 11일 수요일
英 애스턴대 연구진, 강화학습 기반 AI 신호등 개발
영국 애스턴 대학교 연구팀이 심층 강화학습을 적용한 실시간 교통 제어 시스템을 선보였다. 수동 설정 신호 주기에 의존하는 대신, AI가 시뮬레이션 기반 자율 학습을 거쳐 낯선 도로 상황에서도 신호등을 최적으로 제어해 차량 대기 시간을 대폭 줄인다.