대형 언어 모델의 '스테이블 디퓨전 모먼트': 노트북에서 LLaMA가 돌아간다
개발자 Simon Willison은 LLM이 스테이블 디퓨전과 같은 오픈소스 혁명기를 맞이했다고 밝혔습니다. Georgi Gerganov가 공개한 llama.cpp의 4비트 양자화 기술 덕분에 Meta의 LLaMA 모델을 개인 맥북 등 일반 하드웨어에서 직접 실행할 수 있게 되었습니다.
오픈소스 · 데일리
토
3월 11일 토요일
화
4월 5일 화요일
오픈소스 Anomalib을 활용한 제조 외관 검사 자동화: OpenVINO로 추론 속도 4배 향상
머신러닝 엔지니어가 오픈소스 라이브러리 Anomalib을 활용한 산업용 비전 검사 방식을 공유했습니다. 결함 없는 정상 데이터만으로 학습하는 교사-학생 네트워크를 적용해 픽셀 단위로 불량을 감지하며, OpenVINO를 통해 CPU 추론 속도를 약 4배 높여 30.2fps를 기록했습니다.
