大規模言語モデルに訪れた「Stable Diffusion」の瞬間：LLaMA が手元のノート PC で動く
開発者の Simon Willison 氏は LLM が Stable Diffusion と同様のオープン化の転換期を迎えたと指摘しました。Georgi Gerganov 氏の「llama.cpp」による 4bit 量子化により、Meta の LLaMA が MacBook 上で直接動作可能となり、個人環境での実行が一気に現実味を帯びています。
オープンソース · デイリー
土
3月11日 土曜日
火
4月5日 火曜日
製造現場の外観検査を自動化：オープンソース「Anomalib」とOpenVINOで推論速度4倍
機械学習エンジニアがオープンソースの「Anomalib」を用いた製造業向け外観検査手法を解説しました。正常画像のみで学習する教師・生徒モデルにより欠陥をピクセル単位で特定でき、IntelのOpenVINOを活用することでCPU推論速度を約4倍の30.2fpsまで引き上げています。
