米Appleは12月12日(現地時間)、iPhoneのようなメモリ容量の限られた端末上でLLM(大規模言語モデル)を実行するための技術に関する論文「LLM in a flash:Efficient Large Language Model Inference with Limited Memory」を公開した(リンク先はPDF)。 タイトルを直訳すると「一瞬 ...
2025年8月にOpenAIが公開したオープンウェイト言語モデル(≒ローカルLLM)「gpt-oss-20b」。優秀で利用価値が高いAIモデルのひとつなのですが、動かすまでがけっこう難しい。 本稿では、どうやれば同モデルを自分のパソコンで動かせるかを紹介します。