自社サーバでLLM(大規模言語モデル)を運用することには、セキュリティやパフォーマンスなどの面で複数のメリットがある。ただし適切なハードウェアを整えるのは容易ではない。GPUは決して安い製品ではないため、過剰なスペックを避けたいところだが ...
2025年8月にOpenAIが公開したオープンウェイト言語モデル(≒ローカルLLM)「gpt-oss-20b」。優秀で利用価値が高いAIモデルのひとつなのですが、動かすまでがけっこう難しい。 本稿では、どうやれば同モデルを自分のパソコンで動かせるかを紹介します。