最近gpt-ossが出てから、ローカルで大規模言語モデル(LLM)を動かすのが流行っていますね。この記事では、「既存のConda環境だけで“OpenAI互換API”を立てて試したい」という”個人的な”モチベーションから、llama-cpp-pythonライブラリだけを使い、サーバー ...
業務で大勢の人が使うツールでは、設定がGUIで直感的に行えるようになっている。とは言え、GUIで指定した設定自体も、何かしらの設定ファイルに保存される。一昔前のツールであれば、バイナリの独自形式で保存されることも多かったが、昨今のツールの ...