Pythonばかり選ばれる理由は本当に便利だからだけ？ それともLLMが学習してきたデータの片寄りにヒントがあるのか。プロジェクトの言語・ライブラリ選択が単調になりがちな現場で、新しい選択肢を探るヒントをお伝えします。 近年、LLMによるコード生成 ...

最近gpt-ossが出てから、ローカルで大規模言語モデル（LLM）を動かすのが流行っていますね。この記事では、「既存のConda環境だけで“OpenAI互換API”を立てて試したい」という”個人的な”モチベーションから、llama-cpp-pythonライブラリだけを使い、サーバー ...

ローカルLLMが話題になってから、ローカルでLLMを動かすことができる、いろいろなツールが登場しました。 本連載でも ...

この記事は会員限定です。会員登録すると全てご覧いただけます。 Protect AIは2024年10月19日（現地時間）、自律型AIを活用した新しい脅威インテリジェンスツール「Vulnhuntr」が複数の重大なゼロデイ脆弱（ぜいじゃく）性を発見したと発表した。 大規模言語 ...

Googleのチームが開発したPython用のUIフレームワーク「Mesop」の特徴や使い方について、開発チームがブログに投稿しています。 多くのPython用UIフレームワークは簡単に使い始められるものの、標準的な使用方法を超えてカスタマイズを行おうとするとJavaScript ...

AIの本体と言える大規模言語モデル(LLM)のトレーニングはほとんどの場合PyTorchやPythonを使用して行われていますが、そうしたトレーニングを純粋なC言語のみで実装したツール「llm.c」が登場しました。まだ最適化が行われておらず従来の手法に速度面では ...