最近gpt-ossが出てから、ローカルで大規模言語モデル(LLM)を動かすのが流行っていますね。この記事では、「既存のConda環境だけで“OpenAI互換API”を立てて試したい」という”個人的な”モチベーションから、llama-cpp-pythonライブラリだけを使い、サーバー ...
対話シェルでは何ができるのか。 同梱されている Python を動かす <第 2 回>で書いた通り、LibreOffice には Python が 同梱 バンドル されているのでシステムに別途 Python をインストールしなくてもマクロは動くし、 その 同梱 バンドル された Python だけを ...
ログインして、InfoQのすべての体験をアンロックしましょう!お気に入りの著者やトピックの最新情報を入手し、コンテンツと交流し、限定リソースをダウンロードできます。 クラウドコンピューティングの登場以降、ソフトウェア業界は大きな変革の中に ...
しかし、上記のように出力を構造化したとしても、出力結果の制約を全て満たすわけではなく、 「LLMをアプリケーションに型安全に組み込める」 とは限りません。実際の開発においては以下のようなケースに遭遇し、修正のためのコードを書くという ...
この記事は会員限定です。会員登録すると全てご覧いただけます。 Protect AIは2024年10月19日(現地時間)、自律型AIを活用した新しい脅威インテリジェンスツール「Vulnhuntr」が複数の重大なゼロデイ脆弱(ぜいじゃく)性を発見したと発表した。 大規模言語 ...
Microsoft は、オープンソースの Python ライブラリ「AutoGen」で大規模言語モデル(LLM)アプリケーションフレームワークの競争に加わった。 Microsoft の説明によると、AutoGen は LLM ワークフローのオーケストレーション、最適化、自動化を簡素化する ...
Googleのチームが開発したPython用のUIフレームワーク「Mesop」の特徴や使い方について、開発チームがブログに投稿しています。 多くのPython用UIフレームワークは簡単に使い始められるものの、標準的な使用方法を超えてカスタマイズを行おうとするとJavaScript ...
一部の結果でアクセス不可の可能性があるため、非表示になっています。
アクセス不可の結果を表示する