NPUを使ってLLMを動かす方法が少しずつ増えてきている。今回紹介する「AnythingLLM」は、最も簡単に導入できるNPU対応LLMツールの1つだ。 導入方法は、公式サイトからソフトをダウンロードし、インストールするだけ。「The all-in-one AI Application」と銘打っており ...
その後、新たなLLMとして「Phi 3.5 Mini Instruct 4K」が追加された。従来から利用できた「Llama」とは全く別の、マイクロソフトのオープンソースモデルである。 「Phi 3.5」は小規模ながら高性能で、日本語を含む多言語に対応している。軽快な動作であることも ...
一部の結果でアクセス不可の可能性があるため、非表示になっています。
アクセス不可の結果を表示する