こちらのnoteで「PocketPal AI」という、スマートフォンでLLMを動かすアプリを紹介しましたが、今回のnoteではローカル環境でLLMを動かす時に、知っておくと有効な要素についてまとめてみます。 デバイスの性能によってどのようなモデルが動くか、どのような ...