NPUを搭載していてもLLMの実行についてはあまり良い話がなかったAI PCだが、AMDのNPUではOpenAIの「gpt-oss」を実行できるようになった。NPUで実行した場合の文章生成速度や消費電力などを計測してみた。

At the core of every AI coding agent is a technology called a large language model (LLM), which is a type of neural network ...