NPUを搭載していてもLLMの実行についてはあまり良い話がなかったAI PCだが、AMDのNPUではOpenAIの「gpt-oss」を実行できるようになった。NPUで実行した場合の文章生成速度や消費電力などを計測してみた。

ピクセル処理のために生まれたGPUは、ディープラーニング革命の原動力へと進化し、現在ではAI経済の中心に位置している。新しいアクセラレーターが台頭する中でも、GPUはAI研究と大規模AIの橋渡し役であり続け、半導体技術、製造、システム設計の現実によっ ...