AIモデルを共通化させて推論するONNX Runtimeはあっても、各社のNPUに対応するExecution Provider（EP）は個別に用意しなければいけない。開発者としては、『ハードウェアの個別対応はしたくない。違いはOS側で吸収してくれ』と言いたくなるはずだ。 この状態は、DirectXが誕生する前のビデオチップ、今で言うGPUの状況に似ている。チップごとの差異を抽象化しつつ、高い性能を ...

生成AIを活用する際は、プロンプトと一緒に渡す情報が重要な役割を果たす。前提条件や文脈を提示することで、本当に必要な出力が得られるからだ。そのため、毎日[Ctrl]＋[C]と[Ctrl]＋[V]を繰り返す、コピペ祭りが起きてしまっている。 Web ...