Introduction Application of artificial intelligence (AI) tools in the healthcare setting gains importance especially in the domain of disease diagnosis. Numerous studies have tried to explore AI in ...
NPUを搭載していてもLLMの実行についてはあまり良い話がなかったAI PCだが、AMDのNPUではOpenAIの「gpt-oss」を実行できるようになった。NPUで実行した場合の文章生成速度や消費電力などを計測してみた。