
RTX 4070におけるQwen 35Bの消費電力実測Qwen 35Bは平均42Wで動く — RTX 4070の消費電力プロファイルを推論中に4パターン実測
RTX 4070でQwen 35Bを推論した際、生成中のGPU消費電力は平均42Wと低く、LLM推論が電気を過剰に消費するという懸念は誤りである。長時間稼働でもコストは月100円台に収まる。先に結論を書きます。 RTX 4070でQwen 35Bを動かすとき、decode(生成)中のGPU消費電力は平均42Wでした。 TGP(Total Graphics Power)は200W、ゲーミング平均は205W、prompt-evalの一瞬のピークは175Wまで上が...






































































































































































































