多分、エンコードは負荷に加えて処理の密度が高いので、VRM（マザボの電源部）の発熱からのサーマルスロットリング発動じゃないかなぁ。
VRMはCPUと違って冷却が万全じゃないから、熱くなると冷めにくい。それに、CPUのみならほかの処理でもサーマルスロットリングに引っかかるはず。