16bitにしてノイズ加えても、トーンジャンプが発生しますか？
なら、GPUが悪さをしているように思います。
OpenGLをオフにしてもレンダリングしたものに、トーンジャンプが発生しますか？
例えば、Optical Flaresの場合は、Use GPUがデフォルトでオンになっていますが、ここもオフにしていますか？
プレビューなども含めてGPU（OpenGL）でのレンダリングは、高速ですが、その分、大味です。
マッハバンドやエイリアシング、エフェクトよってはエラーが生じたりします。
最近のバージョンは分かりませんが、AE含めアドビ製品はGPUとの連携がダメなことが多いですね。