カクツキ問題解決しましたメモリの問題だったみたいですね
mylist/64200866
NVIDIA コントロール設定(3D管理)
DSR3.00× DSR滑らかさ 50%
アンチエイリシア関連全部ON
アビエント オクルージョンパフォーマンス
テクスチャフィルタリング-クオリイティ ハイ
クオリティ
異方性フィルタリング 16×
エンコードソフト TMPGEnc Video Mastering Works 7
フィルター
輪郭強調 強さ38 範囲普通
高精度映像ノイズ除去 強さ130 範囲狭い(ディティール保存重視)
フレーム補完 映像補完 オプテイカルフロー (品質重視) 他全部1
色調補正 彩度15
映像シャープネス 強さ3
スマートシャープ 範囲80 ぼかし強度3 検出レベル128
といった設定です
これがニコニコ動画に投稿したらどれくらい劣化するのやら…
追記
ニコニコ側の再エンコの影響で多少画質は悪くなってましたけど、思ったより画質は悪くないですね