Aviutlで編集し出力した動画が高画質になりません

ニコニコ動画に格闘ゲーム（ストリートファイター、スマブラなど）の動画を投稿したいのですが、出力した動画がどうしても高画質にならず困っています。あまり詳しくないので分かりにくい書き方になってしまうのですが以下の環境を使ってます。

HDキャプチャーボードを使用
ビデオキャプチャデバイスにmonsterx3 HD capture
アマレコTVで1280-720（59.94fps）で録画

これを拡張編集x264プラグインを導入したAviutlで編集、大体１０分前後にまとめてx264で出力しているのですが、毎回ざらざらとした見た目になってしまいどう見ても綺麗な画質にはできません。キャラクターが激しく動くゲームなので、終わりの方になったり暗いステージの場面になったりするとモザイクのようになってとても見えにくくなります。

動画サイトにあるAviutl高画質講座や「ニコニコ　高画質」などで検索して出るサイトはかなり読んで出力の際のビデオ圧縮の設定も色々真似してみたのですがいずれも大きくは変わりませんでした。画面のサイズ変更も多分間違ってはおらず、音質をものすごく削ってもダメで、シャープフィルタなどを別途導入してみても変わりはありませんでした（むしろ画質が落ちました）。

３～４分の動画にするとさすがに綺麗な感じにはなるのですが、できれば１０分前後で、希望としては3Dのつるつるした感じをできるかぎり保てるようなきれいな画質で投稿したいです。同じゲームでもそのように綺麗に投稿されている人もいるので、不可能ではないと思うのですがどこが間違っているのか分かりません。

あまりPCに詳しくなく分かりづらくて申し訳ありませんが、アドバイス頂けたら幸いです。また、同じような格ゲーを１０分くらいで無劣化で投稿できている方がいらっしゃれば設定などを教えていただけると嬉しいです。

質問者からの補足コメント

• 全て書ききれないのですが、ビデオ圧縮の欄をサイトなどを参考に変更した１例です。
  □自動マルチパス　目標ビットレート２０００（１０分前後のものだと大体１０００～１２００くらいになる）
  □高速1stpass、nul出力にチェック
  □速度slower
  □AutoVAQ1.30
  □uneven multi Hexagon
  □11(Full RD)
  □動き探索範囲32
  □参照距離6
  □最大連続Bフレーム数4
  □インループデブロックフィルタを両方-1
  
  このようにして出力した場合はほとんど綺麗になりませんでした。

    補足日時：2016/06/26 16:15

No.1 回答者： funfunla 回答日時： 2016/06/26 17:06

ファイル→プラグイン出力→拡張ｘ264出力→ファイル名（N)を決めて

ビデオ圧縮→一番上の歯車プロファイル→高画質を選択して→
品質スライドバーを1にする→
OKして保存　これで高画質保存できると思います　試してみてください。