MPEG-4 AVC形式で、他のパラメータは同じで以下の
部分だけを変えた映像を作成しました。

１．2パス 可変ビットレート 平均384k 最大4000k
２．2パス 可変ビットレート 平均784k 最大4000k
３．1パス 可変ビットレート 平均384k 最大4000k
４．1パス 可変ビットレート 平均768k 最大4000k

動きのあるところでのノイズが少ない順で並べると、
１，４，３，２という結果になりました。
オープンソースソフトの ffmpeg を使って上記と同
様の設定で変換したところでは２，１，４，３とい
う順になったので、「2パス 可変ビットレート」の
バグではないかと考えているのですが・・。

認識が間違っていますでしょうか？

私もいろいろ試しましたが、一概には言えないと思います。

ミュージッククリップやデモムービーなどの短い映像では、割とうまく2passエンコードが
効いていると感じます。
例えば、pegasysの「機神 6Mbps」デモムービー(74秒)
http://tmpgenc.pegasys-inc.com/ja/press/03_1224.html#samplemovie
をエンコードすると768k 2passが一番綺麗だと思います。
また、この映像だと768k 1passでもあまり破綻した部分がないので、次点は768k 1pass。
384kは768kに較べると全体に眠い映像になるので順当に384k 2pass, 最後が384k 1pass
といった感じでしょうか。　つまりは、妥当な順番だと思います。

ところが長い映像(20分程度以上)をエンコードすると1passだとかなりの部分で破綻した
映像がでます。(384kでも768kでも)
2passにすると1passの時より「全体で見れば」破綻した映像は減っていると感じます。
（一部だけを取り出すと1passの時の方がマシだった箇所も見られますが）
ただ、私が試した映像ソースの範囲内では、2passにした場合、384kだと破綻した部分が
ほぼ無くなるのに対し、768kでは相当残ってしまうことがほとんどという結果でした。

従って、一般的な長さ(20分程度以上)の映像では、大体において
384k 2pass→768k 2pass→768k 1pass→384k 1pass
という順番になるという印象です。

長時間映像では384kだと2passがかなりうまく働いているのに、768kではあまりうまく
いっていない感じです。
(それでも1passの時よりは「全体的には」良くなっているとは感じます)