Frontmost processのドキュメントには，フローティングウィンドウの振る舞いについて下記のように説明されていました。
フローティングウィンドウのフォームメソッドやオブジェクトメソッドからFrontmost processコマンドを使用すると，このコマンドはフローティングウィンドウレイヤー内の最前面のフローティングウィンドウのプロセス番号を返します。オプションの*引数を指定すると，この関数は，通常ウィンドウレイヤー内の最前面のアクティブウィンドウのプロセス番号を返します。
しかし，フローティングウィンドウが表示されており，フローティングウィンドウではないウィンドウが最前面に位置していた場合，そのウィンドウからFrontmost processをコールしても，最前面にあるフローティングウィンドウのプロセスが返されます。つまり，*を指定すれば通常ウィンドウ，*を指定しなければフローティングウィンドウの最前面プロセス番号が返されるのであり，「フローティングウィンドウのフォームメソッドやオブジェクトメソッドからコマンドを使用すると・・・」という前置きは余計でした。
この点については，近日中にドキュメントが修正される予定です。