SDIモードでアプリケーションを起動した場合,パレットウィンドウ(Palette form window)で表示されているダイアログは,タスクバー上でアプリケーションのウィンドウ(ドキュメント)としてカウントされないことに留意してください。たとえば,パレットウィンドウと標準ウィンドウ(Plain form window)一緒に表示し,標準ウィンドウのほうを閉じた場合,アプリケーションが最前面にある間はパレットウィンドウが引き続き画面に表示されていますが,アプリケーションが最前面ではなくなると隠されてしまい,タスクバーにウィンドウのアイコンが1個もないため,アプリケーションが「消えた」ような状況になります。これは仕様です。
パレットウィンドウを補助的なウィンドウではなく,ドキュメントとして表示するのであれば,Palette form windowではなく,Controller form windowを使用してください。