xib付きのNSWindowControllerをsheetとして別のwindowから呼びだそうとした時sheetとして呼び出されず別のwindowで開いてしまっていた。
私は、base windowのタイトルバーのところからニュっと降りてくるようにしたかった。
原因を調べている内に呼び出される側のxibファイルでwindowを選択し
window > Behaivior > Visible At Launch のチェックを外してみたらうまく行った。
_webWindowController = [[WebWindowController alloc] initWithWindowNibName:@"WebWindowController"];
[NSApp beginSheet:_webWindowController.window
modalForWindow:self.window
modalDelegate:self
didEndSelector:@selector(sheetDidEnd:returnCode:contextInfo:)
contextInfo:@"login webview close"];