1. メモリ設定
SPSS ModelerのGUIのメモリ設定は以下で変更ができます。複雑なグラフかストリームを表示したり実行するときに不安定になる場合は変更を試してみることができます。
32bit版では1195MBが最大値です。
64bit版ではマシンで持っているRAMに合わせて、2048MBや4096MBなどをまず試すのがよいかと思います。
IBM 最大メモリとメモリの総割り当て量について - Japan
http://www-01.ibm.com/support/docview.wss?uid=swg21623288
2. メモリの節約
Modelerでテーブルノードやグラフノードで開いたウインドウを閉じるときには閉じ方が2つあります。右上の赤い×はメモリからも解放します。黒い×はウインドウは閉じてもメモリに残っています。
黒い×で閉じた場合は出力タブに残っていてダブルクリックすると、処理を再実行しなくてもすぐに開きなおすことができます。
しかし不要になった出力結果を保存しているとメモリを圧迫しますので、不要になったものは右クリックで削除をしてください。
3. メモリの解放
Modelerのウインドウの右下のXXMB/XXMBをクリックすると解放可能なメモリを解放することができます。
参考
IBM Knowledge Center - メモリーの管理
https://www.ibm.com/support/knowledgecenter/ja/SS3RA7_18.1.1/modeler_mainhelp_client_ddita/clementine/memory_managing_tips.html
4.jvm.cfgの設定
「JavaVMのオープンに失敗」したというというエラーが出ることがあります。この時にModeler導入ディレクトリ\config\jvm.cfgのoptions, "-Xmx"を設定すると改善することがあります。-Xmsを大きくしすぎても同じエラーがでることがあるので、-Xmsはあまりいじらないほうがよいと思います。
参考
IBM Exporting to Excel 2007 format fails with: Internal Error. Failed to open Java VM - Japan
https://www-01.ibm.com/support/docview.wss?uid=swg21970560