VraySunとVraySkyを使ったときに、mentalrayのPhysicalSunandSkyのUse Backgroundにチェックをいれたときのような結果が欲しくて、方法を探しました。
これで何がしたかったかというと、レンダリングはVraySunとVraySkyを使う。
でも、背景は自分の好きなものに差し替えたいと思ったとき、白フリンジがでてしまう問題がでました。
結論から言ってしまうと、RenderSettingのOverridesタブ内、EnvironmentのBackground textureにアサインされているものをbreak connectionしてあげるとできました。
結果は下画像。
画像左側がBackgroundTextureデフォルト（あり）の状態でレンダリングして背景にグレー平面をひいたもの。右側がBackgroundTextureをBreakConnectionした状態でレンダリングしてコンポしたものです。
左側は白フリンジが発生してて、右側は発生していないのがわかると思います。
調べるにあたり下記のサイトが参考になりました。
・コンポジターに必要なアルファチャンネルの知識（後編）
http://compojigoku.blog.fc2.com/blog-entry-5.html
・[3ds max] V-Rayで生じたフリンジについて調べてみました
http://mj31000.blog13.fc2.com/blog-entry-76.html
・VraySkyBackground
http://forums.cgarchitect.com/20545-vray-sky-background.html