Stemsフォーマットって聞いたことしかなく、使ったことなかったのだけど。

http://www.stems-music.com/ja/stems-is-for-djs-jp/
4ch分、個別にミックス前のトラックが入ったフォーマットらしい。ほぼDJ用。
stemsのサンプルファイルもここからダウンロード出来る。(1.5GB)

エンコードの方は、アプリがあって誰でも作れる感じ。
http://www.stems-music.com/ja/stem-creator-tool-jp/

でも、デコードする方法は無いなと思って。
しらべらただのmp4コンテナに、音声ファイルがはいってるだけぽい。

ので。

# チャンネルの情報見る
ffmpeg -i sample.stem.mp4

# チャンネルごとwavに書き出す
ffmpeg -i sample.stem.mp4 -map 0:0 stereo.wav -map 0:1 drums.wav -map 0:2 bass.wav -map 0:3 synths.wav -map 0:4 vox.wav