正直、Fargateもサービス仕様の変更が著しいため、SageMakerの利用をおすすめします。
（SageMaker専門家は、Fargateに詳しくない可能性があり、ベストのアーキテクチャを描けない可能性がある）
SageMakerではなく、Fargateで推論を実施する場合
＜参考＞
[初心者向け]言われるままにFargate初めて触ったので、忘れないための記録
https://dev.classmethod.jp/cloud/aws/fargate-my-first-step/
【AWS ECS】タスク実行時のキャパシティープロバイダーを設定する【2019/01】
https://qiita.com/tegnike/items/64f7ba9501144bf6bb17
なんでAWSのエラーメッセージはこんなにも意味不明なんだ。。
キャパシティープロバイダーってなんだよ。。