ハマったのでメモしておきます．まず，Statusが緑(Rady for Sale)じゃないと変更できません．アップデートを行ったタイミングで変更しましょう．
- iTunes Connectにプライマリ言語にしたい言語のスクリーンショットをアップロードした上でバイナリを提出（重要）
- Statusが緑になったらApp情報からプライマリ言語を変える（審査不要で即座に変更されます）
私の場合は，スクリーンショットを世界共通のものにしていたので，1.の手順で詰んでいました．（iTunes Connectのヘルプをちゃんと読むと，1.のことも書いてあります）
cf. https://help.apple.com/itunes-connect/developer/#/deve6f78a8e2?sub=devb34f436a9