乗算のところで結構ややこしい事が起こっているので、除算と累乗は今は無視します。
このプログラムを実行するとき、コマンドライン上で次のように実行すると思います。
java kadai4 11 + 7
java kadai4 11 - 7
java kadai4 11 * 7
java kadai4 11 / 7
java kadai4 11 % 7
java kadai4 11 ^ 7
このとき、メインメソッドが受け取る文字列配列argsの内容を確認してみると、乗算以外は
args = ["11", "+", "7"]
args = ["11", "-", "7"]
以下略
こんな感じで、予想通りの値が入っています。
しかし、乗算のときだけおかしな事になります。
args = ["11", "kadai4.java", "kadai4.class", "その他ファイル名", "7"]
このように、乗算記号のアスタリスク(*)がファイル名になってしまいます。
これは、コマンドラインではアスタリスクが特殊な文字として扱われ、カレントディレクトリの全てのファイル名に展開されるからです。(詳しくはワイルドカードで調べてみてください)
これを防ぐには、次のように、実行時のコマンドでバックスラッシュやクォートで囲うなどしなければなりません。
java 11 \* 7
java 11 "*" 7
java 11 '*' 7
とりあえずこれで乗算のところのエラーはなくなると思います。