解決法

Error画面のLearn moreのリンクでOAuth設定画面に行くので、そちらで必須の設定項目を入力します。
プロジェクトのサポートメールも必須入力ですが、Authenticationでgoogleログインを有効にした時に入力しているはずなので、記述変更するのは以下の画像のアプリケーション名のところです。

初期の段階ではfirebaseで作ったプロジェクトのidナンバーの様なものが入っていると思います。
それを作ったプロジェクト名に変え、ページの一番下にある保存ボタンを押します。
（初期で必要な項目は入力されているので、OAuthの設定できてるじゃんって思ってしまい数時間取られました。。）

これでできると思いますが、まだ承認されない方はもしかしたらchromeが最新バージョンじゃないから承認されない可能性もあるので、以下の記事を参考に最新バージョンに更新してみてください。

Google認証でログインした際 403 エラーが発生するお客様へ
やり方はこちらを参考にしてください。

【後日】
のちにOAuth設定アプリケーション名を存在しないプロジェクト名に変えて試したところ、ちゃんと承認されました。
ですのでアプリケーション名はなんでも良いのかもしれませんが、自分のケースでは初期値では動かずアプリケーション名を変えたら動いたのは事実ですので、ここに残しておきます。
もし詳しい方がいらっしゃいましたらご教授していただけたら嬉しいです。