Railsのデフォルトの設定では，エラーメッセージなどが全て英語になっています．これはI18nを利用して，日本語に切り替えることができますが，日本語用のロケールファイルが付属していません．
さっと日本語化したいときには，rails-i18nのgemを利用すると良いでしょう．
# Gemfileに以下を追記し，bundle install
gem 'rails-i18n'
# config/application.rb
# 次の２行を追加（２行目はタイムゾーンを東京に設定）
config.i18n.default_locale = :ja
config.time_zone = 'Asia/Tokyo'
rails-i18nの翻訳が一部気に入らない場合などは，config/locales/ja.ymlを作成して設定することで，上書きすることが可能です．