centOS(6.7)で、Railsのプロジェクトを作ってHerokuにupしようとした時に起きました。
例のごとく、「 heroku login 」を実行したら以下のようなエラーが。

$ heroku login
Installing Heroku Toolbelt v4... !    Heroku client internal error.
 !    Search for help at: https://help.heroku.com
 !    Or report a bug at: https://github.com/heroku/heroku/issues/new

    Error:       Unable to verify certificate, please set `Excon.defaults[:ssl_ca_path] = path_to_certs`, `ENV['SSL_CERT_DIR'] = path_to_certs`, `Excon.defaults[:ssl_ca_file] = path_to_file`, `ENV['SSL_CERT_FILE'] = path_to_file`, `Excon.defaults[:ssl_verify_callback] = callback` (see OpenSSL::SSL::SSLContext#verify_callback), or `Excon.defaults[:ssl_verify_peer] = false` (less secure). (Excon::Errors::SocketError)
    Command:     heroku login
    Version:     heroku-toolbelt/3.42.20 (x86_64-linux) ruby/2.1.6
    Error ID:    cde4cdcf90fd4d688d8d2bbb1ccacf3c

なんだか
　「certファイルとかその辺設定せぇや！」
みたいなことを言われてるっぽいです。

それらを設定すれば解決するかもですが、とりあえず　SSL認証をさせない方法で回避しました。
以下のように　「HEROKU_SSL_VERIFY=disable」を付け加えればSSL認証を行わずに実行してくれます。

$ HEROKU_SSL_VERIFY=disable heroku login
Enter your Heroku credentials.
Email: *****@****.com
Password (typing will be hidden): 
Logged in as *****@****.com

でけた！！