やり方
Viewならなんでも大丈夫ですが、今回はButtonでやってみます。
まず、Storyboardでボタンを選択した状態で
右側のバーのUser Defined Runtime Attributesを表示させてください。
そして、Key Pathにlayer.cornerRadius
と入力し、TypeはNumberを選択してください。
Valueの値で丸みを調整します。
こんな感じです。

Storyboardでは角は丸くなっていませんが、実際にアプリを動かすと反映されています。
参考
Giving UIView rounded corners