トランスフォーマーの計算について

解決したいこと

作って理解する Transformer / Attentionという記事で、Positional Encodingの解説自体は何となくわかるのですが、uiがなぜcos(pui)になるのかが導けません。お分かりになる方は、解説していただけないでしょうか？

発生している問題・エラー

出ているエラーメッセージを入力

例）

NameError (uninitialized constant World)

または、問題・エラーが起きている画像をここにドラッグアンドドロップ

該当するソースコード

ソースコードを入力

例）

def greet
  puts Hello World
end

自分で試したこと

何度も紙で計算したのですが、、、。申し訳ありません。