VPNを実現するトンネリング「直接接続しているかのように通信が行えます」とは？

VPNの技術が導入される以前は、
複数の離れたNetworkを繋ぐのに専用線を契約して利用していました。

専用線だと、その名の通り、離れた拠点間に敷設されたネットワーク回線（帯域）を
自分たちだけで占有することができ、

その回線を経由して私的なNetwork間を直接繋ぐことができました。

専用線とは、
固定された相手と、常時、通話がつながった電話回線のようなものです。

回線と中継する機器により、音声データだけでなく、コンピュータの通信データを常時流すことができます。

各家庭や営業所と基地局（交換機）との間にケーブルが敷設され、
通信先を選択する処理（通話の開始）が必要な一般的な電話回線と異なり、

専用線では常時通話がつながっており、交換機を介さずに直接離れた対向先と回線が結ばれている状態なので、一般的な電話回線等と比べると、専用線は敷設費用・回線利用料等もかなり高価でした。
（通話の頻度が高かったり、流すデータ量が多い場合には、その都度、通話を繋ぐより、専用線のように常時繋がっている方が便利で安くなってきます）

VPNを理解する前に、(VPNの技術をいったん忘れて）専用線について調べてみることをおすすめします。

また、OSIの階層についてですが、

専用線であろうが、VPNであろうが、

離れたPrivate Network間を
どのOSI階層(L2, L3, ...) どのOSI階層で接続するかは、決められているわけではなく、
あくまでユーザー側の任意で選択（設計）できます。
（一般的にはL3レベルで接続することが多い）

Layer2レベルの接続だと、ルーティングは不要ですが、ブロードキャストなどのトラフィックも専用線を経由して対抗側のNetworkにも流れてしまいますが、

arpを直接解決できたり、WindowsのMicrosoftネットワーク共有サービスが直接通過できたり、ネットワークプリンタがL3レベルの設定なしで直接接続できるなどの利点もあります。

Layer3レベルの接続だと、ブロードキャスト等のトラフィックは対向側には流れませんが、
当然、ルーティングの設計は必要になります。
（単純なルーティングだと、デフォルト・ゲートウェイを対向先に向かうルータに向けるだけですが）

layer2レベルの接続にするか、Layer3レベル、もしくはそれ以上の階層の接続にするかは、
ユーザー側のNetworkの運用方針や設計次第です。

VPNにも、専用線同様に、
L2, L3, さらにはL4(SSL/SSH等)レベル等の接続を選ぶことができます。
どの階層での接続を選択するかによって、導入する機器(ルータ、FW、VPNゲートウェイ製品等）の選択も変わってきます。

VPNを利用すると、複数箇所のインターネット接続等を経由して、
その接続点の中継機器間で、
仮想的な専用線接続(その名の通り、Virtual Private Network）が実現できますが、

専用線と比較することで、
今では当たり前になったVPN（インターネットVPN）のメリット・デメリット・特徴等が見えてくると思います。

専用線は、インターネットのバックボーン、大規模データセンター間の企業内Networkの接続など、今でも多く利用されています。