はじめに

Azure OpenAI Service（以下、AOAI）が流行ってますね！昨今ではエンタープライズ利用の話もよく聞きます。私の周りのお客様からも「とりあえず触ってみたい」という声が出てくるようになりました。ひとまず使いたいということであれば、Azure環境があれば、そのサブスクリプションについてAOAI利用申請を上げることで、すぐに使えるようになります。（私の場合も即日承認メールが届きました。）
しかし、エンタープライズでの本格利用となると、他のAzureサービスと同様にセキュリティやネットワーク経路に気を遣う必要があります。これから色々な観点で検証をしてみたいと思いますが、今回はネットワークの観点でお客様の拠点やオンプレミス環境からAOAIを安全に使うための方法を試してみました。

まずは AOAI のネットワーク制限

AOAI自体にネットワーク制限かけたい場合に、どのような機能が使えるか挙げてみます。

AOAI の Firewall

まず、AOAIは他のAzureサービスと同じくFirewall機能を持っています。Firewallを有効化することで、AOAIのアクセス元制限を行うことができます。一般アクセスをDenyして、アクセス許可する（Azure内の）VNET、もしくはパブリックIPを設定することができます。

また、このFirewallが偉いのは、この設定を入れることでAOAIのAPIを受付元を制限するだけでなく、 「Azure OpenAI Studio」の方もアクセスを制限してくれる ことです。厳密には「Azure OpenAI Studio」自体にアクセスはできてしまいますが、プロンプト入力は拒否されますので実質利用することができなくなります。

ただ、ネットを見ていると全ての操作ができなくなる訳ではないようなので、入口からアクセスを防ぎたい場合は AzureADの条件付きアクセス を適用するのがよいと思います。(未検証)

AOAI の PrivateEndpoint

AOAIリリース当初からPrivateEndpointを入れてくるあたり、Microsoftもエンタープライズ利用を想定しているんだと察しました。AOAIのPrivateEndpointについては、すでにたくさんの方がブログ等で書かれているので、もはや三番煎じくらいですが、PrivateEndpointを構成することでAOAIのアクセスにはVnet内のプライベートIPを使うことができますので、パブリックネットワークに出ることなくAOAIを利用することができます。

AOAI側の設定はこんな感じになります。PrivateEndpointを構成すると、PrivateEndpoint専用NICやプライベートDNSゾーンが構成されますが、そのあたりの詳細は割愛します。

NSG(Network Security Group)

NSGはもう誰もが使ったことがある一般的なサービスですが、先ほどのPrivateEndpointが所属するSubnetにもNSGを効かせることができるようになっています。NSGの範囲で更にアクセス制御をかけることでセキュリティを高めることが可能です。

更なる拡張に向けて

AOAIのFirewall、PrivateEndpointさらにはNSGを利用すると下記の構成を作ることができます。これでだいぶセキュアな環境ができました。

さて、ここまではAzureに閉じた話なのでそんなに難しくありません。しかし、実際の現場でAOAIがどのように使われるか考えた場合、Azure内のVMからしか使えないというのは現実的ではありません。実際は、お客様の拠点やオンプレミス環境の業務システム（APサーバ）、もしかしたら他クラウド上のサーバからAOAIに繋ぎたい、という要件が出ると思われます。

DNS Private Resolver

Azure外からPrivateEndpointに接続する際に問題になるのは、名前解決です。拠点やオンプレミス環境とはExpressRouteやVPNで接続することでIP Reachableになりますので、PrivateEndpointのプライベートIPにアクセスことは可能になりますが、プライベートDNSゾーンにはアクセスできませんので、URLで接続する際にはこのプライベートIPを誰が名前解決してくれるのか、という問題がでます。この時に使えるのがDNS Private Resolverです。
DNS Private Resolverはオンプレミス環境からAzure DNSプライベートゾーンに対してクエリが発行できるようになるサービスです。細かなアーキテクチャは下記をご参照ください。

兎にも角にも先ほどの環境にDNS Private Resolverを導入することで、下記の構成を実現できます。お客様の拠点からもセキュアにアクセスできますね。