Azure OpenAI Serviceのプライベートネットワーク化と対話ログ保管運用 ～大和総研の社内適用事例からChatGPTのエンタープライズ利用の実例を紹介～

大和総研DX推進部の城石賢蔵です。
先行ブログ「Microsoft Azureのセキュリティ対策のポイント」において「DIR ChatGPT（当社独自の社員向けChatGPT環境）」を紹介しました。このブログではAzure OpenAI ServiceによるChatGPTサービスの社内展開を短期間（約2カ月間）で実現したことを紹介しましたが、セキュリティ面で課題が残されていました。
ブログ公開後の2024年3月には、課題を克服した新しい環境を構築し、機密性の高い情報をインプットとする文章生成の検証に着手しました。また、文章生成に関わる対話の全文をログとして保管する仕組みを構築しました。本ブログでは、Azure OpenAI Serviceのエンタープライズ利用（企業内利用）セキュリティ面の課題を克服した取り組みを紹介します。
Azure OpenAI Serviceの社内導入を検討されているみなさん、Azure OpenAI Serviceをよりセキュアに利用したいとお考えのみなさんにとって、参考となれば幸いです。
なお大和総研ではMicrosoft 365、Azureをはじめ、AWS、Google Cloud、Oracle Cloud Infrastructureなどのパブリッククラウドの導入に関するご相談を承っております。ぜひご用命ください。
はじめに – セキュリティ対策後のDIR ChatGPTの全体像
各サービスのセキュリティ対策のポイント
① Static Web Apps：メリットを活かすために運用方針を変更して利用を継続
② Azure API Management：Azure Virtual Networkに統合しプライベート化
③ Azure OpenAI Service：Private Endpointを配置してプライベート化
Azure OpenAI Serviceの対話ログ保管運用の実例
おわりに
関連するソリューション
はじめに – セキュリティ対策後のDIR ChatGPTの全体像
先行ブログ「Microsoft Azureのセキュリティ対策のポイント」において、DIR ChatGPTのセキュリティ面での課題を次のように分析し、対策を検討していることを紹介しました。
表1 DIR ChatGPTのセキュリティ上の課題
情報元サイト：「WOR(L)D」
[ オリジナルサイトで見る ]