～NVIDIA DGX B200の導入による計算基盤の強化と、NVIDIA NemoClawによるセキュアなAIエージェント実行環境の技術検証を推進～
株式会社みずほフィナンシャルグループ（執行役社長：木原 正裕、以下、グループを総称し〈みずほ〉）は、NVIDIAの製品・サービスおよび技術的知見を活用し、金融機関における生成AIおよびAIエージェント活用をより安全かつ高度に進めるため、AI活用基盤の高度化に向けた検討を開始しました。
本検討では、生成AIの研究開発・推論検証を支えるオンプレミスGPU環境と、AIエージェントを安全に実行・管理する仕組みの両面から、金融機関に求められる安全性・統制を確保しながらAI活用を拡大するための技術的な論点を検討します。
これにより、機密性の高い情報を適切に保護しながら、社員が利用するAIエージェントの業務範囲を段階的に拡大し、情報収集、文書作成、分析、開発支援などの業務高度化につなげることをめざします。
■背景・目的
生成AIおよびAIエージェントは、情報収集、文書作成、照会対応、営業支援、審査・モニタリング、システム開発支援など、金融機関の幅広い業務で活用可能性が広がっています。
一方で、金融機関がこれらの技術を本格的に活用するためには、機密性の高いデータや業務情報の保護、法令・規制・社内ルールへの適合、利用状況の監査性、エージェントの実行環境に対する統制を確保する必要があります。AI活用の拡大と、金融機関に求められる厳格な統制管理を両立することが重要です。
今後は、AIエージェントがメール、チャット、業務システム上の通知、定期的な業務イベントなどを契機として継続的に稼働し、情報収集や文書作成、確認依頼、処理の実行を自律的に支援する活用が広がると見込まれます。
こうした活用を金融機関で進めるためには、機密情報を外部に出さず、エージェントの権限や接続先を制御し、実行履歴を確認できる環境が不可欠です。〈みずほ〉は、NVIDIAの支援を通じて、オンプレミスGPU環境とセキュアなAIエージェント実行環境の両面から、金融機関にふさわしいAI活用基盤の適切性や信頼性を検討します。
■取り組み概要
本検討では、以下の2つのテーマに取り組みます。
1. NVIDIA DGX B200の導入および将来的なGPUクラスタ構築に向けた技術検討
オンプレミスGPU環境の強化として、NVIDIA DGX B200※1の導入を進めます。研究開発中のみずほLLM※2を含む生成AIモデルの学習、評価、改善、推論検証に取り組むとともに、ユースケース実証を行う研究開発環境の整備を進めます。
また、将来的なAI活用の拡大や推論需要の増加を見据え、複数のGPUサーバーを連携させるGPUクラスタ※3構築に向けた検討を進めます。実利用を支える計算基盤として、推論を含むAIワークロード、ネットワーク、ストレージ、LLMOps、セキュリティ、運用管理、拡張性などの観点から、必要な構成や運用の在り方を検討します。
これにより、クラウド環境とオンプレミス環境を適切に組み合わせ、研究開発から業務適用まで、用途や機密性、性能、コスト等に応じて多様な計算資源を選択・活用できるAI活用基盤 の実現をめざします。
※1 NVIDIA DGX B200：AIモデルの開発から実運用まで、AIワークロード を支える高性能な計算基盤。NVIDIA Blackwell GPUを8基搭載しており、それらを高速に接続する第5世代のNVIDIA NVLinkにより、大規模なLLMの学習や推論を効率よく実行できます。
※2 みずほLLM：金融業務に求められる専門知識や社内ルール等を踏まえた回答を可能とすることをめざし、〈みずほ〉が開発を進めている大規模言語モデル。みずほLLMに関するプレスリリースはこちら
※3 GPUクラスタ：複数のGPUサーバーを連携させ、大規模なLLMの学習、評価、推論等を効率的に実行するための計算環境。
2. NVIDIA NemoClawを活用したセキュアなAIエージェント実行環境の技術検証
NVIDIA NemoClaw※4を活用し、金融機関でAIエージェントを安全に利用するための実行環境について技術検証を進めます。
本技術検証では、AIエージェントが社内データや業務システムと連携することを想定し、実行環境の隔離、データ保護、ネットワークアクセス制御、権限管理、実行履歴の確認などの論点を確認します。あわせて、研究開発中のみずほLLMを含む生成AIモデルとの連携についても検証し、社内文脈を踏まえたAIエージェント活用の可能性を確認します。
これらの検証を通じて、機密性の高いデータや社内システムを扱う領域においても、安全性と拡張性を両立したAIエージェント活用の実現をめざします。
※4 NVIDIA NemoClaw： NVIDIA Nemotronのオープンモデル、オープンハーネス、およびNVIDIA OpenShellセキュア ランタイムを用いて構築されたAIエージェントを、安全に実行・管理するためのリファレンス ブループリントのコレクション。 OpenShellによる実行環境の隔離やネットワークアクセス制御により、企業内で求められるセキュリティやガバナンスに配慮したAIエージェント活用を支援します。
■今後の展望
将来的には、研究開発中のみずほLLMを含む生成AIモデルを、機密性の高いデータや社内システムと安全に連携させることで、金融機関に求められる統制を確保しながら、AIエージェントの活用領域を拡大することをめざします※。
これにより、社員がAIエージェントを業務の伴走者として活用し、情報収集や資料作成、分析、開発支援などをより効率的に進められる環境づくりを進めます。社員一人ひとりの専門性を拡張し、より多くの時間をお客さまとの対話や付加価値の高い業務に振り向けることで、お客さまへの提供価値向上につなげていきます。
〈みずほ〉は、AIを単なる効率化ツールとしてではなく、社員一人ひとりの専門性を拡張し、お客さまへの提供価値を高めるための重要な経営基盤と位置づけています。今後も、国内外の先進的なテクノロジーパートナーとの連携を通じて、金融業界における安全で信頼されるAI活用のモデルケースの創出をめざします。
※本取り組みは、現時点では検討および技術検証を目的とするものであり、具体的なサービス提供時期、対象業務、導入範囲等は今後の検証結果を踏まえて決定します。
■〈みずほ〉のDXの取り組み
〈みずほ〉のDX情報発信メディア「MIZUHO DX」ではAI活用等の様々な事例を紹介しています。
■株式会社みずほフィナンシャルグループについて
みずほフィナンシャルグループは「ともに挑む。ともに実る。」をパーパスに掲げ、金融の枠を超えた価値創造を通じて、持続可能な社会の実現をめざしています。
銀行、信託、証券などの各グループ会社が一体となり、法人・個人・グローバルの幅広いお客さまに総合的な金融サービスを提供。デジタルやサステナビリティの分野にも注力し、社会・経済の変化に寄り添いながら、お客さまとともに新たな未来を切り拓いていきます。
■会社名 株式会社みずほフィナンシャルグループ
■代表者 執行役社長：木原 正裕（きはら まさひろ）
■本社所在地 〒100-8176 東京都千代田区大手町1丁目5番5号（大手町タワー）