株式会社松尾研究所（本社：東京都文京区、代表取締役： 川上登福、以下「松尾研究所」）は、世界最大級のデータサイエンスプラットフォーム「Kaggle」にて開催されたAIセキュリティに関する国際コンペティション「AI Agent Security: Multi-step Tool Attacks」において、同社所属のデータサイエンティストが参加したチームが金メダルを獲得しました。（順位：4位）
「Kaggle」とは、データ分析や機械学習に関する課題を競い合うオンラインプラットフォームです。世界中のデータサイエンティストや統計家などが参加しており、AI人材の育成や企業の課題解決に役立っています。本コンペティションには世界トップレベルのデータサイエンティストや機械学習エンジニアが多数参加しており、この度の受賞は、松尾研究所のデータサイエンティストの発想力と技術力が世界的に認められたものと考えています。
■取り組み内容
本コンペティションでは、ツールを利用するAIエージェントを対象に、意図しないツール操作や情報漏えいなどにつながるセキュリティ上の脆弱性を発見する攻撃アルゴリズムの開発が求められました。参加者は、メール送信やファイル操作、HTTP通信などのツールを利用するLLMエージェントに対し、攻撃経路を探索し、未知のセキュリティ対策下でも再現可能な脆弱性を効率的に発見する手法を設計・実装し、その性能を競いました。
■本取り組みにおける主な成果まとめ
1.世界中のトップデータサイエンティストが集う中での「金メダル獲得」
世界中の精鋭エンジニアや研究者が参戦する「Kaggle」において、上位の極めて優れた結果を収めたチームのみに授与される「金メダル（4位）」を獲得しました。
2.AIエージェントの安全性評価に向けた解法の開発
本コンペティションにおいて、用意された評価環境に対するセキュリティ上の脆弱性を発見する攻撃アルゴリズムを開発し、高い精度を実証しました。
3.最先端AI技術に関する知見と技術力の蓄積
コンペティションを通じて培われた最先端の技術知見やデータサイエンスのノウハウを社内に蓄積し、今後の研究開発およびAI技術の発展に寄与してまいります。
■受賞者コメント
株式会社松尾研究所 データサイエンティスト
力岡 友和
本コンペティションでは、LLMエージェントがツールを利用する際に生じるセキュリティ上の脆弱性を、限られた評価時間の中でいかに安定して攻撃できるかという点に注力しました。特に、公開されていないセキュリティ対策下でも成立する攻撃手法を検討するとともに、モデルごとの挙動の違いを踏まえたプロンプト設計や、より多くの候補を効率的に評価するための実行高速化に取り組みました。今回のコンペティションを通じて得たAIエージェントのセキュリティ評価やレッドチーミングに関する知見を活かし、今後の研究開発にもつなげてまいります。
■松尾研究所について
株式会社松尾研究所は国立大学法人 東京大学大学院 工学系研究科 松尾・岩澤研究室に伴走し、大学を中心としたイノベーションを生み出す「エコシステム」を作り、大きく発展させることを目的に設立された研究所です。松尾研究所は、アカデミアから生み出される研究成果・技術の「開発・実装」を行い、広く社会に普及を目指し、日本の産業競争力の向上に貢献しています。
http://matsuo-institute.com