何が起きたのか
Anheng InformationのCTOであるLiu Bo氏は、AIの反復スピードが業界の中核的なセキュリティ課題になっていると述べ、現在のほとんどのAIエージェントは、個人または小規模な実験環境でのみ使用されていると指摘した。また、実際に本番システム内で動作するアプリケーションは始まったばかりだと付け加えた。
Liu Bo氏は、データがモデルトレーニング、推論呼び出し、エージェント実行を通過する際に、新たなセキュリティリスクの2つの領域を概説した。1つは、この新しい環境で外部攻撃を防御することの技術的な難しさである。もう1つは、データインフラストラクチャと高品質なデータセットに関するプライバシー問題であり、特にデータが「使用可能だが不可視」や「使用可能だが取得不可」といった要件の下での問題である。
これに対し、Anhengは静的なルールに頼るのではなく、「AI＋動的データセキュリティ」アプローチを構築している。AIとUEBAを組み合わせることで、データを自動的にラベル付けして識別し、機密または重要なデータの位置を特定し、誰がそれを使用しているか、その操作が準拠しているかを判断できると同社は述べている。
なぜ重要か
Liu Bo氏の中心的な懸念は、AI技術がセキュリティシステムが追従できるよりもはるかに速く進化していることだ。エージェントフレームワークはまだ変化しており、リスクは悪意のある操作、データポイズニングから単純な運用上のミスまで多岐にわたる。長い思考連鎖タスクはエージェントを失敗させたり誤動作させたりする可能性があり、攻撃者が悪意のある目的でエージェントを乗っ取る可能性もある。
エージェントの技術的フレームワークがまだ安定していないため、セキュリティベンダーは迅速に対応し、新しいリスクごとに新しいソリューションを提供する必要がある。Liu Bo氏は、AIエージェントが広く展開される前に、迅速な反復の必要性を強調した。
主要な事実
Anheng InformationのCTOであるLiu Bo氏は、急速なAI反復を中核的なセキュリティ課題と位置付けている。
ほとんどのAIエージェントはまだ個人または小規模な実験用途であり、本番展開は始まったばかりだ。
Anhengは「AI＋動的データセキュリティ」システムを提案し、AIとUEBAを使用してデータの識別、ラベル付け、コンプライアンス監視を自動化する。
Liu Bo氏は、AIエージェントのより広範な採用は2027年から2029年の間に起こると予測している。
今後の注目点
Liu Bo氏は、AIエージェントが2027年から2029年ごろに大規模なアプリケーションに入ると期待している。それまでの間、セキュリティプロバイダーは、顧客がエージェントを立ち上げる前に主要な問題に対処する包括的なAI安全計画を提供し、その後、エージェント技術とリスクの進化に合わせて更新し続けるべきだと述べている。