日本企業、職場でのAIエージェント活用に境界を設定

動向

日本のソフトウェア企業による2件の発表は、エージェントの自律性を強調するよりも、人が責任を担い続ける範囲を定めることに重点を置いている。一方は社内の運用モデルを公開し、もう一方は開発権限を2つの製品モードに分けている。

1. Uravation、社内エージェント62体を可視化—社外向けの承認は人が担当

Uravationは、社内で利用するAIエージェント62体のマップを公開したとしている。その内訳は、マネージャー9体と、9部門に配置されたエージェント53体である。同社はまた、8月の測定で自動化されたジョブが250件を超えたとしている。重要な境界は技術面ではなく組織面にある。同社によると、すべての社外送信や公開を含め、業務設計、承認、品質判断は人が担う。これらは同社自身が公表した数値であり、独立した監査結果ではない。(発表を読む)

2. TALON、AI開発を制約付きモードとアプリケーション全体モードに分割

HOIPOIによると、無料のTALON AI Developerアドオンは9月9日に提供を開始した。「Window」版ではエージェントが記述するコードを定められた領域に限定する一方、「Whole」版では要件から、より広範なアプリケーションの草案を生成できるという。同社は、アプリケーション全体を対象とする作業について、本番環境から分離された環境内にとどめ、完了前に機械検証、人による承認、多層的なチェックを通過させる必要があるとしている。これらの安全対策は製品側の主張であり、独立した試験によって保証されたものではない。(発表を読む)

企業が押さえるべきポイント

エージェントの導入は、誰が何を変更できるのか、システムがどこで動作できるのか、どの出力に人の承認が必要なのかという、運用設計上の課題になりつつある。公表された管理策は有用な出発点だが、購入企業には依然として、独自のテスト、アクセス制御、監査記録、責任分担ルールが必要である。