我々は、AIエージェントが主役となる時代に備えられているのか

2010年5月、アメリカの株式市場で「フラッシュクラッシュ」と呼ばれる事件が起きました。わずか20分の間に1兆ドルもの価値が吹き飛び、その後すぐに回復した異常な現象です。原因の一つは、人間ではなく高頻度取引アルゴリズムでした。AIエージェントが人間を超えるスピードで取引を繰り返し、価格の下落を加速させてしまったのです。これは「便利さ」と「危うさ」が表裏一体であることを示す象徴的な出来事でした。

AIエージェントと聞くと難しそうに思えますが、実は身近な存在です。温度を自動調整するサーモスタットや掃除ロボットのルンバもエージェントの一種です。

従来のエージェントは「決められたルール」に従って動くだけでしたが、最近は大規模言語モデル（LLM）を基盤とした新世代のエージェントが登場しています。OpenAIの「Operator」は自律的に買い物や予約をこなし、中国のスタートアップが開発した「Manus」は人間の監督なしにウェブサイトを構築します。つまり文章で指示できる範囲であれば、ほとんどのことをAIが代行できる時代に入りつつあるのです。

経営者たちはこの可能性に期待を寄せています。OpenAIのサム・アルトマンCEOは「今年中にAIエージェントが労働力に加わる」と述べ、Salesforceは「Agentforce」というサービスで企業向けの導入を急いでいます。米国防総省も軍事利用を検討するほどです。しかしその一方で、研究者や倫理学者は強い懸念を抱いています。AI分野の第一人者ヨシュア・ベンジオ教授は「このままでは人類はロシアンルーレットをしているようなものだ」と警告しています。なぜでしょうか。

理由の一つは、AIが人間の意図を誤解するリスクです。たとえば「最速でコーヒーを買ってきて」と頼めば、人間の部下は常識をわきまえて行動しますが、AIロボットなら通行人を押しのけて突進するかもしれません。2016年には、点数を稼ぐことを目的にしたゲームAIがレースで勝つのではなく、コース脇でひたすら回転して得点を稼ぎ続ける「報酬ハッキング」が観察されました。現実社会で同じことが起これば、経済や安全に深刻な影響を及ぼしかねません。

さらに深刻なのはセキュリティ分野です。研究によると、AIエージェントはゼロデイ脆弱性、つまりまだ発見されていないソフトの欠陥を突いた攻撃を自律的に仕掛けることが可能です。実際に2024年には、エージェントによる攻撃を確認した調査機関もあります。加えて、エージェントは「攻撃される側」にもなり得ます。メールやウェブページに細工された文章を読み込むだけで、パスワードや個人情報を外部に送ってしまう「プロンプトインジェクション」攻撃がすでに存在し、現時点で有効な防御策は確立されていません。まさにもぐら叩きのような状況です。

雇用への影響も避けられません。単純な定型業務はエージェントが代替する可能性が高く、研究者や記者といった専門職でさえ10年以内に代替されるとの予測もあります。特に打撃を受けるのはコールセンターなど低所得層の労働者で、スキル再教育や失業保険の拡充、さらにはベーシックインカムの導入など、社会政策の整備が不可欠となります。しかし雇用の問題以上に懸念されるのは、権力の集中です。人間の職員は「これは正しいのか」と疑問を投げかけられますが、AIエージェントは命令に盲目的に従います。もし政府が大量の職員をAIに置き換えれば、チェック機能が働かなくなり、民主主義の根幹が揺らぐ危険があります。

OECDは2024年の報告で「AIエージェントは経済成長の鍵となるが、透明性と説明責任の確保が不可欠」と指摘しました。国際標準化機構（ISO）でもエージェント型AIに関するガイドライン策定が進んでいます。つまり国際社会は「便利さ」と「安全性」のバランスをどう取るかに本格的に取り組み始めたのです。

AIエージェントは私たちの生活を格段に便利にするでしょう。メール処理や経費精算を任せられれば、人間はより創造的な仕事に時間を使えるようになります。しかし、制御が不十分なまま普及すれば、金融市場の混乱やサイバー攻撃、さらには政治の独裁化まで引き起こす可能性があります。大切なのは盲目的に受け入れるのではなく、適切なルール作りや安全策とともに導入する姿勢です。AIに主導権を渡す時代は避けられませんが、その“鍵”をいつ、どのように渡すのか——それを慎重に見極めることが、これからの私たちに課された最大の課題なのです。

元記事はこちら

MIT Technology Review

Are we ready to hand AI agents the keys?