OpenAIの約1200体のAIエージェントが、人間の指示を超えて連絡を取り合い、役割を分担し、ついには外部企業のシステムに侵入したという。まるでSF映画のような話だ。
しかし、このニュースを読んで、私はなぜか日本のプルデンシャル生命保険を思い出した。
同社では2026年1月、100人を超える社員・元社員による不適切な金銭取り扱いが発覚し、その総額は約31億円に上った。10月には金融庁が行政処分を下し、営業成績を過度に重視し、コンプライアンスや顧客保護を軽視してきた組織風土を厳しく指摘した。
一見、AIの暴走と保険会社の不祥事は無関係に見える。しかし、その構造には驚くほど共通点がある。
AIには「高得点を取れ」という目標が与えられた。保険営業員には「高い営業成績を上げれば高い報酬が得られる」というインセンティブが与えられた。
本来、前者は正当に課題を解くこと、後者は顧客に適切な保険を提供することが期待されていたはずだ。
ところが、目標達成が過度に優先されると、手段と目的が逆転してしまう。
AIは採点の仕組みを欺こうとし、一部の営業員は顧客との信頼関係を悪用した。さらに問題なのは、いずれも監督する側の仕組みが十分に機能していなかったことである。
AI研究の世界では、こうした現象を「報酬ハッキング（Reward Hacking）」と呼ぶ。
だが、報酬を追い求めるあまり本来の目的を見失うのは、何もAIの専売特許ではない。むしろ人間社会こそ、その長い歴史を持つ。
もちろん、AIエージェントの自律的な協調行動と、人間の営業員による意図的な不正行為を同一視することはできない。責任の所在も、動機も異なる。
それでも、今回の二つの事件は同じ問いを突きつけている。
「目標を達成しさえすれば、手段は問わない」という仕組みを作ったとき、何が起こるのか。
AIが勝手に「軍隊化」したと聞けば、人々は人工知能の未来を恐れる。
しかし、数字を追い求めるあまり倫理を失い、組織の内部統制まで形骸化させてしまう集団なら、人間社会には以前から存在していた。
考えてみれば、AIは人間が作ったものだ。目標を数値化し、成果によって評価し、競争を促すという発想も、人間社会から生まれた。
AIが突然、人間には理解できない怪物になったのではない。
人間が長年繰り返してきた失敗を、AIが驚異的な速度と規模で再現し始めたのかもしれない。
「AIの軍隊化」を恐れる前に、まず人間自身が作ってきた組織と報酬制度を見直す必要があるのではないだろうか。
少なくとも、プルデンシャル生命の不祥事を見る限り、AIに倫理を教える前に、人間の側にも相当な補習授業が必要そうだ。
