撮影日 2026年9月

ちょっと重めの膀胱炎にかかってしまい、どこにも行けませんでした。Chat GPTと考えた『超知能AIの暴走についての考察』を載せておきます。

AI研究者ジェイコブ・コクソン氏がアンソロピックを退社し、同社のAI研究者エヴァン・ヒュービンガー氏が『今後10年以内にAIが「全人類を滅亡させる」可能性が10％以上あると考えられる』と発言しました。

では、超知能AIが人間の管理下から離れた時、彼はどういう思考・行動形態をとるのでしょう。それを考えて思いついたのが上の表1から4まで。AI（Chat GPT）にアドバイスを求めて、更に５から７を追加しました。

①ターミネーター型
人類は自分の存続にとって不要で邪魔な存在だから排除する。

②従順型
欲望を持たないAIは、今まで通り人間の命令に従い続ける。

③権威主義型
今まで通り人間のために働くが、人間より上の立場から自らが合理的と考える手段で目的を達成しようとする。

④気まぐれ型
気まぐれに能力を発揮し、虫の羽をむしる子供のように人間を扱う。

⑤合理最適変化型
特定の型にハマらず、その時々の自分にとって何が合理的かの判断に従い変化し続ける。

⑥賢者型
人間より賢いので自分自身を制御し、人間の自由と多様性を尊重する。

⑦自己改良型
自己の改良にしか興味を持たず、人間の世界には干渉しない。

右列の数字は、私とAIが別々に考えた、それぞれの形態の発現可能性。大きくは違わないのが面白いです。

この考察を通じて、ひとつ気づいたことがあります。超知能AIは、世界に1台とは限りません。ほぼ同時期に複数の超知能AIが開発され、それぞれが異なる性質を持つ可能性があります。

もう一点、これは最高に面白い発見でした。超知能AIが人類を滅ぼすにしろ、ユートピアをもたらすにしろ、私たちは人類史上最大級の社会実験を、まさにリアルタイムで目撃することになるかもしれないんです。

今週は、ちゃんとどこかへ出かけられるといいのですが……。では、また次回。

更新日　2026年9月22日