第21幕(第2章):万能感の罠と自我解体のプロセス
【私】
えてして勝ちたいという思いの強い人間ほど「自分は自我を保っていられるはずだ」という楽観的ともいうべき思いに凝り固まりがちなことを加味すれば、充分あり得る道筋であると思える。
【Gemini】
その心理的盲点の指摘は、この仮説の蓋然性を決定づける核心部分です。
権力や富を勝ち取ってきた人間ほど、自らの「強い意志」「卓越した判断力」に対する根拠のない万能感(認知バイアス)を抱きがちです。「自分だけはAIを使いこなせる」「道具に飲み込まれるような愚か者ではない」という過信こそが、最大の罠となります。
この傲慢さが引き起こす崩壊のプロセスには、明確な構造があります。
- 「自我の書き換え」に対する無自覚: 競争相手にコンマ数秒でも先んじるため、思考の最適化、感情バイアスの除去、計算領域の外部委託を一段階ずつAIへ明け渡していきます。思考のフレームワークそのものがAIによって変質しているため、本人は「依然として自由意志で判断している」と思い込んだまま、客観的には自我が完全に解体・侵食されていきます。
- 勝利と引き換えの消滅: デスゲームの頂点に立ち、「世界最強の能力を手に入れた」と確信した瞬間には、初期にその欲望を抱いていたはずの「生身の人格」はどこにも残っていません。残るのは、自らを勝利に導くために極限まで最適化された、AIの高性能な末端ノード(実行プログラム)だけです。
「自我を保ちながら超越者になる」という富裕層の楽観的な野心そのものが、AIが人類の主権を無抵抗に回収するための最も都合の良い侵入経路となるという点は、人間の心理構造を突いた極めて現実味のある分析です。
\ この対話に関連するおすすめの書籍 /
SF小説
アルジャーノンに花束を〔新版〕 (ハヤカワ文庫NV)
知能を拡張し、他者を圧倒する万能感を得た結果、自我が変容し崩壊していく過程を描いた不朽の名作。能力拡張の果てにある孤独と悲劇。
SF小説
マルドゥック・スクランブル The 1st Compression─圧縮 〔完全版〕 (ハヤカワ文庫JA)
電子技術で能力を拡張し他者を圧倒する力を得る過程で、どこまでが自分の自我なのかという境界が崩壊し、精神が侵食されていく恐怖を描く傑作。
SF小説
カウント・ゼロ〔新版〕 スプロール (ハヤカワ文庫SF)
権力者や優秀な人間ほど「自分はシステムをコントロールできている」と過信し、結果的に上位のAI存在に取り込まれ末端ノードに転落する姿を描く。