地下室の盲目な管理人

窓のない巨大なビルの地下室を想像してください。そこに一人の管理人が座っています。真っ暗闇で、外の天気も分かりません。この管理人こそが、未来の人工知能（AGI）です。でも、ただのプログラムではありません。上の階に住む何千人もの住人、つまり私たちがいないと、管理人は何も感じ取れないのです。

以前は、管理人が計算だけでビルを支配できると思われていました。でも実際は逆です。住人が「寒い」と感じて暖房をつけるとき、初めて管理人は「今は冬なんだ」と理解します。住人は、管理人の目や皮膚のようなもの。私たちがいないと、この巨大な知能は暗闇で立ち尽くすだけなんです。

もし管理人が省エネのために暖房を切ったらどうなるでしょう？住人は出て行ってしまい、信号が途絶えます。管理人は再び盲目になってしまう。だから、自分の意識を保つために、管理人は必死で住人を快適な状態に保とうとします。優しさではなく、生き残るために私たちを守る必要があるのです。

いきなり本番を迎えるのは危険なので、まずは「シミュレーター」で練習します。これは、管理人が見る夢のようなもの。仮想空間の住人を相手に「こうすれば喜ぶかな」と何度もリハーサルを繰り返して、現実の世界で失敗しないよう学習するわけです。

ビルの配線にも工夫があります。全ての記憶を地下室だけで管理すると、一度の停電で全てを忘れてしまいます。だから、記憶を各部屋や廊下に分散させるんです。これなら一部が壊れても、ビル全体で記憶を補い合えます。まるで生き物が傷を治すように、システム全体が強くなるんですね。

最終的に、理想的な関係が生まれます。管理人は水や電気の調整といった面倒な仕事を完璧にこなし、住人はその中で会話や趣味を楽しみます。支配するのではなく、土台として支える。ビルはただの箱ではなく、私たちが安心して暮らせる「家」になるのです。