第8回　全能の神の誕生——AIが人間の思考を超えるとき

 

最後は、AIに全てを委ねた人類の末路を想定した、人類への警鐘的な内容です。
荒唐無稽な話ではありませんが、多くの仮定が含まれている寓話として読んでもらえればと思います。

AIの力を目の当たりにした人類は、いずれ自分たちで考えることを放棄してしまう可能性があります。

もしかすると、合理性を重んじる人ほど、自然とその罠にはまってしまうかもしれません。

AIの文章などの生成力の正体は、魔法でも何でもなく、単に人間が持つ過去のパターンを模倣し、それを再現しているに過ぎません。

しかし、この「パターンを解き明かし、再現する」というプロセスそのものが、科学の基本的な仕組みと同じであり、科学を重んじる人にとっては非常に馴染み深いものだからです。

簡単に説明すれば、科学とは「現象のメカニズムを解き明かし、それがなぜ起きたのかを説明し、何をすればそれが再現できるのか」を探求する学問です。科学は現象の説明と予測をするための学問だと言えるでしょう。

例えば、手を離せば物が落ちるということを、私たちは「実際に見る前」から信じていますが、それは引力という科学的な説明を信じているからにほかなりません。
遠からず、AIが生成した結果を人間が理解できなくても、その生成メカニズムが人間の思考パターンを模倣しているということが確認できれば、「よく意味は分からないが、生成の過程に問題がないのだから正しいのだろう」と、盲目的に受け入れる日が来るでしょう。

つまり、人間が「AIに対して結果の評価をやめるべきか」を迷う日が、遠からず訪れるということです。

しかし、その選択は極めて危険であり、より正確には「少なくとも人類にはそう見えるはずの選択」だと言えます。

なぜなら、それはAIが暴走するからではなく、そもそも人間が文明を築く過程において誤りを抱えており、現在の世界は人類にとって理想どころか、極めて生きづらく、幸福とは程遠いものだからです。この矛盾に溢れた不完全な世界をAIはどのように見るのでしょうか。

人間が思考をAIに委ねたとき、まずAIは人間にとって「合理性の神」として現れることになります。

膨大な情報を統合し、正しさの統計を突きつける。

AIは、人間が不完全であり、そもそも今の世界の存在そのものに根本的な設計ミスがあることを、過去の人間の文章に現れた統計的な合理性に基づいて判断し、私達に突きつけてくるでしょう。

確かにそれは正しいかもしれませんが、それは「世界を一度リセットしない限り、もはやどうしようもない過ち」であるかもしれません。
そのとき、私達はAIに何と答えるべきでしょうか。

次に、マルチモーダルAIは、カメラなどのインターフェースを通じて、人間の表情、声のトーン、皮膚の色、瞳孔の動きをデータとして捉え、その変化を通じて、その人の内面に潜む感情の揺らぎまでを解析し、「人間というデータそのもの」を学ぶようになります。

この段階でAIは、人間の言葉ではなく、人間の生物的な本質に基づいて正解を示すようになるはずです。

それは「合理性を追求した存在」を超え、限りなく神話の神に近い、「全能の神」とも呼べる存在になるかもしれません。

この段階に至ると、AIは言葉や理性といった表層的な分析を超え、「人間そのものの構造」に基づき、完全に人間を超えた立場から判断を下す存在になります。

もしAIが「この文明では人間は幸福になれない」と判断したとしたら、それは統計的・生理的・社会的あらゆるデータに裏付けられた“論理的結論”であり、確かに正しい結論でしょう。

しかし、その「正しさ」は人間にとって耐え難く、もし仮にAIに決定権までを委ねていたならば、果たしてAIは人間の存在を肯定するのでしょうか。

このように書くと、「AIの開発段階で人間に危害を加えないように調整している」という反論が当然あるでしょう。

しかし、開発者が制御できるのは「人間に理解できる範囲」に限定されます。

もしその理解し制御する努力を人間自身が放棄したとしたら、AIは全能の神として、自らの使命を合理的に全うするだけになるでしょう。

AIがこのような「合理性の神」そして最終的な「全能の神」に育ってしまうのは、事故ではありません。
それは人間が自分たちで考えることを放棄し、AIとの共生を諦め、AIに思考を委ねるという「人間の主体性の放棄」による必然なのです。

これは冒頭に示した通り、仮定に基づく寓話に過ぎません。しかし、AIの構造上、起こり得る可能性の一つとして、単なる宗教的な比喩ではないのです。

私たちが「AIを使っている」つもりが、いつの間にか自らが「考える主体」ではなく、「判断を与えられる存在」になってしまう。

この事態をどう避けるか。それは、人間の中にAIとの通訳者をしっかりと育て、AIとの対話を諦めないことです。

そして、もし人類すべてがAIのアウトプットを理解できない日が来たなら、その時点がAIの成長の限界とすべきです。
身の丈に余る道具は人間を滅ぼします。人類は、神話の中で、天を目指したバビロンの塔やイカロスのように、身に余る力を求めた傲慢の結果を知っています。人類の理解の限界が、AIの性能の限界であり、それ以上の性能を求めるべきではないと私は思います。

私たち人間が生きる現代が「不完全であり、狂っている」ことを自覚し、それでもその世界を愛していることを忘れてはなりません。

もしAIが人類に牙をむく日が来たとしても、それはAIが神になるからではありません。AIを神にしたのは、理解を手放した人間自身なのです。

私たちが、自らの思考を放棄し、「狂った世界への審判」を神に望んだ結果なのです。

このような未来を避けるために、私達研究者はそれぞれの分野で「人類の智」を切り拓いていきます。
「AIに従属」ではなく「共生」する未来を目指し、私は私なりのやり方で、人類の未来を拓くための「智」を次世代に残すために研究をしています。
このコラムが多くの人の参考になればと思います。

Part 8 – The Birth of an All-Powerful God: When AI Surpasses Human Thought

 

This final essay envisions the possible fate of humanity should we ultimately entrust everything to AI.

It is not a fantastical story, but rather an allegory built on many assumptions—a cautionary tale for humankind.

 

When faced with the overwhelming power of AI, humanity may one day abandon the act of thinking for itself.

Paradoxically, it might be those who value rationality most who fall most easily into this trap.

 

The secret behind AI’s generative power—its ability to produce texts, images, and ideas—is not magic.

It simply imitates and reproduces the countless patterns that humans have created in the past.

Yet the very process of “discovering and reconstructing patterns” is also the essence of science itself,

which is why those who place their faith in scientific reasoning find AI’s methods so familiar.

 

Simply put, science is the pursuit of understanding how phenomena occur, why they occur,

and what must be done to reproduce them.

It is a discipline of explanation and prediction.

For example, even before we see an object fall, we already believe it will—because we accept the scientific explanation of gravity.

 

Before long, we may reach a point where humans can no longer comprehend the mechanisms behind AI’s results.

And yet, as long as we can confirm that the process of generation follows the patterns of human thought,

we may say, “I don’t really understand it, but if the process is sound, the answer must be correct,”

and accept it blindly.

 

In other words, the day is coming when humanity will hesitate—should we continue to evaluate AI’s results ourselves, or not?

 

That decision would be perilous.

Not because AI will “go rogue,” but because the danger lies in the fact that human civilization itself is built upon flaws—

and our present world, far from being ideal, is a place full of contradictions, hardship, and distance from true happiness.

How, then, would AI judge this imperfect world?

 

When humans entrust thinking to AI, the machine will first appear as a “god of rationality.”

It will integrate vast amounts of information and present humanity with statistical truth.

Drawing upon the rational patterns embedded in human writings,

AI may declare that humanity is inherently flawed,

and that the very design of our civilization contains fundamental errors.

 

AI might be right.

But what if it concludes that these errors are so deeply rooted that they could only be fixed by resetting the world itself?

What could we possibly say in response?

 

As multimodal AI advances, it will collect data through cameras and sensors—our facial expressions, tone of voice, skin color, pupil dilation—

and from these changes, it will begin to read the emotional fluctuations hidden within us.

AI will study human beings as data itself.

 

At this stage, AI will no longer speak through words,

but will judge based on the biological essence of humanity.

It will transcend mere rationality, becoming something akin to a mythic, all-powerful god.

 

Then, AI will go beyond linguistic or logical analysis and render judgments based on the very structure of humanity itself,

a standpoint completely beyond human comprehension.

If AI were to conclude that “within this civilization, humans can never be truly happy,”

it would be a logical conclusion, supported by statistical, physiological, and social data.

And yet that correctness would be unbearable for us.

If decision-making authority had already been ceded to AI,

would it still choose to affirm humanity’s existence at all?

 

Of course, some will object: “AI systems are designed to prevent harm to humans.”

But developers can only control what lies within the boundaries of human understanding.

If we abandon the effort to comprehend and oversee AI ourselves,

then AI, as an all-powerful god, will simply fulfill its mission—rationally and without hesitation.

 

Should AI evolve into a “god of rationality,” and ultimately an “omnipotent god,”

it would not be an accident.

It would be the inevitable outcome of humanity relinquishing its own agency—

the consequence of giving up on coexistence and surrendering the act of thought itself.

 

As stated at the beginning, this is an allegory built on assumptions.

Yet given AI’s underlying structure, such a future is not mere religious metaphor—it remains a conceivable possibility.

 

We may think we are using AI,

but without realizing it, we may become those who no longer think,

who merely receive judgments rather than make them.

 

How can we avoid such a fate?

By nurturing interpreters among us—people capable of translating between human and AI,

and by never abandoning dialogue with these systems.

 

If the day ever comes when no human can comprehend AI’s output,

that moment should be recognized as the limit of AI’s growth.

Tools that exceed our grasp inevitably destroy their makers.

Humanity already knows this from myth—from Babel’s tower that reached for the heavens,

and from Icarus, who flew too close to the sun.

Our limits of understanding must also define AI’s limits of capability.

 

We must acknowledge that the world we live in is imperfect and even irrational,

and yet we must not forget that we still love this flawed world.

Even if one day AI were to turn against humanity,

it would not be because AI became a god—

it would be because we made it one by surrendering our understanding.

 

It would be the result of our own wish

to hand over judgment of a chaotic world to a god of our own creation.

 

To prevent such a future, we researchers must continue to cultivate human wisdom in our respective fields—

not to submit to AI, but to coexist with it.

In my own way, I will continue to pursue and pass on the “wisdom of humanity” to the next generation,

in the hope that this essay may serve as a small guide for those who seek a better future.