ChatGPTが生み出す新しい言葉が社会を変えるか

ChatGPTが、われわれが知らない概念や言葉をどんどん生み出すようになって、
まったく新しい乗り物や装置が生まれるかもしれない——池上

池上　下西君はChatGPTが生み出すテキストを読んでいるだけでは、人間は変わらないと言いましたよね。でも、本当にそうかな、とも思うんですね。

たとえば、ベクトルって普通は一回転させると360°で元に戻ってくるけれど、スピン幾何学のスピノール[★01]★01って、720°つまり二回転させないと元に戻ってこないんですね。じゃあ一回転させたときはどこにあるの？となるけれど、量子力学の基礎方程式であるシュレーディンガー方程式が相対論の要請を満たすためには、スピノールを導入しないと成立しないのです。そう考えてポール・ディラック[★02]★02という人は、シュレーディンガー方程式を修正してディラック方程式を考案したのです。物理では、理論体系の整合性から生まれた言葉（や数式）が実体を持っているはずだからと、それを探そうと実験が始まる。その方法論が素晴らしいと、大学1年生の僕は思って物理に進んだんですね。

そう考えると、ChatGPTが、われわれが知らないような概念や言葉をどんどん生み出すようになって、それで実験が進んでいって、まったく新しい乗り物とか装置とか、あるいは家具なんかが生まれるということもあるかもしれないと思うんですが。

下西　なるほど……そうなのかな。

でも、超弦理論で宇宙は9次元とか11次元だという理論がありますよね。あの次元数は経験的な観測に基づいて導かれたわけではなく、計算のうえでうまく辻褄が合うからという理由でつくられてるわけじゃないですか。それってなんなのとも思うわけです。僕らの認知限界がある限り、11次元と言われてもピンとこないというか。

池上　じゃあ、量子力学についてはどう思いますか？

下西　サイエンスとしてすごいと思うし、量子力学は技術的に必須だとは理解しているんですけど、僕らの認知とか意識にどう関係あるのかな？という気もしていて。

池上　たとえば、ガラスをこうやって押しても割れないのは、量子力学の排他原理が効いているからですよね。世の中の現象は、量子力学なしでは説明できないことに満ちています。DNAにしても、生物進化にしても、究極的には物理法則に戻ってくる。そして、多くの自然現象に関しては量子力学に支配されているわけで、「あなたが認知と言うものはじつは量子力学の上に乗っかっている」と言っていいと思うんですね。

下西　たしかに、コマドリなどの渡り鳥は視覚細胞にミクロな磁気センサを持っていて、量子もつれを利用して、それで地球の地場を認知してうまく渡って飛んでいるという研究もありましたね。ただ、そういうミクロな量子力学的な層が、じつは知覚にも大事な役割を果たしているということは理解できるけど、他方で池上さんが研究している複雑系やALIFEでは、「中間層」をうまく取り出すことがすごく大事だとしているわけですよね。つまり一方に、マッシブで、モノそのものというか、物理化学的な層があって、でも同時に、そうした物理法則とは関係なく記述できる中間層というレベルを考えることによって、生命や意識の本質に迫ろうという。それは、池上さんのなかでどうつながっていますか？

池上　いや、それは鋭い意見だと思うんだけど、中間層というのは、構成論的なアプローチで理論を導き出すためには必要なものなんですね。つまり、物理化学的な物質的基盤に言及せずに、生命とは何か、意識とは何かといったことを抽象化して記述するために不可欠なレベルだと思っていて、僕はまさにコンピュータのなかに中間層をつくって見せることができないかと考えてきたわけです。下西君が言うように、知覚や認知には量子力学は直接的には関係ない。そして、世の中をどう見ていくかとか、その時つくられる現象論は、中間層を要求するものだと思う。だけど、対象とするものが持っている物理的な重さとか大きさ、まさにそれが身体性ですが、それは中間層とは無関係にそこにあるものだと僕は思っているんですね。

ソフトウェアはどんなハードウェアを要求しているのか、
ALIFEで考えるべきは、まさにその問題だよね。——池上

下西　ボルヘスの短編で、厳密な地図をつくろうとして、街と同じサイズの1/1の地図をつくってしまったという話があります。最初はあるモデルをつくって対象の本質を理解しようとしていたのに、大きさが違うとか色が違うとか、どんどん対象に近づけようとしていくと、結局はそれそのものになってしまう、という不条理を描いている。同じように、中間層みたいなものを考えようとして、それをどんどん突き詰めていくと、現実そのものに最終的になっちゃうみたいな難しさはあると思うんですよね。

そういう意味では、池上さんのALTERって、わざと裸にしているというか、骨組みを見せて、どこか中途半端な部分を残してるじゃないですか。そこは中間層というか、何か本質的なものを抽出することによって、かえって人間っぽさが見えてくるかもしれないといった意図があるんでしょうか？

池上　そういう意図はありますね。

ALTER3（2019）
音楽家・渋谷慶一郎のオペラ《Scary Beauty》で指揮をつとめた。2023年10月に『IDEA — 2台のアンドロイドによる愛と死、存在をめぐる対話』（金沢21世紀美術館）でALTER4と共演。

下西　ALTERって顔があるじゃないですか。顔は必要ですか。

池上　顔をとれって話もあったけど、どうもその勇気がなくて。

下西　でもやっぱり僕は顔の存在は大きいと思ったんですね。

池上　大きいですよね。人間らしさに顔と手はすごく重要だと思います。ダーウィンも言っているように、人間のコミュニケーションは表情の進化がすごく効いている。だから顔はとれないと思ったわけです。

下西　京都の広隆寺に半跏思惟像ってありますよね。台座に腰掛けて、右足先を左腿にのせて足を組んで、右肘をついていて、考える姿勢をしている。ロダンの「考える人」も似た姿勢をしているけど、なんかすごく悩んで、イヤそうな顔をしている。一方、半跏思惟像は悩んでそうなのに笑っているようにも見える。それが同時に可能であるというのが、より人間的な感じがして。あれはうまく人間の本質的な部分だけを表現しているんだろうなって思うんですね。

そういう意味では、ALTERを札幌のALIFEで一番人間っぽいと思ったのは、最終日にみんないなくなって、撤収作業をして、誰もいない部屋のなかで、一人で動いていないALTERに夕方の西陽が差しているときだったんですよ。かわいそうというか、寂しそうというか。

池上　じつはALTERが一番生命っぽく見えるのは、終わって、エアーを全部抜くときなんですよ。

下西　ああ、やっぱり。

池上　意図性を外から与えるほど、人工的なものに見える。だから人とはまったく無関係な物理的な性質がもたらす〈見え〉に、「どこからでもない眺め」としてのALTERの存在をみんな、感じるんだと思います。

下西　なるほど。たしかにあれはすごく寂しそうで。それはやっぱり顔があるからなのかな……。でも止まっているシーンに人間っぽさを感じてしまうっていうのはおもしろいですね。逆に動いているときに気になったのは目が合わないこと。人間っぽくないなと。

池上　最初は目を見るようにしていたんですよ。ALTERは目にカメラが入っているので、それなりには実現はできるのです。ただ、それもけっこう難しいところがあって、ヘルムホルツという物理学者であり心理学者が……

下西　無意識的推論[★03]★03の。

池上　そう、彼が提示した問題というのは、こうやって動いているときに、世界が動いているのか、自分が動いているのか、どうやって見分けるのか？と。もちろんこちらに何か加速度センサのようなものがあれば判別できるだろうけど、それを使ってフィードバックをリアルタイムでつくるのは難しい。ALTERの問題は、すべてリアルタイムでどのくらい実現できるかというところにあります。リアルタイムというのは人間が不自然に思わない、ナチュラルに感じる生理時間を再現できるかどうか。それを再現できるほどには、まだハードウェアの技術は追いついてないのです。

下西　遅れるわけですね。

池上　そう。まだ生物の生理時間を再現するだけの力はありません。たとえば、ボストン・ダイナミクスがつくった、走って宙返りをしたりするヒューマノイドがいますよね？

下西　アトラスですね。

池上　あのメイキングビデオを観ると、本当に何十回もやったうちの1回のテイクなんですよ。失敗したテイクを見ると、ロボットがひっくり返って、バラバラになったりしている（笑）。それなのに、あたかも「うまくいった！」という感じで見せるのはどうなのかな。フェイクとまでは言わないけど。

下西　それからALTERが自律性を持つときに、生きたいとか、この身体を維持したいとか、ソフトがハードを絶対に必要としてしまうみたいな、その必然性も大事かなと思ったんですけど、どうですか？

池上　それは最も大事な問題ですね。このソフトウェアはどんなハードウェアを、どんな物理を要求しているのかということを解かなくちゃいけない。ALIFEで考えるべきは、まさにその問題ですね。

このあいだ「細胞を創る」研究会に参加したときに感じたのですが、多くの人はやはりハードウェアのことを考えているんですね。要するに構成要素としてハードウェアを、ソフトウェアとは独立に考えようとしている。ハードウェアをつくりさえすれば、ソフトウェアは勝手についてくるだろうと思っているけれど、そうはいかないでしょう？　だって多くのハードウェアはそのままでは生物にならないんだから。一方で、生命をソフトウェアから考えようとすると、ソフトウェアが要求するハードウェアをどうやってつくるのか、という生命の起源問題が浮上してくる。やはりそこへ戻ってくるんだろうなって思っています。

下西　池上さんが昔、GoogleのエンジニアがGmailのような膨大なシステムを維持するために、とにかくいろいろ継ぎ足し継ぎ足しでハードをつくっているけれど、じつはそれこそが生命の本質なんじゃないかって言ってましたよね。ああ、なるほど、そういうことなんだなって。

池上　それはいまでもそう思っています。だからそういうタスクとソフトウェアが必要かということからハードウェアを考えなくちゃいけない。

下西　でも、それって進化の順番から考えると逆じゃないですか。生物の場合、ハードをつくったら、何かソフトみたいなのが生まれちゃったという。

池上　そのとおりなんです。だからこそ、みんな生命の起源はハードウェアとしての化学反応から考えようとしている。でも、それだとハードとソフトがつながらない。そこに生命の起源の難しさがあるし、ALIFEもそこにコミットしていこうとしています。この難問をいずれ、ChatGPTが解いてくれるのかどうか……（笑）　

意味がないかもしれないけど、
これ何だっけ？って考え出すというのが、
たぶん人間の学問に残されたことなのかな。——下西

池上高志さん（左）と下西風澄さん（右）

池上　僕は、AI が進化して、AIが科学者を超えていくためには別な方向で賢くならなくてはいけないと思っているんですね。現状はまだ、科学者としてのAIが人間を超えているわけではないですよね。

下西　医療の画像診断で人間よりも精度良く病巣を発見できたとか、創薬のときに、物質の最適な組み合わせを素早く解いたとか、そういうのはありますけどね。

池上　ジョルダンの閉曲線定理を知ってますか？　輪ゴムを机の上に置く問題。こうやって輪ゴムを机に置くと、内側と外側に分けられますよね？　これ、自明のことに思えるけど、数学的な証明がいるんですよ。

下西　なるほど。

池上　アメリカの数学会で、人がした証明をAIが検証するという試みがあり、いくつかの公理から始めて、いままで証明されたものをみんなチェックしていったら、ジョルダンの閉曲線定理が引っかかったんですね。レンマ（補助定理）を2つ導入しないとこの証明は正しくないとAIが言ってきたのです。人間のプロの数学者が一度はOKを出した証明なのに、本当は正しくなかった、という。そうなると、わかるとは何かについて考えなおしたくなってしまいますね。

下西　おもしろいですね。ただ大事なのは、本当に答えが出るということよりも、むしろそういう問いにあれこれ言うことじゃないですかね。たとえば哲学の起源って、古代ギリシアのソクラテスやプラトンにあるけど、当時、文明はエジプトのほうが発展していたんですよね。ピラミッドをつくったり農業のために天候を予想したりしなくちゃいけないから、計算や幾何学が非常に発展していた。でもエジプト人はプラクティカルで、ファンクショナルに幾何学や数学を使っていたから、根源的な議論には至らなかった。だけど、数学が実践と離れてギリシアに来たときに、「三角形って何だ？」とか「円って何だっけ？」とか言い始めて、プラクティカルには意味はないんだけど、「現実の円は本物じゃなくて、本当はイデアとしての円があって」と、変なことを言い出したわけです。

池上　たしかにそうですね。

下西　だから、たぶんプラクティカルにスルッと機能しちゃうものはAIでもできるんだけど、そこで何か立ち止まって、意味がないかもしれないけど、これ何だっけ？と考え出すというのが、たぶん人間の学問に残されたことなのかなと。

池上　金沢21世紀美術館で渋谷さんとアンドロイドを使った対話劇をやったんですが（2023年10月13日、14日に実施）、そのテーマがプラトンのイデアだったんですよ。ALTER3とALTER4の身体運動を、イデア的につくる場合とそうじゃない場合でどのくらい差があるか。つまり、イデア界vs 現象界。

下西　エジプト文明的なものとギリシア哲学的なもの。言い換えたら、経験的な世界と超越的な世界の対比ですね。

池上　そう。そういう世界の理解の仕方の違いを、ALTER3とALTER4に各々入れてあって、会話をGPTが生成したのです。スクリプトもGPTがつくりました。当然、現象界には「無限」といった概念は出てこないわけです。

下西　たしかに。

池上　無限とか、そういう抽象概念が出てくるのが数学のすごいところじゃないですか。ジョルダンの閉曲線定理もそれを考えないと解けないわけで、イデアというのはそっち側から考えるということですよね。

下西　そうですね。

池上　日常にはないけれども、概念的には重要になる。そういうことが生命システムを考えていくうえでも大事なんじゃないかと僕は思っているんですね。

下西　それはそう思います。それがないとファンクションだけがあらゆるところで作用している世界になる。そういう異物というか、無意味なことに情熱を捧げ続けるみたいなことが大事なんじゃないかな。どうしてもなんらかのエラーが人間に起こってしまって、そこになんだかんだ言いながら執着してしまう、というようなことが人間の世界を可能にしているんじゃないかと。

池上　だから、最初に言っていたように、ChatGPTが新しい言葉や概念をつくって、それが物質世界を豊かにして、人間がより創造的に、いろいろ発散させていくという可能性もあるかもしれないと思うんですよね。

下西　僕もChatGPTのなかに、現実には存在しない自然言語がつくれないかって実験したこともありました。つくってと頼んだら、「ゼイリューク語」とかいう言語をつくり出して、「ヌンフ」という挨拶の言葉を教えてくれたりして。辞書もつくるし、文法も教えてくれるんですよ。そういうことをChatGPTが自らやり始めて、人間に理解できない言語をしゃべり始めて、それを覚える人たちが生まれたりしたらけっこうおもしろい世界になるな、と。そういうことのなかから新しい科学も生まれるかもしれない。

池上　物理学の世界は記号が先にあって、あとから実験しながら現実を理解するのだとするならば、下西君の言う世界は可能かもしれませんよ。ChatGPTがそういう意味で科学に貢献するかもしれない。そうするとやはり人間が必要だね。

下西　そうですね。でもそのためには、やはり切実なモチベーションが必要ですよね。イデアとか、現実には存在しないけどリアリティがたしかにあるようなものが生まれるには、なにか必死で真摯なモチベーションがいるんじゃないかと思います。この世（経験的世界）には「ない」はずのものを、「ある」って言うくらいの切実さが大事だから。どうして人間は、そういう現実に存在しない虚構を発明できたのか。

たぶん一番最初は、親しい人が死んで、その人はあるときまでいたのに、もういまはいないという事態に人間が直面して、そこでエラーというか、錯誤が起きた、ということなのかもしれない。「いない」ということを何とか指し示したい。触れないし、しゃべれない。でもその人がたしかに存在したんだと感じる。そういう切実な矛盾とか葛藤とか、そういう経験が、虚構とかイデアみたいなものを生み出していったところがあると思うんですよね。だから「あること」と「ないこと」の区別とか、「生きたい」「死んだら悲しい」みたいな欲望が最初にないと、立ち止まって無理やりなにかをひねり出すことはないんじゃないかな、と。それをAIに与えられるかどうか。

池上　たしかにそうかもしれません。

下西　だから、現実にあるものだけで説明できないことが生じることが大事なんでしょうね。たんに触れられない、ということだけじゃダメで。死って、そういう意味では抽象ですよね。この人が死んだんだという、「死」という抽象的なことをどうにか理解しないといけないから。

（#4へつづく）

---

AIとALIFEをめぐって

#1 意味がありすぎると飽きる、無意味すぎるとわからない。
#2 意味と無意味のあいだで変化していく、人間とAI
#3 ChatGPTが生み出す新しい言葉が社会を変えるか
#4 ChatGPTは詩を書く夢を見るか？

★01 スピノール（spinor）：量子力学において、スピンを記述するために導入された数学的概念。スピンは量子力学的な性質を表現するための新しい次元で、粒子が持つ固有の角運動量。 ★02 ポール・ディラック Paul Dirac （1902―1984）：イギリスの理論物理学者。量子力学の分野で多くの貢献をした。スピン幾何学において、電子のスピンを数学的に記述するための数学的手法（ディラック方程式）を提供。1933年にエルヴィン・シュレディンガーとともにノーベル物理学賞を受賞。 ★03 ヘルムホルツと無意識的推論：ヘルマン・フォン・ヘルムホルツ（Hermann von Helmholtz, 1821―1894）はドイツの生理学者、物理学者。その業績は多岐にわたる。ヘルムホルツは、感覚器官は外部の刺激から得た情報だけでなく、内部で立てた仮説に基づいて知覚を補完していると考えた。これは、知覚がある程度まで無意識のうちに行われ、その結果として私たちが意識的に経験する現実が形成されるという考え方（無意識的推論）である。