意味と無意味のあいだで変化していく、人間とAI

AIが賢くなってどんどん科学の謎が解明されていったとして、
最後に残るのは、文系と理系の境界に近いような分野だと思う——池上

池上　将棋の羽生善治さんが、たしか日本のAI学会に呼ばれたときに、将棋のAIをつくっている人が、「羽生さんは50手くらい読んでいるんですか？」と聞いたら、「まあ６手かな」って羽生さんが答えたんですね（笑）。機械学習でAIが読める限界として50手くらいを想定していたから、「6手だったら簡単なんだけど」って、会場がザワザワしたんですよ。そのあと個人的に羽生さんと話したら、最初の指し手というのは、飛車を振るだの、矢倉を組むだの、出方がいろいろともう決まっている、と。それで最後の何手くらいからは詰将棋になってくるから、そこからはもう詰むか詰まないかの勝負になる。問題は中盤だと。中盤はとにかく、わからない方向、エントロピーが増える方向に向かって指すというんです。エントロピーが高い状態になったところでいい方向に持っていけたら勝てると。

下西　昔、大山康晴名人も、負けそうになったら盤面をメチャクチャにするって言ってましたね。そうしたら勝つ目が出てくるって。最近、AIが進化して、たとえば「角換わり」という戦型のパターンの場合、たしか3000いくつかの数に限定されたそうです。いまはそれを覚えるゲームになっている、と渡辺明九段が言っていました。

池上　つまり中間領域がどんどん細くなって、なくなりつつあるということですね。

下西　そう、人間がAIに合わせて、記憶ゲームにしていくみたいな。

池上　ということは、最初にジャンケンして、ああ先手だ、負けだなとなったら、ゲームとしてはつまらなくなりますよね。

下西　将棋だと全手数が10の220乗とかあって全手を計算するのは無理ですけど、有限確定完全情報ゲームなので、原理的には勝敗がわかるし、現実に部分的にはそうなっていますね。実際、「角換わり」はもう先手必勝だと決まってしまった……でも人間はその手を全部は覚えられないですからね。

池上　覚えられるか／覚えられないかという問題になると、おもしろくないですよね。

下西　まあ、そうですね。でも、AIが出てきたとき、人間はもう負けるから将棋は終わるんじゃないかって言われていたけど、いまだに盛り上がっていますよね。

池上　それが謎なんだけど。

下西　それは物語があるからですよ。池上さんは、AIがサイエンスの研究をし始めて、AIがすべての論文を書くようになったら、論文を書きますか？

池上高志さん

池上　うーん、AIと協力して何か達成できることがあるんじゃないかとは思っています……。人間が主じゃなくなるかもしれないけど、人間の役割はなくならないんじゃないかな。先日も落合陽一さんらと話していたんだけど、いずれ人間は自分の論文の査読者になるしかないんじゃないかって言っていたんですね。査読だけは譲れないだろうと。ただ、本当に優れた論文というのは自分でも判断できないのかもしれない。

もっとも、瞬時に問題を解くAIが現れたら、将棋と同じように科学も意味なくなるだろうと思いますよ。

下西　それはもしかするとサイエンスと人文学の違いに近いかもしれなくて……サイエンスだったら要らないかもしれないけど、将棋は単なる勝負というより、文化であり、儀式になっていますからね。人間はそういう意味のないことをつないで生きている。だから人間は儀式がないと生きていけないんじゃないか、って僕は思いますけど。

池上　ただ、科学は儀式になっちゃったら、終わりだと思う。

下西　科学はそうかもしれないですね。ただ池上さんは、科学だけでなくアートもやってますよね。アートって儀式みたいなところもあるし、それなしに人間は生きられないんじゃないかと思っているんですが、どうですか？

池上　人間はアート的なものについて考えられるから、人間として存在しうるということだよね。そういう意味ではまさにアートは宝だと思うし、人間の固有性とか経験、意味が活きてくるのは、やはりアートや文芸のなかにあると思う。

下西　AIが出てきて世界はますます最適に向かっているけれど、そこから外れるものや、それを壊すものをつくり続けることがたぶん大事だし、人間はそういうふうにして生きていくんじゃないかなと思っているんです。

池上　そうですね。一方で、本当は科学にもそういう側面が必要だと思っていて、その一端をALIFEは担っていると思うんですけどね。そもそも科学がいまみたいに、お金取りゲームになっているのはおかしいでしょう。科学というのは、いいものを発見すべく頑張る協力ゲームであるべきで。

下西　ALIFE研究は端っこに追いやられてますしね（笑）。

池上　たしかに端っこに追いやられている意味がわからないよね（笑）。われわれは生命の本質を探ろうとしているのに。AIが賢くなってどんどん科学の謎が解明されていったとして、最後に残るのは、文系と理系の境界に近いような分野だと思うんですね。新しい表現のアートや新しい音楽や、そういうもののほうがはるかに人生を楽しくしてくれるし、人間にとって大切なんじゃないでしょうか。

ランダムネスと意味とのあいだに揺れるというところが本質かもしれないですよね——下西

池上　一方で、AIが進展してきたことで、人間の感性も変わってきたと思うことはないですか？　昔のほうがよかったとか。

下西　昔のほうがよかったとは思わないですね。萩原朔太郎の『月に吠える』のなかに、竹の情緒について書いている詩があるんですね。「かたき地面に竹が生え、地上にするどく竹が生え」と続くんですが、僕がいま住んでいるところは東京で、ベランダからはビルしか見えないんだけど、僕は朔太郎の詩を頭に浮かべながら、「ビルが生えてる」って思うんですよ。ビルに西陽がチラチラと当たっていると、窓に反射して光る紫の夕日もきれいだなって。そういう新しい情緒もある。だから、それこそ脳の可塑性じゃないけど、環境が変わったりしても、余剰をつくりだせるというのが人間のおもしろさなのかなとか思っていて。もちろん環境が変わると失われるものはあるんだけど。

下西風澄さん

池上　なるほど。じゃあ小説を書くAIって難しいと思いますか？　詩を書くAIは失敗したと言っていたけど、朔太郎風の小説をつくりなさいというのは、成功しそうだなと思って。それはちょっと不安な気持ちになりませんか？

下西　でも、さっきの論文の査読のように、結局、テクストのどれを使うかをという判断は人間の側に残り続けるんじゃないですか。昔、「無限のサル定理」ってあったじゃないですか。サルに適当にタイプライターを打たせたら、どれくらいでシェイクスピアが書けるか？っていう。サルにとってはシェイクスピアも「AAA……」も、違いはわかりませんよね。それをシェイクスピアだと思うのは人間側です。だからそのうち、「バベルの図書館」［★01］★01みたいにはなっていくにせよ、そのなかでどれがいいという評価は僕たちが決めるんじゃないかなと思うんですけど。

池上　うーん、どうなんだろうね。人間のエバリュエーション（評価）や判断基準が重要だというのはわかるけど、一方で、たとえば、ある小説で、きれいな夕日がどうとか、きれいな文章が書いてあって、もう一つは、AAAとか無意味な文字の羅列が書いてあったとして、前者を良いものとして選ぶというのは、なんか不安にならない？　僕はそれはそれで不安なんですよね。

下西　ああ、それはわかります。

池上　そういう判断基準って、判断する人が変われば変わりますからね。しかも限定的な意味を与えている前者の詩に対して、後者は意味を開いているというところが良いかもしれない。ということは、やはりエバリュエーションすることがそれぞれのオーサー（著者）の権利であって、オーサーの作家性をつくるのは、何がいいと思ったかというフラグを立てて、そっちを選んでいくことなんじゃないですかね。そして、そうしたものを全部残すことができるのがいまの科学なんですね。

下西　なるほど。

まだGPT-3くらいのときに、AIと話してたらおかしくなって、「I’m not, I’m not not not not not not……」みたいに書き始めたって話を聞いて、おもしろいな、って思ったんですよ。アレン・ギンズバーグの詩で「Holy! Holy! Holy! Holy!……」と言ってる詩（詩集『吠える』［Howl］に「吠える脚注」として収められている）があって、それと一緒だと思って。まさに一見すると無意味なんだけど、じつは別の意味を開いているという感じがおもしろい。でもそれは、もしかしたらランダムネスと意味のあいだの絶妙なところにおもしろさがあるのかもしれない。

池上　まさにそうだと思いますよ。

下西　つまり、すべての可能性が最初から全部が用意されているんじゃなくて、ある複雑さ、人間の認知とシンパシーが持てるくらいのランダムネスと意味とのあいだに揺れるというところが本質かもしれないですよね。

言語やメタファーが変わることによって、ソフトのほうがガラリと変わってしまうというのは全然ありうるだろうなと——下西

池上　ご存知の通り、ChatGPTやLLM（大規模言語モデル）は、カッコ埋め問題をやっているだけなんですね。次のカッコに何の言葉を埋めるかというときに、確率でもっともらしい言葉を振っていく。そのパラメータそのものはわれわれが自由に変更できる。そうすると、そのパラメータの設定が人間の権利になったらいいのかどうか。

ただ、それも、先ほど話したアラインメントの問題と同じで、なんか間違っているような気がするんですね。つまり僕は、たしかに意味とランダムネスの狭間におもしろいものが出てくると思うけど、だからといって、それを実際に人間が選んだり、パラメータを変えたりすればいい、というふうにはあまり思えないところがあるんですよ。

下西　なるほど。

テッド・チャンが「あなたの人生の物語」で、宇宙人の全然違う言語を学んだら人間の意識が変わっていく話を書いていましたよね。その宇宙人の言語は過去・現在・未来を区別しないんだけど、その言語を人間が学んで体得していくうちに、その言語を使う宇宙人と同じような意識になっていって、人間も過去・現在・未来が混在して見えてくる、っていう。別の時間構造を持つ言語をインストールすると、時間知覚そのものが変わるという話。そういう感じで、LLMによって、人間自身が判断基準とか、何かを受け取るフィルターみたいなものをガラリと変えるという可能性はあるかもしれないと思っています。むしろ人間の側がそっちにアラインメントされるというのはあると思う。

池上　サピア=ウォーフの仮説[★02]★02ですね。僕はまったくそういう考えなんです。なぜかというと、たとえば人間の身体ってDNAからRNAが発現するけれども、大雑把に言うとRNAが発現して、タンパクができてといったなかで感情のコントロールも決まるわけじゃないですか。この発現が機械的に一意に決まっているんだったらどうしようもないと思うけど、そのときの状況や人によってRNAの発現パターンがよく変わることが知られているのです。

たとえばテトラヒメナ［★03］★03の場合も、われわれの解析では、すべて同じ遺伝子であっても、どういう集団にいるかによって発現パターンはすごく変わるように見える。そうすると、人間がChatGPTと話す時間が増えていくと、それらが誘導するRNA発現を変化させ、それはものすごい勢いで社会に影響を与える可能性もあると思う。そこに人は慣れていきますからね。

下西　人間が可塑的な存在であるというのは同意します。僕は『生成と消滅の精神史　終わらない心を生きる』（文藝春秋、2022年）のなかで、ホメロスからソクラテスまでの間に、意識のあり方がめちゃくちゃ変わったってことを書いたんですね。ホメロスの頃って意識というのは、ほとんどもう風みたいなもので、身体の外から身体の中に入ってきたかと思うと、今度は外に流されて出ていく、そういうものだったんだけど、ソクラテスの時代になると、急に意識は身体の中に囲われていて、同一性をもった自我であり、倫理や判断の拠点であるといった話になって、まるで別ものになる。しかもおもしろいのが、その劇的な心の変容って、たった数百年のあいだに起こったんですよ。

池上　何がそんなに人間の意識を変えたんですか？

下西　僕はソクラテスみたいな人が、意識のメタファーを変えたんじゃないかと書きました。つまりハードウェアとしては数百年たらずで進化が起こるはずはないけど、僕たちの使う言語やメタファーのようなものが変わることによって、ソフトのほうがガラリと変わってしまうというのはありうるだろうなと。

池上　シュメール神話を題材に演じている安田登さん（能楽師）も書いていましたよね。シュメール人も、「心」という言葉を発明したら急に心に関する記述が増えたと。

下西　それに近いことはいっぱい起こるのかなって思う。

池上　だからLLMでもそうかもしれないと。

下西　一方で、あの時代は都市もものすごく変化したんですね。地震や洪水があって、都市をつくり直すとか、人が集まる場所をつくったとか。そういう環境の大きな変化というのも、意識を変えた要因だとは思います。

それこそ荒川修作が、人間が知覚や思考をする基盤である大地から変えなきゃいけないと、デコボコ床の住宅（三鷹天命反転住宅）をつくったみたいに。そういう意味では、エンボディメントと同じで、テキストだけ読んでいて何か変わるのかな？とは思います。だからChatGPTがそこら中のモノに搭載されて勝手にしゃべりだすとか、つねに僕たちがそこからオフラインになれないくらいの状況になったら、人間も変わるのかなと……。いま、このデスクトップのインターフェイスでちょっと話してるくらいだったら、たぶんあんまり変わんないのかな。

（#3へつづく）

AIとALIFEをめぐって

#1 意味がありすぎると飽きる、無意味すぎるとわからない。
#2 意味と無意味のあいだで変化していく、人間とAI
#3 ChatGPTが生み出す新しい言葉が社会を変えるか
#4 ChatGPTは詩を書く夢を見るか？

★01 「バベルの図書館」：ホルヘ・ルイス・ボルヘス（Jorge Luis Borges, 1899―1986）の短編小説。あらゆる可能なテクストが書かれた本が存在する図書館について描かれている。 ★02 サピア＝ウォーフ仮説：言語がその話者の認識や思考に影響を与えるという考え方。使用する言語が異なると、世界の見方や概念の理解も変わるとする。言語的相対論ともいう。はじめアメリカの言語学者エドワード・サピア（Edward Sapir, 1884—1939）とベンジャミン・リー・ウォーフ （Benjamin Lee Whorf, 1897—1941）が唱えたのでこの名がある。 ★03 テトラヒメナ（Tetrahymena）：水中に生息する繊毛虫の一種。体長30-100μm程度。単細胞生物で生命の基本的なプロセスが簡略なうえ、再生能力も非常に高いため、遺伝子研究のモデル生物として活用されている。