ChatGPTは詩を書く夢を見るか？

「どこからでもない眺め（パースペクティブ）を持つ」というのはけっこう難しいことなんですね――池上

池上　続きを外でやりますか？

下西　あ、いいですね。歩きますか。

池上　それも楽しいかなと思って。

（二人で研究室から出て、キャンパスを散策することに）

下西　ところで、先ほど将棋の話が出ましたが、将棋に関して、少し前におもしろいと思ったことがあるんですよ。ご存知のように、初期の将棋AIを強くしようと思ったときに有用だったのが、パターン認識によるアプローチですよね。つまり、玉の周りに金・銀を集めて守りを固くすると強いといった評価関数を入れて強化していました。そもそも棋士は、盤面の見た目（パターン）がいいかどうかを見ながら、次に何の手を指すか判断しますからね。基本的にほぼすべての棋士は、脳内に仮想の盤面を思い浮かべながら考えています。ところが藤井聡太竜王・名人が、あるインタビューで、盤面をあまり思い浮かべないと答えて話題になったことがあったんですね。どうやら、藤井さんは脳内に将棋盤を思い浮かべずに、棋譜で考えている、つまり記号列で考えているんじゃないか。

池上　二次元じゃなくて一次元で考えているわけですね？　それは興味深いですね。

下西　そう。数値データをグラフや表にするのは、人間の理解を促すためのインターフェイスですからね。コンピュータやAIにとっては表（見た目）は必要ない。たとえばデータベースを設計するときも基本的にテーブル形式を使うと思いますが、最終的にはコンピュータは一次元データとして処理します。そう考えると、そもそも将棋盤がなぜ必要かといえば、人間の認知のためです。つまり、人間がゲームをプレイするために情報の次元を一つ上げているわけですね。純粋にゲームを実行するためだけなら、「次は7六歩」とか言って、符号だけで勝負すればいいわけで、実際に将棋AI同士の対戦だったら盤面は必要ありません。もし、藤井さんが盤面を思い浮かべていないのだとしたら、藤井さん自身がAI化しているのかもしれない。人間の場合、盤面を見て「この形は悪そうな手だな」といったように見た目に制約を受けるのに対して、藤井さんはそれに惑わされないというか。

池上　棋譜だけをインプットとして使っているわけですね。実際に、藤井さん自身がAIと勝負するなかで強くなってきたというところもあるし、AI将棋を使って訓練した棋士が、あえてAIの裏をかくような打ち方で藤井さんに勝てたなんていう、逸話もありますね。つまり、AIがめざすのが「どこからでもない眺め」であるとしても、そこにはやはりなんらかの構造、癖があるということを意味している。そうであるなら、藤井さんもAIと同じようなパースペクティブを持ち始めている、と言えるかもしれない。だから、それが弱点になる可能性もある。ChatGPTもそうですが、「どこからでもない眺め（パースペクティブ）を持つ」というのはけっこう難しいことなんですね。

下西　そういうことになりますね。

そういえば、将棋AIが出始めた初期のころ、「Bonanza（ボナンザ）」とか「Apery」とか「やねうら王」とか、いろいろなタイプのコンピュータ将棋のプログラムが乱立していたんですが、棋士たちは「このAIは攻めっ気が強い」などと言ったりして、それぞれのAIに癖や個性を見ていたし、そこからAIを理解しようとしていましたね。人間はどうしても、それぞれのシステムの違いに固有性を見てしまう、というところがあるのかな、と思っているんです。

池上　そうですね。人間は固有性を見てしまうからダメなんだと思いますよ。突き抜けられない。

下西　たしかに、それはそうですね。

むしろクオリアみたいなものだけが最初にあって、そこから主観性のようなものが立ち上がったのではないか――下西

下西風澄さん（左）、池上高志さん（右）

池上　AIは固有性を見ませんからね。ただ、科学においては、固有性を本当に排除すべきなのかどうか。それは悩ましい問題だと思っています。

下西　池上さんの研究は、どちらかというと、固有性を見るほうなんじゃないですか？

池上　うん、でもそもそもサイエンスというのは普遍性を求めるものですからね。普遍性というのは神の視点から見たものを法則として抜き出す、ということです。

下西　なるほど。じゃあ、ゲーテの『色彩論』（1810年）はどうですか？　ゲーテは詩人ですが、この本はいわば当時の科学論として書かれたものです。そのなかでゲーテは「徹夜したあとに外の雪景色を見ると青みがかって見える」といったように、自分の生活の膨大な経験的な観察を記録して、自分自身が知覚する多様な色彩のパターンを集め、そこから色彩の理論をつくりあげた。それは現在の認知科学の営みにも通じる態度だと思いますが、科学が物質だけでなく人間の意識を対象にしたとき、ある種の経験の厖大な蓄積のなかからファンクションや理論が生まれてくる、そういうやり方もあるんじゃないかなと思うんですが。

池上　それはそのとおりだと思います。でも、そうした固有の主観的経験だけだと、なかなか「どこからでもない眺め」にはならないんじゃないですかね？

下西　ならないですね。

池上　ChatGPTの場合は、データとしては無数の人間のパースペクティブが入っているし、アラインメントの問題はあるにせよ、いまや限りなくどこからでもない眺めになっているんじゃないかと僕は思っているんですね。ところが、同じようなことをVRでもつくろうとすると、難しくてなかなかできない。音楽もそうですね。音楽というのは、誰かの固有性を学習することは、比較的簡単にできます。たとえば、バッハ風の音楽のパターンを学習して再現することはできる。ところが、それがノイズだったらどうなのか。ノイズだって個性があるんですよ。もっとも、人間はホワイトノイズの区別はできないから、何もないと思うのかもしれませんが。

下西　あぁ、でも、生命の主観的経験の起源は、ホワイトノイズのようなものだったという可能性も指摘されていますよね。たとえば、ヤドカリやカニ、タコのような生物にも主観性があるんじゃないかという議論があって、痛みも感じているという。その最初の主観的経験の起源には、ホワイトノイズのような「ザーッ」という音――音というのは喩えですが、つまり混沌とした情報の洪水のようなものがあったのではないか、と。

池上　それは何ですか？

下西　ピーター・ゴドフリー＝スミス[★01]★01が『タコの心身問題』（みすず書房、2018年）のなかで、生物学者のシモーナ・ギンズバーグとエヴァ・ヤブロンカの研究に触発されて提示していた仮説です。生物が爆発的に増えたカンブリア紀というのは、それまで静かだった海のなかにいろんな情報が入ってきた時期でもあるわけですね。その際に、その膨大な情報がザーっというホワイトノイズのような質感みたいなものを生命に与え、それが主観的経験をもたらすことにつながったのではないか、とゴドフリー＝スミスが言っていたんですね。もしそうだとすると、意識は最初に有意味な情報があったから成立したんじゃなくて、むしろクオリアみたいなものだけが最初にあって、そこから主観性のようなものが立ち上がったのではないかと思えます。

池上　たしかに、それはありえますね……。

下西　だから、「最初に言語ありき」というChatGPTにはどうしても違和感を抱いてしまうんですね。ALIFEがつくろうとしている「意識」とは全然違うんじゃないかな、って。ただ、あらためて考えてみると……言語と言っても、僕たち人間が使うような文法や規則に基礎づけられる言語ではなくて、ChatGPTにとっての言語は、膨大な特徴量が分布するベクトル空間におけるデータの集合なわけで、人間にとっての言語と同じではない……。たまたまわれわれに見えているのは言語だけど、もしかするとそこにあるのはノイズに近いものなのかもしれないですね。

池上　そう思います。もともとALIFEでも、言語の進化という大きな分野があったのですが、だんだん廃れていったのは、それが人間の言語のようには進化しなかったからなんですね。簡単なシグナルのようなものは生まれてくるけれど、言語は生まれてこなかった。当時は、皆、人間以外は言語をしゃべれないと思っていましたしね。最近の研究では、ゾウが鳴き声で複雑な感情を表現したり、それぞれ固有の名前を呼び合っていたりする、といったことが判明しつつありますが。

下西　アリの場合も、フェロモンの遺伝子コードで、敵と味方を峻別していると言われていますよね。

池上　ハチもフェロモンのスペクトルのパターンによって、さまざまなコミュニケーションをしているという話もある。別に音声である必要はないですからね。そう考えると、生物のコミュニケーションというのはやはり非常に複雑なものであるということですよね。そこにAIやALIFEがどこまで迫れるのか。

身体の中だけで閉じているのではなく、
外側にあるものを使うことで成立するシステムがある――下西

下西　あと池上さんにちょっと聞きたいなと思っていたのは、植物の話なんですね。生命のことを考えるときに、池上さんってあまり植物の話をしないような……と思って。それこそ樹木が根や葉や茎から情報伝達物質を出して、他の木に水分量を伝達するといったように、植物も知性を持ってコミュニケーションをしているんじゃないかという話がありますよね。

池上　植物間のコミュニケーションの研究は盛り上がっていますね。僕も植物はけっこう好きなんですよ。

下西　あ、好きなんですね。

池上　Alternative Machineという会社と共同研究をしているのですが、そこでやっているのがWood Wide Webの発想なんです。下西さんが言うように、実は植物も非常に賢いと言われていますよね。木が、根っこからカビの胞子を出して数km先まで他の木に連絡して、こっちの木が枯れかかっていると伝えて、遠くの木からフラボノイドとか、効果のありそうな物質を送ってきて治すといったように、嘘みたいな話があって、僕自身、非常に興味深いと思っているんです。そこで自分たちがやろうとしているのは、木を個ではなく、ネットワークとして捉えるという発想です。

下西　なるほど。

池上　ウイロイドって知ってます？　

下西　知らないです。

池上　ウイロイド（Viroid）というのは、一本鎖環状RNAのみからなる最小の植物病原体です。その大きさはウイルスよりも小さくて、しかも、ゲノムRNAが特異的なタンパク質をコードしないことでも知られている。だから、ランダムに増殖できるわけですね。不思議じゃないですか？　何もコードしてないRNAがいるなんて。

下西　それで、生き延びてるわけですね？

池上　そう、ものすごく数が多くて、どんどん自己複製して、ジャガイモとかトマトとか、ココヤシとか、いろんな植物に被害をもたらします。おそらくRNAウイルスの円環のコーディングシステムを使って増殖しているのだろうと……。

下西　それは、いろいろ不思議ですね。

池上　じつは、土の中には、そういうコードしないランダムなパターンのDNAなんかがいっぱい埋まっていると言われています。先日も『Nature』だったか、土を掘ると謎のDNAのかけらがいっぱい出てくるといった内容の論文が掲載されていました。動物の死骸なのか、なんなのか。もし、生物とは関係なく、土中にたくさんのDNAが存在しているのだとしたら非常におもしろいですけどね。

ウイロイドの話は、ALIFEに通じると思っているんです。もし、ウイロイドが誰かがつくったALIFEだったらすごいなぁ、と（笑）。何もコードすることなく、RNAを複製するだけってすごく不思議だし、素晴らしい仕組みだな、と思って。ユニバーサル・クリップのような。

下西　アンディ・クラーク[★02]★02が、“The extended mind”（拡張した心）と言ったように、自分の物質的な境界としての身体の中だけで閉じているのではなく、外側にあるものを使うことで成立するシステムがあるということですね。ウイロイドはそれをさらに超えて、そもそも自己の基盤をほとんど持たなくてもほとんど自己複製システムのみで外部のリソースを使って生き延びるというところがおもしろいですね。そういう営みこそが生命の本質だとしたら、自分自身は何も持ってなくてもいいのかも。

池上　だからもし、ウイロイドをつくれたらALIFEは大勝利なんです。でもスクラッチからウイロイドをつくるのは難しいんじゃないですかね？

下西　なるほど。それこそ人間の知能の限界かもしれないですね。

詩とか絵とかも描けなくなっちゃったら、
そうしたらもう大敗北だよね、ChatGPTとしては――池上

下西　そうそう、この話って、人間がどこまで足が速くなれるか、といった話にも通じますよね。

池上　そう。もう記録ののび率は完全にサチっていますからね。

下西　だから知性にも限界があるんじゃないか、と。

池上　限界にきていると思いますよ。

下西　でも、そのときはAIが解いてくれるのかもしれない。

池上　そこに期待しているのです、僕は。

以前、水泳で、高速水着を着たら選手たちが軒並み世界新記録のタイムを塗り替えて、その水着が禁止になったことがありましたよね？

下西　そういうの、意味わからないですよね。

池上　そう、それを「ダメだ」と言って、禁止することに私は不満を持っているんですね。もし、「私はコンピュータを使わずにこれだけの仕事をしました」と言われても、「はぁ？」となりますよね。それなのに、アカデミアはChatGPTに関しては制約かけている。対応は割れているものの、ChatGPTを使った論文は受け付けない、という出版社が多いですからね。

下西　ああ、そうなんですね。

池上　僕は、そんなことをしても意味がないと思っているのです。

下西　それは意味がないですよね。まさに先ほどの水着の話と同じで。そういう意味では、卓球も似ていて、ラケットのラバーが命らしいんですね。ラバーの摩擦によって球の回転や球速、コースが変わるので。それで、新しいラバーが開発されるたびに規制されて、それをハックする側との戦略合戦を経て、どんどん進化していく、という。現実の制約が進化を促すということはあるのかもしれない。

池上　それはあるでしょうね。だから、研究にしろ、教育にしろ、ChatGPTを使っちゃいけないなんて言うのは、僕はおかしいと思うんですね。研究をする際に、何を使ってもいいから問題を解け、生命をつくってみろ、というほうが、建設的なんじゃないか、と。もちろん、インチキはいけないですが。

下西　大学の先生も、学生がレポートでChatGPTを使う／使わないで苦慮してるという話を聞いて、大変だなと。

池上　僕は何でも使っていいって言っています。そもそも、そんな制約をつけて、どうするのかと言いたい。そういえば昔、小学校の算盤の授業に電卓を持っていったことがあるんですよ。それで計算したら、先生にすごく怒られて（笑）。でもそのとき、算盤で計算するのと、電卓でやるのとあまり変わらないんじゃないかと思ったんですね。人間って、何でそういう新しいものに制約をつけたがるのか。

下西　あぁ。たとえば昔、琵琶法師って関所の関銭を免除されていたんですね。盲目の僧侶であり、ある意味、神聖なものとして扱われていたから。一方で、差別もされていた。関所を自由に通る権利はあるし、霊とも交信できるけれど、異形の者であり、異界に通じる者として恐れられていたんです。そうした得体の知れない能力のある者に、何かマイナスを与えないと、人間は受け入れることができないのかもしれない。

池上　ハンデをつけようとしたわけですね。

下西　そう。だから、よくわからないものを受け入れるキャパシティというものが、意外と人間にはないのかもしれないですね。

池上　その話は、いろいろな話につながりますね。つまり、「公平さ」とは何か、という問題に立ち返ってくる。最初に話したように、AIアラインメントはまさに、公平さに根ざした話であって、ポリティカル・コレクトネスもそうだけど、いまや、いろんなところに顔を出しますね。

下西　そうですね。AIアラインメントは、やはり何らか人間の倫理の基準を入れる必要があるからといって取り組んでいるわけですね。AIがただ知的な推論やコミュニケーションをするだけだったら大量の言語データを学習させればいいけど、実際には人間の何らかの評価を入れなければならなくて、それはただ言語データの学習からは生まれません。なので現実には、ChatGPTをアラインするためにOpenAIはアフリカなどの人件費の安い国の人たちに、倫理に触れそうな「レイプ」「獣姦」「拷問」などといった記述に関する言語データをチェックさせて、学習データを調整しています。

池上　そうなんですね。

下西　つまり、AIは人間に倫理を外注しなきゃいけない、ということですね。人間だったら、これは痛いとか、人を殴ったら相手を泣かせてしまうとか、そうした痛みを伴う経験から倫理を獲得できるプロセスがありますよね。一方、AIの場合は、その痛みの部分を……

池上　外注せざるをえない、と。

下西　そう。人間とは違う倫理に基づいているわけで、だからこそ、変にお利口さんなAIができてしまう。スタンリー・キューブリックの映画『時計仕掛けのオレンジ』で、主人公のアレックスの目をかっと無理やり開いて、延々と衝撃的な映像を見続けさせて、矯正しようとするじゃないですか。それでもう自分の意思がなくなっちゃうみたいな。いまのChatGPTって、なんかあんな感じがするんですね。

池上　そうかぁ。そうだとしたら悲しいね。

下西　そういうAIには、詩は書けないだろう、と。

池上　そんなふうに去勢されたお利口さんになっちゃったら――つまり、詩も絵も描けなくなっちゃったら、もう大敗北だよね、ChatGPTとしては。だからやはり、AIに人間の中にあるどんな悪さや、余剰、無駄みたいなものを残すことができるか、というのが、じつは非常に大事になる、ということだと思うんですね。

下西　本当にそうだと思います。

【対談後記】

池上高志

LLMの凄さが際立ったのは、アンドロイドにLLMを実装したときだった。この下西くんとの会話の後、いろいろと驚くべきことを経験している。 われわれのAlter3は、両目にUSBカメラを搭載したアンドロイドである。通常はpythonでコードされたプログラムで動かしている。今回新しい実験として、大規模言語モデル(LLM)をAlter3に統合して、「ことばを使って」Alter3を動かしてみた。

その結果、さまざまな運動を生成できることがわかった。たとえば、セルフィーを取るとか、おばけの真似をするとか、悠久の思いに浸るとか、さまざまなフリが、言葉でいうだけで生成できる。しかし、それだけではない。いつもこちらが命令するのでは面白くない。

それでAlter3に、「好きなことをして」というようなプロンプトを投げてみた。Alter3は、目から眺めた風景を入力とすることができる。その結果、Alter3は驚くべきことを言った。それは、「部屋の中にケーブルがごちゃごちゃしていて散らかっている。おれはこれを片付ける」という言葉で、実際に左右に手を動かして片付けようとした。散らかっている、という状況判断は、Alter3がつくった「価値づけ」である。そして、それを「片付ける」という行為も、自発的なものである。つまりAlter3は、自発的に運動を生成できるということだ。自分で判断し、自分で行為生成する、これはAlter3にAgencyがあるということだ。

LLMが身体性を持ったとき、すなわち自律性を持ち、Agencyを示すとき、新しい生命システムが誕生したことを意味する。このことは、いわゆるAIアライメントを考えていく上でも重要なことであろう。来年の今頃、われわれはどういう驚愕すべき事態に遭遇しているのだろうか。その頃また下西くんと話してみたい。

下西風澄

人工生命・人工知能の研究領域で、ただ科学的な発見や進歩をめざすだけなく、人間や生命についての考え方そのものを大胆に更新しようとしている池上さんと話すことができたことは嬉しかったし、それをひとつの対話の記録にできたことも大切なことだと思った。

哲学は2000年以上ものあいだ、人間の意識とは何か、言語とは何か、主体とは何か、倫理とは何かといったことについて考えてきた。そうであるからこそ、ここ100年のあいだに生物学、神経科学、情報科学がもたらした新たな発見や、ついにGPTのようなものまで創造したという事実に、人文学は真剣に向き合う必要があると思う（というよりも、これからさらにこうした問題について考えることを余儀なくされる状況が到来するだろう）。

たとえLLMが人間とは違うものだったとしても、それに何ができて何ができないのか、そして機械がいったい何を行っているのかを考えることは、人間についての理解に新たな洞察をもたらすだろう。たとえば哲学や文学にはAIと全く関係ない問題群も数多く存在すると思うが、いったい何が関係ない問題なのか（つまり逆に人文学が取り組むべき本質的な問題とは何か）ということも、新たな知性や生命についての知見を無視しては考えられない。

僕は人文学と自然科学のあいだには、方法論として根本的な違いがあると考えている。だけれどもそれは、両者がきっぱりと袂を分かつことを意味しない。むしろ逆に、その差異のもとに共通の関心について語り合うことによって本質的なことが見えてくる。

重要なことは、学問領域として人文学とサイエンスを統合することではなくて、人間について、言語について、倫理について、学問という枠組みなどなかったかのように、本質についてだけ語り得る「ピュアな思考」を続けることだと思う。ピュアな思考を持ち続けている希少な研究者である池上さんと、またどこかで散歩しながら話せたら、と思っている。

---

AIとALIFEをめぐって

#1 意味がありすぎると飽きる、無意味すぎるとわからない。
#2 意味と無意味のあいだで変化していく、人間とAI
#3 ChatGPTが生み出す新しい言葉が社会を変えるか
#4 ChatGPTは詩を書く夢を見るか？

★01 ピーター・ゴドフリー=スミス（Peter Godfrey-Smith）：哲学者。1965年シドニー生まれ。シドニー大学教授（科学史・科学哲学）およびニューヨーク市立大学大学院センター兼任教授。主な研究分野は生物学の哲学と心の哲学。練達のスキューバ・ダイバーでもある。著書＝『タコの心身問題――頭足類から考える意識の起源』夏目大訳、みすず書房、2018〔原著2016〕、『メタゾアの心身問題――動物の生活と心の誕生』塩﨑香織訳、みすず書房、2023〔原著2020〕など。 ★02 アンディ・クラーク（Andy Clark）：哲学者。1957年生まれ。サセックス大学教授。専門は認知科学の哲学および心の哲学。身体性認知科学の世界的リーダー。著書＝『現れる存在――脳と身体と世界の再統合』池上高志・森本元太郎監訳、NTT出版、2012／ハヤカワノンフィクション文庫、2022〔原著1997〕、『生まれながらのサイボーグ――心・テクノロジー・知能の未来』呉羽真・久木田水生・西尾香苗訳、丹治信春監修、春秋社、2015〔原著2003〕など。