人工知能批判のゆくえ

H・ドレイファスと言えば、哲学の世界では、現象学の研究書や、ハイデッガー『存在と時間』の注釈書の著者として有名だが、コンピュータ、特に人工知能（AI）研究の世界では、『コンピュータには何ができないか』などで反AI論を積極的に展開し、特にAI学者たちからは蛇蠍のごとく忌み嫌われていた。AIの試みは、中世の錬金術にも等しいだとか、研究の初期成果で喜ぶのは、月を目指して木に登ったようなものだ、とか、その毒舌ぶりはつとに知られている。

そのドレイファスの著作の新バージョン（H. Dreyfus, What Computer Still Can't Do, MIT Press, 1992）が昨年またまた出版された。またまた、と言ったのは、1972年の初版、1979年の第2版（邦訳＝黒崎政男／村若修共訳、産業図書、1992年）そして、今回の第3版は表題を『コンピュータにはまだ何ができないか』と変化させつつ、20年にわたって、同一著書をいわば、バージョンアップさせてきたからである。

コンピュータの可能性と限界、特に人工知能問題について、哲学的観点から論じたこの著作は、すでに古典的なものとなっているが、この第3版も、第2版と同様、これまでの版の冒頭に新たな序文を付すという形で最新版を出版している。これは、ちょうどコンピュータ・ソフトのバージョンアップ形態を模しているとも言えるし、また、初版（1972）時の基本的議論は、今日でも十分通用するという著者の自信の現われでもある。

今回ドレイファスは、これまでのAI計算主義が「ソ連邦解体のように、あっというスピードで崩壊した」（p.xiv）とし、また代わって流行した神経回路網モデル（コネクショニズム）にもさまざまな困難があると指摘する。「人工知能におけるすべての研究は、大いなるジレンマに直面しており、計算主義を取っても、コネクショニズムを取っても、進退きわまった状態となる」（p.xlv）という結論は、ドレイファスの健在ぶりを示している。

さて、当論考では、まず、ドレイファスのAIに対する基本的議論を、主に最新版の序論を中心におさらいする。次にAIの核心的課題であった自然言語処理＝自動翻訳機械の現状について考察し、最後に、反AI論の前提であった「他者としてのコンピュータ」という発想から「環境としてのコンピュータ」という発想へのシフトを論じてみようと思う。

1　反AI論の基本的議論

今世紀50年代後半から、今日にまでわたって続けられてきた人工知能問題を概観するには、どのような視点をとったらよいだろうか。

人工知能研究の黎明期、つまり、新たな研究の興奮と期待に満ち満ちていた時期（1965）に、その中心的研究者のH・サイモンは「ここ20年のうちに、人間ができる仕事ならばどんなものでも機械はうまく処理できるようになっているだろう」（The Shape of Automation for Men and Management, Harper & Row, 1965, p.96）と述べていたことは有名である。

今回のドレイファスの序論（introduction to the MIT Press Edition, 1992）は次のように始まっている。

………『コンピュータには何ができないか』の最新版は、単に出版社と表題がちょっと変わった、というだけの変化にはとどまらない。同時に、この版はAI研究状況が大きく変化したことを示している。この本は、もはや進行中の議論に過激な論争を挑むようなものではなくて、歴史上過去となった或る時代についての見解を提出するものである。というのも、20世紀は今や終わりに近づいており、同時に、今世紀のもっとも大きな夢も同じように終わりつつある、ということが明らかになってきているからである。（p.ix）

確かに、過激な反AI論であるこの書物が、あのMIT Pressから出版されること自体興味深いことであるし、『コンピュータにはまだ（still）何ができないか』という表題もふるっている。ドレイファスは続けて、AIの歴史をこう纏めてしまう。

………ほぼ半世紀前、コンピュータの先駆者であるアラン・チューリングは、規則と事実でプログラムされた高速デジタル・コンピュータがあれば、それは知的振る舞いを示すだろう、と提唱した。このようにして、のちAIと呼ばれるようになった分野が誕生したのである。50年間にわたる努力ののちに、しかしながら、よっぽどの頑迷な人々を除くすべての人々に今や明らかになったのは、普通の知性を作り出すというこの試みは失敗したのだ、ということである。（ibid.）

記号主義AI時代

ドレイファスは、これまでのAI研究において主流だった計算主義を「よき古風なAI （Good Old-Fashioned AI＝GOFAI）」と名付け、その歴史を50年代のニューウェルやサイモンの仕事から、80年代後半にコネクショニズムが登場するまでの時期までを回顧する。

この点の厳密な議論は、むしろ、本論の第2部「根強い楽観論を支える四つの前提」（pp.154-227）の箇所に見いだすことができる。
長くなるが引用しておこう（この点について詳しくは、拙著『哲学者はアンドロイドの夢を見たか――人工知能の哲学』［哲学書房、1987］第3章を参照されたい）。

………認知のシミュレーションや人工知能の分野の研究者たちは、深刻な諸困難が存在するにもかかわらず、くじけることがない。実際、彼らは徹底的に楽観的なのである。彼らの楽観主義の基礎をなすものは、次のような確信である。つまり、人間の知的行動はデジタル・コンピュータによる情報処理の結果である、あるいは、自然はこのような処理過程形式をともなった知的行動を生み出したのだから、自然を模倣したり自然を越えるようなプログラミングによって、適切なプログラミングが行なわれれば、その様な行動をデジタル機械から引き出すことができるに違いないという確信である。（中略）コンピュータが操作するすべての情報は分離した諸要素の形を使って表現されなければならない。現在使用されているコンピュータの場合で言えば、情報は2進数字（binary digit）、つまりyesとnoのつながり、スイッチのオンとオフという形で表現される。（中略）このようにして、人間が汎用記号操作装置の様な機能を持っているのだという前提は、実は以下のような四つの前提を持っていることを含意する。

1　生物学的前提。ある働きのレベルにおいて、——通常は神経細胞のレベルと考えられているが——脳は、オン／オフ・スイッチと生物学的に等価な働きをなすことによって情報を処理している。

2　心理学的前提。こころは形式的規則に従って情報のビットを操作する装置と見なし得る。このために、心理学においては、コンピュータは、ヒュームのような経験主義者（ビットを原子的な印象と見なす）たちやカントのような観念論者（プログラムが規則を提供する）たちによって想定されるようなこころのモデルとして役に立つ。

3　認識論的前提。すべての知識は形式化しうる。つまり、理解し得るものはすべて論理的関係のかたちで表現できる、あるいは、ブール関数のことばでより正確に言えば、ビットが規則にしたがって関係する仕方を支配する論理計算のかたちで表現できる。

4　存在論的前提。デジタル・コンピュータに伝えられたすべての情報はビットのうちに存しているに違いないのであるから、こころのコンピュータ・モデルはつぎのことを想定する。つまり、世界に関するすべての重要な情報、つまり、知的行動を生み出すために本質的なものすべては原理的には状況に依存しない（situation-free）確定した諸要素の集合として分析可能なものであるに違いない。これが、存在するものはすべて、論理的にお互いに無関係な諸事実の集合であるという存在論的前提である。

（pp.155ff., 邦訳ではp.274以下）

第2部の序論で以上のように述べた後、ドレイファスは、本論で実に詳細にこれらの諸前提の「もっともらしさ」を分析している。そして、これらの諸前提は、人工知能研究に携わる研究者たちによって、一つの原理、保証された成果と考えられているが、実際は、その前提は研究の成功によって試されるべき仮説、他と並ぶ単に一つの可能な仮説にすぎないということを明らかにしていく。それどころか、ドレイファスによれば、この四つの前提の一つとして、経験的にもアプリオリにも正当化されることはないのである。この場合、これらの前提に対する論駁は、「最初の一つを除く残り三つの前提は、経験的というよりはむしろ哲学的なものであるから、それらは哲学的諸根拠から批判される」という形を取ることになる。そして、ドレイファスの結論は「それらの前提のどれもが、知的行動の説明として整合的に話を押し進めようとすると概念的な困難に陥ってしまうのである」と言うわけである。

ニューラル・ネットワーク時代

さて、以上が、従来の記号主義AIについてであったが、冒頭でも紹介したように、この立場は「ソ連邦解体のように、あっというスピードで崩壊」し、代わって80年代後半から、神経回路網モデル、いわゆるコネクショニズムが流行する。

………人工知能を創作しようとするとき、世界についての心の記号的表象をモデルとするより、脳の学習能力をモデルにしたほうがよいのではないか、という考えは、哲学からではなく、むしろ神経科学から、そのインスピレーションを得ている。……記号主義AIが失速したように思われたとき、D・ノーマン他の並列分散処理（PDP）グループはローゼンブラットのプロジェクトの改良研究に着手し、驚くべき諸成果を並べ立てた。ラメルハートとマクレランド、そしてPDP研究グループの2巻本『並列分散処理』は、出版された1986年に、6000セットのバックオーダーが殺到し、現在では4万5000セットが印刷されている。ソ連邦崩壊のように、記号主義AI（GOFAI）研究は、遅かれ早かれその事態はやってくるだろうと思っていた我々さえ驚くほどの早さで崩壊した。（p.xiv）

さて、このように記号計算主義にとって代わった神経回路網モデルの特徴はどのようなものであろうか。記号計算主義を批判してきたドレイファスには、神経回路網モデルは「困難に対するはるかにもっともらしい解答」ではあるとする。

………確かに、神経回路網モデルのGOFAIとのもっとも特徴的な違いは、それが、規則ではなくて、入力と出力の間の調教の経過を基礎としていることである。（p.xv）

PDP派であるP・スモーレンスキーのより的確な表現を借りれば「コネクショニスト・システムにおいては、知識が、記号的構造のうちにではなくて、むしろ、プロセッサー間の結合の強さのパターンのうちに埋め込まれているのである」（P. Smolensky,“Connectionist AI, Symbolic AI, and the Brain,” in Artificial Intelligence Review, Vol.1,1987, p.95）ということになる（この点について、詳しくは拙著『ミネルヴァのふくろうは世紀末を飛ぶ』[弘文堂、1991]、第4章「脳の解明とニューロ・コンピュータ」を参照されたい）。

しかし、この新たな試みに対するドレイファスの意見は「神経回路網モデルは本当に知的たりうるのか、そしてまた、コネクショニストたちは、ちょうど1960年代のAI学者たちのように、一般化はできないようなその場限りの（ad hoc）成功に、期待の根拠をおいているのではないか、が問われなければならない問題として残る」（pp.xv f.）としている。

ドレイファスは、まず、神経回路網モデルは、実際の脳の働きとは異なることを、主に後者の入出力の構造がきわめて巧妙であることを理由に、述べ挙げる（p.xliv）。そして、次に、「たとえ、今述べたような実際上の問題が解決したとしても、一つの問題は残る」とする。この問題は、規則をあらかじめ設定しないコネクショニズムも、強化学習の結果をまとめる場合には、やはり規則を必要とすることになるが、「人間の場合には、そのようないかなる規則も必要としていない」（p.xlv）という議論のことである。

この最新版でのドレイファスの結論は、結局以下のようになる。

………AIにおけるすべての研究は、結局困難なジレンマに直面するように思われる。GOFAIシステムを採用しようとすると、人間が単に人間であることで簡単に理解できることを、信念システムのうちにすべて表現しておかなければならない。……他方、最近の学習機械研究においては、そのような表現は要求されないけれども、今度はジレンマのもう一方の角に直面することになる。今度は、人間のやり方を一般化することを学習するためには、人間的な関心事と人間的な態度を共有するような学習装置が必要になる、ということである。ちょうど、物理的記号システムのうちに我々の人間性を獲得するような装置を作ることが不可能であったのと同様に、世界のうちで、行動したり学んだりするに十分なほど我々と似ている装置を作ることもやはり、不可能であるように思われるのである。（pp.xlvi f.）

以上が、最新版ドレイファスの主張の概要である。AI側の新たな展開を吟味しながらも、初版以来の反AI的態度はまったく変化していない、とまとめることができるだろう。 さて次に、ドレイファス問題を離れ、AI論一般ではなくて、もう少し具体的な例で、コンピュータの問題を考えてみよう。

2　自然言語処理＝自動翻訳機械の現状

自動翻訳機械は、AI研究のうちでも、もっとも困難なものの一つである（以下の点について詳しくは、拙著1991年、第3章「他者としての機械」を参照されたい）。今日でこそ、自然言語処理問題の困難さは多くの研究者たちによって十分自覚されるようになったが、この点を明らかにしえたのはもちろんデジタル・コンピュータを実際に使用して実験してみた結果である。デジタル・コンピュータというデヴァイスが存在していなかった時代では、辞書と文法さえ用意されれば言語理解は可能だ、という考えは誰にとってもごく当り前のことであった。しかし、すぐに幻滅が訪れる。バーヒーレルは彼の報告書『言語の自動翻訳の現状』（1960, p.94）において次のように述べている。

………機械翻訳研究の最初の1年間には、相当の進展がみられた。……そしてこのために、この分野に積極的に従事している多くの研究者の間には、実用的なシステムはすぐ手の届くところにあるのだという強い確信が生まれた。確かに、当時ならそのような幻想が生まれてしまっただろうということは理解できるが、やはりそれは幻想だったのである。……そして、次のことは十分には実感されていなかったのである。つまり、機械の出力と本来の質の高い翻訳とのあいだの溝はいまだに途方もなく深く、また、それまでに解決された諸問題の数は確かに多かったが、それらは最も単純な種類のものであり、これに対して残された“少数の”問題はそれらに較べて困難な、いやきわめて困難な問題であったということが。

この発言は、AI研究黎明期のことである。それから、数十年たった今日、自然言語処理研究はどれほど進歩したことだろうか。

26年後の『Computer Today』の特集「コンピュータと自然言語――コンピュータは日常言語をどこまで理解できるか」で、辻井潤一は「自然言語の意味を記述する形式的な体系が一体どのようなものになるか自体が明らかでないことが、自然言語処理を著しく難しくする原因となる」（1986, p.4）と述べ、説得的な形で自然言語の難しさを実例を挙げながら紹介している。

さらに、例えば田中穂積は「機械翻訳は人工知能の典型で、言語理解の諸側面を統合化した研究である」（「機械翻訳」、『理想』1984年10月号に所収）と述べ、やはりその研究の困難さを論述している。田中によれば、「70年代の人工知能の研究における意味理解、言語理解の研究は、あまりにも、その場しのぎの解決［アド・ホック］に頼り過ぎていた」のであり、「文脈、談話理解」の観点が欠けていたという。つまり、「もしかすると、1960年代に意味の問題を回避して大きな困難に直面したのと同じことが、文脈の問題を回避したために起こる可能性がないとは言えない」のであり、長期の視点で機械翻訳システムの実現を目指すとすれば、「言語学者、心理学者、哲学者との共同研究が必要なテーマである」と述べている。

さて、このように、自然言語処理を基礎とする自動翻訳機械は、ドレイファスによれば、当然実現不可能なものであり、またAI研究者自身も、今日ではその困難さを認めている。

翻訳支援ツール

しかしここのところ、「翻訳支援ツール」という名の、さまざまな翻訳ソフトが市販され、また、一部の分野では、それが実際実用化され始めている。

話を見えやすくするために、まず、一般に言われる翻訳機械の三段階について述べておこう（この区別については、丸山直子「機械翻訳と国語学」、『東京女子大学日本文学』68号［1987年9月］所収を参考にした）。

（1） FAMT （Fully Automatic Machine Translation）
（2） HAMT （Human Aided Machine Translation）
（3） MAHT （Machine Aided Human Translation）

（1） は強い意味での自動翻訳機械であり、ドレイファスが批判の対象としたのは、これであると言っていいだろう。現在のプログラムの多くは、この段階にあることを主張しない。

（3）は、翻訳する主体はあくまで人間であり、電子辞書などがこれにあたるだろう。これは当然実現可能である。問題となるのは、（2）の段階である。まず、機械が理解しやすい文に、人間があらかじめプレエディットし、また、機械の出力結果を人間が手直し（ポストエディット）する、という形で翻訳を完成させる、というものである。今日の翻訳プログラムの多くはこの段階であることを主張している（ないし目指している）といっていいだろう。

AI批判という脈絡から考えれば、人工知能の側の戦略は、もう大上段に構えるのではなく、戦線を縮小して、できることだけやろう、というものに変わってきている。それは「自動翻訳機械」から「翻訳支援ツール」という名称の変更でも明らかである。

ちなみに、あるソフトを使って、パソコン上で実際に翻訳をさせて見よう。英文は、ドレイファスの自動翻訳機械の章から選んでみた。

■原文
The attempts at language translation by computers had the earliest success, the most extensive and expensive research, and the most unequivocal failure.

■翻訳結果
コンピュータによる言語翻訳の試みが、最も早い成功とほとんどの広くて、そして高価な研究と最もあいまいでない失敗を持っていた。

冷たい眼を持ってすれば、翻訳になっていない、とも言えるが、ドレイファスによれば自然言語を理解できないはずのコンピュータが、ここまで訳せるようになったのは、ともかくたいしたものだ、とも言える。

しかし、問題はここから始まる。確かに、ドレイファスが主張したように、自動翻訳機械は実現不可能であるかもしれない。だが、原理的問題とは別に、「実用上」という側面から、例えば、このような翻訳支援ツールが、不完全ながら、社会にますます進出してくることになるだろう。

完全知能機械という夢が消えた代わりに、不十分な形ながら、「翻訳」機械が我々の社会を満たすようになる。このことによって、言語とはなにか、翻訳とはなにか、といった我々の発想の根底が無意識のうちに変形させられていく可能性がある。翻訳支援ツールを使用していると感じることであるが、機械翻訳が成功裡に遂行されない場合には、原文のほうを直す、という作業が無意識のうちに要請されてくる。つまり、翻訳機械に合わせて言語を書いたりするという転倒が起こってくるわけである。今後、長い間には「言語のスタンダード」とは、翻訳機械にちゃんとかかるもの、という意識の変質が生まれることになるだろう。

例えば、ある「翻訳支援ツール」のマニュアルには次のようにある。

………会話や詩などのように複雑な文構造を持っているものや、文法構造上破格や欠落の多い文の翻訳を行なう場合は、事前に英文を大幅に編集することが必要です。

つまり、この発想である。確かに、現状では、このようなプレエディットの作業が必要なのは当然であり、マニュアルがこのように主張するのは十分理解できる。しかしながら、翻訳がうまくいかないのは、しだいに、原文が悪いからだ、という意識が使用者のうちに、そして長い間には社会的にも生じてくるだろう。現在のツールでは、聖書もシェークスピアもヒュームも（機械から見て）破格だらけで、翻訳不可能である。しかし、英語の長い歴史の貴重な遺産がほとんど破格や欠落だらけだとしたら、悪いのは、文法のほうではないのだろうか？

だが文化の側が、自動翻訳機械はできない、現在のツールは不完全だ、といくら騒いでみても、実際のところ、すでにさまざまな分野に翻訳機械は進出しており、また、その出力結果がしだいに世を満たすようになっていく。

ここでは、必ずある種の転倒が起こってくるだろう。不完全な翻訳機械が理解できるような文章のみを使用し始める、ということである。考えられる点を以下に羅列しておこう。

●日本語特有の表現が消えていく。
●英語の単文的表現がスタンダードとなっていく。
●コンピュータ技術が提供する制限英語がすべての言語の基礎となっていく。

3　コンピュータ、他者から環境へ

さて、まとめに入ろう。

米国では60年代から、我が国では80年代を通じて盛んに論じられた人工知能問題は、今世紀後半に初めて登場したコンピュータに対するある時代的な対応を意味していた、と思われる。それを一言で表現すれば、いわば、「他者としてのコンピュータ」という視点であった。

しかし、80年代から始まったコンピュータのパーソナル化は、予想を超えた速度で進行し、コンピュータはあっと言う間に個人的生活の内部にまで浸透した。コンピュータは、もはや、我々に脅威を与える他者という遠い距離に留まるのではなく、完全に環境として我々を取り巻くようになった。90年代の今日、人工知能問題は一時の社会的なブームを経て、地道な研究レベルに戻っていったことには、十分な理由があるのである。コンピュータを論じる我々の視点は、コンピュータと我々との距離感の変化によって、新たな局面へとシフトしていくのは当然のことであろう。

それを、一言で言えば、「他者としてのコンピュータ」から、「環境としてのコンピュータ」へのシフトであると言ってもよいだろう。機械翻訳問題一つを取ってみても、今重要だと思われるのは、コンピュータに翻訳は可能か否か、という問いを（原理的次元に留まって）問い続けることではなくて、テクノロジーの側が提出してくる具体的な成果をていねいに吟味していくことであると思われる。

AI問題の議論を通じて、コンピュータは我々人間とはかなり異なる存在であることは明らかになったが、同時にそれは環境として、静かに我々の生活や意識を変化させるメディアであることも明らかになってきた。

別な表現を使えば、我々は、コンピュータを初めは他者として出迎えたが、今日ではそれを我々の身体の一部として、あるいは頭脳の一部として組み込もうとしているわけなのである。この「環境としてのコンピュータ」のあり方は、拙著『MS-DOSは思考の道具だ』（アスキー出版局、1993年）で展開しておいた。そちらを参照されたい。

（くろさきまさお・哲学）