関西学院大学大学院「美学特殊講義１」第6回
「技術と自然、人工知能と心、その他をめぐる考察」
「技術」について、technique よりも広い概念である art を手がかりとして、考察を続けてゆきたい。ちなみに「アート」という言葉は、現代日本語では「芸術 fine art」の意味で使われることが多いが、今問題にしているのは、そうした価値づけられた特定の文化領域のことではなく、「自然」に対峙する「人為」、「技」「やり方」といった一般的意味における art である。今回取り上げたいのは、art と心の関係である。昨年『こころの未来』誌に寄稿した拙論における議論をパラフレーズしながら考えてみたい。
現代社会に生きる私たちは、あたかも「心」を持っているかのように私たちに話しかける人工的存在と、日常的に接する機会がある。今や仕事にも私生活にも不可欠となった、パソコンや携帯端末はもちろん、家電、乗物、自動販売機やATM、さらには「Pepper君」のような人間の姿を形どった、そして感情を理解する（とされる）ロボットなど、数え上げればキリがない。
私たちに語りかけるそうした機械は、心を持っているのだろうか？ 多くの人（大人）は、そうは考えていない。しかし、心を持つ存在としてそれらと語り合う小さな子供たちを、微笑ましく眺めるのではないだろうか。「そいつはただのモノなのだから、本気で話しかけたりしてはいけない」などと注意したりはしない。信じてはいなくても、私たちはモノが心を持つことについて、寛容なのである。それにしても、そうした場合「信じている／いない」というのは、そもそも何を意味するのだろうか。
私たちの遠い祖先は、様々な自然物や自然現象の背後に、こころや魂（anima）の存在を認めてきた、と言われる。そうした心性はしばしば「アニミズム」と呼ばれる。けれどもぼくはこの「アニミズム」という言葉があまり好きではない。好き嫌いの問題ではないし他に言い換えられるわけでもないのだが、この言葉からは「原始的な時代の遺物」というようなニュアンスがどうしても拭い去れない。だから、進み過ぎた科学文明に対するアニミズムの復権、みたいなことを言われると居心地が良くない。その「アニミズム」こそが科学文明の産物ではないか、と感じるからだと思う。
それはともかく、「アニミズム」と呼ばれる心性は、必ずしも過去の遺物というわけではない。たとえば現代でも、私たちの多くは、自分の家にある人形やヌイグルミをたんなる「モノ」だと思っていないことは、明白である。とりわけ日本においては、生き物の形をしたそうした事物を、（たとえ信じていなくても）心を持つものとして扱っている人は、少なくない。
さて、「信じている」とはどういうことか。多くの現代人は、生き物の形をしたそれらの存在が、厳密な意味で「こころ」を持っているのか？ とあらためて問われると、困ってしまうだろう。心的過程の存在が科学的に検証できるのか、あるいは人権や人格が法的に認められるのか、などと問いただされたら、いやそうではなく、「こころを持つ」かのように私たちが思っているだけだ、と答えざるをえないだろう。
だがそれでも、人形やヌイグルミが「心」を持つと思える素朴な直感に変わりはない。それらが不要になったからといって、他のゴミと一緒に可燃物の袋に入れるのは心が痛む。そんなことをしたら、捨てられたものが悲しみや恨みを持つような、祟りがあるような気もする。だからそれらを「供養」してくれるお寺もあるのである。（この話は日本を前提にしている。一神教文化圏でこの種の話題に触れると、いまだに驚かれたり珍しがられたりする。）
さて「人形は心を持つか？」というこうした問題と、「コンピュータやロボットは心を持つか（あるいは将来持ちうるか）？」という問題とは、かなり異なっている。心は知能と違って、たんなる「機能」には還元できない。人形が心を持つと感じる人でも、それらが本当に自分の打ち明けた悩みを理解し相談に乗ってくれる、等と考えているわけではない。つまりそれらが、人間と同じ心の働きを「機能」として示さないことは、誰でも知っているのである。
それに対して、コンピュータやロボットが心を持つことは、それらが示す知的な機能やふるまいの方から遡って想像される、ひとつの可能性である。人工物の知的活動が複雑さのある閾値を越えたり、予測できないような反応をしたり、人間のような感情の働きを示し始めたら、その背後には人間と同じような「心」が存在しているのではないだろうか？ と私たちは想像するわけである。
コンピュータやロボットが人形やヌイグルミと異なるのは、それらが〈徹底的に thoroughly〉人工物であるという点である。もちろん人形もヌイグルミもまた人工物である。だがそれらの制作において、技術（art）は主として、それらに人間や他の生き物を思わせる外観を与えるために用いられる。それに対してコンピュータやロボットの場合、外観だけではなくそれらが作動するメカニズムそれ自体を人間が設計したという点が異なっている。
言い換えれば、コンピュータやロボットのような人工物の場合、それが示す知能やこころのふるまいの隅々にまで、人間の人為、技術（art）が及んでいるということになる。言ってみれば動物や人形とは、art の浸透する範囲が違うのである。
さて、技術（art）とはそもそも、いったい何なのだろうか？ とりあえずの答えとしては、それは何か特定の目的を実現するための〈手段〉である。だが技術とは、私たちが意のままに用いたり用いなかったりできる、たんなる手段にずきないのだろうか？ それとも、それはたんなる手段を越えた、もっと重要な何かなのだろうか？ 美学的・哲学的に重要なのは後者の意味における技術、すなわちたんなる手段にとどまらず、それを用いることで世界が根本的に異なった仕方で現れる[1]ような活動としての技術（art）である。
Art という言葉を核とする英語の形容詞に、artificial と artistic とがある。
日常的には artificial という形容詞は「（自然ではない）人工の」という中立的な意味の他に、「ツクリモノの」「わざとらしい」といった意味があり、どちらかというとあまり好ましいニュアンスの言葉ではない。それに対して artistic の方は「絵ごころがある」とか「芸術的な」「技の冴えた」「趣きのある」など、ポジティブな意味で用いられることが多い。同じ art に関わる言葉でありながら、この違いはどこから生じるのだろう？
美学の古典的文献とされるカントの『判断力批判』第１部[2]では、この art（ドイツ語では Kunst）」という概念が、学問的知識や「自然」との関係において、哲学的な広い視野から議論され、規定されている。その中から本論にとって特に重要と思われることをいくぶん単純化して抜き出すと、次のようになるだろう。
技術は「自然」から区別される。それは、「行為」がたんなる「作用」とは異なり、「作品（行為の産物）」がたんなる作用の結果とは異なるということだと、カントは言う。さらに技術には、何かの目的を達成するための手段としての技術、つまり何か別な目的に適っている技術と、そうではない技術、つまり自分自身が、いわば〈自力で〉目的に適っているような技術がある。この、技術がそれ自身の目的に適っている技術が「美しい技術 fine art / schöne Kunst」、つまり「芸術」と呼ばれる。
そして、技術一般は自然と区別されるにもかかわらず、「美しい技術」とは「同時に自然に見える」ような技術のことなのだ、とカントは考えている。「美しい技術」すなわち芸術においては、それが人為的な制作過程であることを私たちは知っているのだが、にもかかわらずそこでは技術は、目的のためのたんなる手段、強制力として現れてはならず、あたかも天然の産物のように、作為なく勝手に出来上がったように見えなければならない、と言うのである。
言ってみればここには、技術と自然との間に、相反する二重の関係が存在するということになる。技術とは、一方では機械的強制力を用いることによって自然には存在しないものを作り出す活動にほかならないのだが、他方では技術はそうした強制力ではなく、むしろ自由な遊び play / Spiel であるかのように現れることもある。技術は常にそうした二面性において考えられなければならないということである。
このことを先に触れたふたつの英語形容詞に結びつけて考えてみると、artificial における art とは、自然との対立において理解された技術、手段や強制力としての技術であり、それに対して artistic における art というのは、技術でありながら作為が感じられない技術、「あたかも自然であるかのように現れる」技術のことだと理解することができる。
大雑把な分類をすれば、前者がテクノロジー、後者が芸術ということになるのかもしれないが、必ずしも制度的な意味における、テクノロジーと芸術との違いに限定する必要はないだろう。実際にはテクノロジーにも自由な遊びという側面があり、また芸術にも意図や作為によってメカニカルに動いている側面はあるからである。優れた科学技術はヘタな芸術よりもよほど芸術的であったりする（そこにメディアアートの可能性の中心がある）。Artificial と artistic の対立は、領域を越えて、およそ人間が art と関わるあらゆる局面においてみられると考える方がいいだろう。
「科学」「テクノロジー」「芸術」といった制度的な領域区分では、 art に関する本質的な問題を、なかなかうまくとらえることができない。また、「自然VS人工」といった伝統的な枠組も、テクノロジーと自然とが相互に複雑に浸透し合っている現代の世界を理解するには、あまりにも粗っぽい対立であり、役に立たない。むしろ、様々な領域を貫通している artificial mind と artistic mind との関係という観点から、考えるべきではないだろうか？ これが、ぼくが提起したいと考えている問いのひとつである。
「人工知能 AI / artificial intelligence」は、現代においてこうした問題を考えるために興味深いトピックの一つである。そこで、人工知能をめぐるひとつの、きわめてポピュラーな問いに答えることを通じて、さらなる考察を加えることを試みてみたい。
その問いとは、「人工知能（A I）は、人間を越えるか？」 というものである。
この問いは、これまで様々な人々によって議論されてきた。議論されてきただけではなく、この問いをめぐっておびただしい数のＳＦ小説が書かれ映画が制作されてきた。 それは、ポピュラーカルチャーにおけるお馴染みのレパートリーのひとつとなった。
一方、専門的な科学者、エンジニア、哲学者たちは、この問いはこうした素朴な形のままではうまく扱えないので、それぞれの専門に合った、より厳密な形に定式化した上で、エンジニアは概ね肯定的な答えを、哲学者はたいてい否定的な答えを出してきた、と言っていいと思うが、ここでは、そうした議論の詳細を追うつもりはない。
たしかにこの問いにおいては、「人間を越える」ということが正確に何を意味しているのかが不明確であり、厳密な議論にたえない。とはいえ、それをより厳密な形に言い直して肯定あるいは否定の答えを出したとしても、専門家たちによる解答によっては、「人工知能は人間を越えるか？」という当初の素朴な疑問は、満足しないと思えるのである。ぼくは専門化された問いの適切性を理解しないわけではないのだが、と同時に、この元の素朴な問いの持つ素朴な〈強さ〉とはいったいどこから来るのか、ということに関心があるのだ。
歴史的にみると、現在私たちが知っているような人工知能やロボットだけが、人間にとって脅威となる存在であったわけではない。かつては単純な機械的計算機に対しても、人々はそれを、あたかも人間理性に挑戦する存在であるかのように受けとった歴史がある。
フランス革命期には、現代の私たちには精巧な玩具としか思えない機械仕掛けの自動人形（オートマトン）が、人間の存在理由や神の世界創造に挑戦するかのような、知的衝撃力を持つものとして受け取られた。今からは想像し難いことであるが、それらは当時のラディカルな人間機械論や唯物論を裏付ける実例とみなされていたのである[3]。
なぜだろうか？ それは、かつて人々はそうした人工物の中に、たんなる手段としての技術以上のものを感じていたからではないかと思う。そこでは技術 art は、人間の意図や目的から離れ、あたかもそれ自体が何か別な目的に向かっている自律的活動であるかのように現れた。言い換えれば技術は、へたをすると人間の制御の効かなくなってしまう「不気味なもの」として現れたのである[4]。けれどもやがてそうした人工物がありふれたものになると、人々はそれに慣れてしまい、それらが示すふるまいには、機械的な動作しか感じられなくなってしまう。
現代では、かつて人間知性の特権とされていた計算、推論、予測といった知的活動を、機械もまたなしうること、しかも人間よりはるかに高速かつ正確になしうるという事実に、私たちの多くはもはや、慣れてしまっている。そこには驚きも脅威もないし、それほど「不気味」とも感じられない。それどころか、機械の実行する複雑な知的処理を前提に社会全体が動いていることは、もはや当たり前の平凡な事実だと、私たちは考えているのではないだろうか。
チェスや囲碁のようなゲームでコンピュータが人間の名人を打ち負かしたというニュースにも、私たちは以前ほど反応しなくなってしまった。こうした「勝負」について、マスメディアはいまだに「機械がついに人間を越えた！」などと報道することもあるが、そうしたセンセーショナルな「煽り」ははっきり言ってもう時代遅れの紋切型であり、一般の人々の多くは、実はそんなことに深く驚いてなどいないのではないだろうか。
さまざまな分野で「機械が人間を凌駕する」ことは、今や日常的現実である。逆に言えば私たちは、「いや、それでも機械にはけっしてできないことがある」などと主張するのに疲れてしまったのかもしれない。私たちが現実的に心配しているのは、機械が意識や心を持つかどうかではなくて、むしろ機械によって人間の仕事が奪われ、自分たちが用済みになるかもしれない、ということではないだろうか（これもまた、産業革命以来ずっと人間につきまとってきた不安である）。
こうした状況を踏まえた上で、「人工知能は人間を越えるか？」という問いに、どのように答えることができるかを考えてみたい。この問いはいかにも「いや、人間にしかできないことがある」というヒューマニスト的な答えを誘導するものとして設定されているが、実はこれがワナではないかとぼくは疑っているのである。
そして先述したように、何を「人間にしかできない」ことと考えようとも、その種の答えはもうパターン化していて、あまり本気で議論する気が起こらない。こうした思考のワナにはまらないためには、むしろ、次のように断言した方がいいのではないだろうか？ すなわち「人間ができるすべての事柄において、人工知能は人間を越える。なぜなら人間が自分の特質を何かが「できる」かどうか、つまり「能力」から見ている時点で、人間自身がすでに人工知能だからである」と。
さて、「人間がすでに人工知能である」とはどういうことなのか、説明してみよう。
先述したように、かつては簡単な数値計算のような作業ですら、人間理性の証しであると考えられていた時代もあった。それが計算機でも実行可能であることが分かり、計算機そのものが当たり前の存在になると、人間であることの証明はもっと「高度」な推論や予測、複雑な状況認識や、長い経験に基づく判断などに求められるようになったが、そうした人間固有のものと思われていた知的能力の領分もまた、機械によってどんどん侵略されてきた。
このことは、ある意味で驚くべきことかもしれないが、よく考えてみると、まったく当たり前のことのようにも思えるのである。
なぜなら、数値計算や論理的推論はもちろん、多数の不確かな情報を総合的に評価したり、夥しい試行錯誤の経験に基づいて判断を下したりすることも、そうした手続きが数学的に定式化され、計算可能なデータ処理の形に書くことさえできれば、やがては機械に追いつかれ、追い越される運命にあったことは、明白だからである。
すなわち、ごく最近までは、たんに機械の計算能力が及ばなかったために、ある種の仕事は、機械にはけっしてなし得ない人間特有のものとして、ロマンチックに神秘化されてきただけのことなのではないだろうか。
たしかに、機械と人間とでは、データ処理のやり方はまったく違う。たとえばコンピュータが人間の名人と将棋を指して「勝った」といっても、コンピュータは人間の棋士のように盤面を前にして腕組みしているわけではなく、過去の対戦の膨大なデータをもとに可能な指し手を超高速で計算しているだけである。だから機械は「本当は将棋など指していない」と言うことはもちろんできる。
だがこれは反論になるだろうか？ それなら逆に聞くが、「将棋を指す」とはそもそもいったいどんな行為だったのだろうか？ 将棋のようなボードゲームが、いかなる思考プロセス（データの処理方法）を用いるにせよ、ルールに基づいて相手に勝つことを目的とする活動であるとするならば、やはり将棋では人間はもはや機械には勝てないことは確かなのである。それとも「将棋を指す」とは、勝利の追求を目的としない、何かまったく別な行為だった、とでも言うのだろうか？
もうひとつ別な例をあげるなら、現在人工知能が実用的に応用されようとしている分野のひとつに、科学論文の査読がある。世界中で日々大量に生産される科学論文は、そのクオリティが各分野の知識を持つ専門家によって審査される必要があるが、膨大な量の論文を査読するという仕事は、忙しい研究者にとって大きな負担である。それを人工知能に置き換えることによって、平均的には人間の査読者よりも正確な判定結果が得られるのだという。
これは面白い事態である。たしかに、自分が一生懸命書いた研究論文が機械に評価されて不採択になったとしたら、納得できない気持ちを持つ人がいるかもしれない。だがこの納得できない気持ちはどこから来るのか？機械には評価する能力がないと考えるからではないだろう（科学者なら機械の判定能力を事実として認めるだろうから）。
そうではなくて、この納得できない気持ちの出どころはむしろ何というか‥‥たとえば「この査読者は分かっていない」と呟いて自分を慰めることができない、といったことから生じるのである。つまり、人工知能による「査読」という行為の背後には、（頭が古くて新しいアイデアを評価できない頑固な老教授のような）〈主体〉が不在なのである。ちょうど、将棋で名人に勝利しても、機械の中にはそのことを喜ぶ〈主体〉がいない（機械を設計しプログラムした人間の技術者たちは喜んでいるかもしれないが）というのと同じことである。
人工知能はたしかに将棋で人間に勝ち、また人間よりも有能に論文査読ができるようになるかもしれない。そのことを、人間の威信が傷つけられたと悲観する人もいるかもしれないが、それは勘違いである。勝利を目的として将棋の技術を考え、より公正な判断を目的として査読の技能を考えた瞬間、人間はすでに自分自身を人工知能と同等に置いてしまっていたのである。人工知能に置き換えられる可能性のあるすべての人間活動において、同じことが言えるだろう。
こうした心性、つまり人間が「能力」から自らを理解し、暗黙のうちに自分自身を人工知能として考えたがる傾向を、artificial mind と呼んでいいかもしれない。
Artificial mind は、必然的に「人間の終わり」を含んでいる。なぜなら、生身の人間は「人工知能」としてはきわめて効率の悪い存在だからである。遅かれ早かれ「本物の」人工知能に追い抜かれることは、はじめから決まっていたのだ。人工知能と人間とを隔てる境界として「感情」や「道徳心」や「芸術的創造」を考えようとも、それらを各々の領域における正しさや成功へと導く「能力」として想定しているかぎり、やはり人間はいつか機械に凌駕されることになるだろう。
「人工知能は人間を越えるか？」という問いから、私たちは artificial mind、つまり人間の中には機械になりたがる強い願望があるという観点へと導かれた。それは、見方によっては無邪気なものである。超人的なロボットやサイボーグに憧れる、幼い男の子たちの空想の中にもその萌芽がみられるからだ。
ところが、こうした人間の機械願望とはうらはらに、人工知能やロボットをめぐる物語の中においては、そうした人工物がしばしば「人間になる」ことをひたすら願う存在として描かれてきたことは、興味深い。古典的には「フランケンシュタイン」がすでに然りであるが、より現代的な例をひとつあげるなら、1999年の映画『アンドリューNDR114』（原作はアイザック・アシモフの小説『バイセンテニアル・マン』1976）がある。
この物語では、最初家事用として人間の家族に使われていたロボットが、やがて人間になりたいと願うようになり、自由を獲得し、さらには自分を人間として認めてくれと長い法廷闘争をするのだが、ロボットから人間になるために彼が最後に願み獲得したのは、「死ぬ」ことであった。このことは、レイ・カーツワイルのような現代の人工知能提唱者たちの多くが、機械になることに「不死」の実現を夢想していることとは、まったく対照的である。
ゲームに勝ったり、論文を査読したり、その他人工知能が人間と競合するさまざまな局面で問題になるのは「能力」である。すでに述べたように、もっぱら「能力」が問題になるかぎり、人間にできて機械にできないようなことは原理的にないだろう。それでは「死」はどうだろうか？ 死ぬことは 「能力」ではない。強いて言えば（生きるという）能力の欠如だが、これも死の定義としてはきわめて奇妙である。
自分の「死」とは、能力の有無とは本来関係のない、生のまったくの「外部」である[5]。他人の死は外から現象として観察することができるが、自分自身の死は時間・空間の中にはけっして現れることがなく、したがって現象として経験できない。にもかかわらず、死は自分の生を絶対的に境界づけている条件なのである。人工知能をめぐる哲学的な考察は、私たちをそうした実存主義的な思考のスタートラインに再び立たせてくれるという点で、きわめて重要である。
今回の議論は、artificial なものをめぐって私たちの多くがとらわれている先入観を批判的に考察するための、どちらかというとネガティブなお話であった。次回以降は、artificial とは区別される artistic とはどういうことかについて、よりポジティブな考察を行っていきたいと考えている。
【注】
[1] 「技術」を存在論的な問題として明確に定式化したのはマルチン・ハイデガーである。ハイデガーの議論はきわめて啓発的であると同時に、その独特な語法によって思考を強く束縛するという、両面的な性格を持っており、本論ではこの指摘だけにとどめる。M・ハイデガー『技術への問い』（関口浩訳、平凡社、2009年）他を参照。
[2] イマヌエル・カント『判断力批判』（熊野純彦訳、作品社、2015年）
[3] ブルース・マズリッシュ『第四の境界―人間-機械【マン・マシン】進化論―』（吉岡洋訳、ジャストシステム、1998年）
[4] 人工的存在の持つこうした「不気味さ」は、後出のアイザック・アシモフが「フランケンシュタイン・コンプレックス」と呼んだものと関係している。そこには、人造人間やロボットを作り出すことを創造主である神への挑戦と考え、その罰として、人類はそうした人工物に脅かされ、取って代わられるのではないかという不安がある。人工知能を人類への脅威として騒ぎ立てる風潮にも、いまだにフランケンシュタインの影がみられる。
[5] 郡司ペギオ幸夫『天然知能』（講談社、2016年）は、人工知能と対峙するものとしての「天然知能」を、やはり経験できない「外部」によって動機づけられるものとして描き出そうとする、素晴らしい構想である。
