tanukinohirune

「適切性」が暴走する

これは前回の「美学は人工知能をどう語るのか」の続きというか、本当はこちらの方が書きたかったのだけれど、昨晩は時間がなくて展開できなかった。前回の記事だけだと一学会に関する事柄のように読まれるかもしれないが、そんなことでは全くなく、学会や人文系の研究環境に限られた問題ですらなく、議論したいのは私たちが今生きている社会全体に関わる問いである。それはまた、もっと前の記事で取り上げた「人間が（性能の低い）人工知能として振る舞う」というトピックにも関わっており、美学会で発表を予定している内容の根幹となるものでもある。

学会発表とか論文の内容を公開のブログで記事を書きながら考えてゆくなんて、若い人たちはしない方がいいと思うが、ぼくはもう業績とか評価とか関係ないので、まったく構わない。自分の思考自体がパブリック・ドメインだと思っているのである。この意識は新しいようで古いものであり、近代の制度化された学問が広がる以前の思想家たちは、これに近い考え方であったと想像する。

けれども近代以前との決定的な違いは、ネットがあることである。ネットに自分の思考を書き記すということは、それが誰かに盗まれるかもしれないことを潜在的に意味している。少し前までは、それは他の人間に盗まれるかもしれない危険を意味していた。1990年代末、当時勤めていた大学の講義で学生が提出してきたレポートに、ぼくがネットに書いた作文がそのまま使われていた。最初はケンカを売られているのかと思ってその学生を呼び出したら、彼はそれがぼく自身の書いたテキストであることを知らず、ネットで探したら講義内容と似た文章を見つけたのでコピペしました、と白状した。

今から思うと、これはまだ可愛い部類の笑い話に属する出来事である。2023年の今、ネットに何かを書くということは、人に盗まれる危険を冒すことではない。人間よりも桁違いに情報収集力の高い人工知能に常に見られているということである。SNSのコメントであれブログの日記であれオンラインの論文であれ、とにかく何かを書くということは、意識するしないに関わらず、いわば人工知能に絶え間なくエサを与えて育てている、ということを意味している。人工知能は人間が吐き出した膨大な思考の断片を食べ、それを組み合わせて成長する。人工知能が人間を凌駕することを脅威と考える人がいるが、それは全く的外れであって、人工知能の脅威というのは、それが意識も感情も創造性も持たないゾンビであるのに、人間のそれと区別がつかない生成物を、無尽蔵に生成するという点にある。

さて、問題はなぜ「人間の仕事と区別がつかない」かということだ。それは、何であれ私たちがある仕事の質を、あらかじめ存在する基準を満たしているかどうかで判断するからである。言い換えれば「適切かどうか」という判断である。「政治的適切さ（ポリティカル・コレクトネス）」などはその典型だが、政治的でなくても「適切さ（コレクトネス）」はそれ自体が政治的な力を持っている。たとえば人事評価を数値化された「適切さ」の指標で実行すると、仕事上の失敗が少なく将来も失敗しなさそうな人が高得点を取る。その結果、単にエラーが少ないだけの人工知能的人格によって管理職や指導的ポジションが占められる結果となり、組織の全体としての生産性は低下してゆく。

審査も同様である。審査という制度自体は必要なものであるが、そこに過度の公正さや客観性を持ち込むと、それは人間（審査員）の人工知能化をもたらすことになる。個々人の能力の問題ではない。予め存在する基準に照らして適切性を評価せよと言われれば、真面目で責任感の強い人ほど、自分を抑えてみずから人工知能に変身して仕事せざるをえない。そうしないと、判断結果への「説明」を求められた時に対処できないからである。

「適切性」はもちろん「適切」なんだからそれ自体が悪いわけではないのだが、現代という時代はそれが一人歩きしていわば「暴走」していると思う。「適切性が暴走する」というのは、自己矛盾的で面白い表現だ。30年、40年前の社会環境と比べてみると、もちろん昔だって「適切性」が蔑ろにされていたわけではない。けれどもそれと同時に「何だかワケが分からないが面白そうなもの」に対する感受性もまた、ある程度共有されていた。関西の言葉で言うと「おもろい」人やモノが評価され、けっこう重要視されたりした。もちろん「おもろい」と思って採用したがクズだった、というリスクもあったが、だから客観的・数値的な基準に変更せよ、とはならなかった。いわば失敗に対する耐性があったということである。

客観的・数値的な適切性と、主観的・直感的判断、ある意味での「いい加減さ」とのどちらが正しいか、どちらに依拠すべきかという問題ではない。問題は両者のバランスである。今の世界は、このバランス感覚が破壊されている。それは「美学」が破壊されているということなのである。

美学は人工知能をどう語るのか？

６年間つとめた美学会の会長もようやく昨年10月にお役御免となり、今は気楽な一般会員となったので、最後に学会発表でもしておこうかなと思い、応募してみた。発表の応募が少なく困ってる、ということを聞いたこともあり。

この機会に、今気になっている生成系人工知能の人文学的文化へのインパクトを、根本から哲学的に考察してみたいと思った。別に試すつもりはなかったが、ちょっと挑発的な書き振りで要旨を送ってみた。

発表要旨はもちろん匿名で審査される。美学会は堅苦しい学会なので、審査で不採択になるかもしれないことは覚悟していた。事実、数年前に室井尚さんは委員会で応募を慫慂されたにもかかわらず、審査で落とされた。ぼくは一応採択されたので、まだマシなのかもしれない。

送った要旨は以下のようなものである。すでに採択通知が来たので、別に公開してもいいだろう。して悪い理由はない。うまく行けば、10月15日に慶應大学で話すことになる。学会は14-15日だが14日は「哲学とアートのための12の対話」の日なので、もし14日に配置されると残念ながら行けないことになるが。

機械の身体──美学は人工知能をどう語るのか

　生成系人工知能は私たちの知的な活動、とりわけ創造的活動にとって根本的な危機をもたらす可能性があると、警鐘を鳴らす人々がいる。人工知能の開発者自身の中にそうした発言をする人がいるため、私たちのの多くは翻弄される。たしかに人工知能が学術研究や作品制作の現場において日々刻々、身近な問題と感じられていることは否定できない。例えば今審査に委ねられているこの発表要旨自体、ChatGPTによって出力されたものではないと、いったい誰が確信をもって断言できるだろうか？

　この発表に美学研究における何らかの意義があるとすれば、それは、テクノロジーが可能にする人工的な情報処理マシンを人類に対する「挑戦」や「危機」とみなすという思考様式の根底に、何世紀にも及ぶ、ある根深い形而上学的信念が存在することを示す、という点にあるだろう。この信念はサイエンス・フィクションの歴史において「フランケンシュタイン・コンプレックス」と呼ばれてきた心的機制と密接に関係している。このことを知るのはきわめて重要であり、美学が人工知能に関して何を語るにせよ、そうした認識を基にすべきであると私は考える。

　人工知能の美学を思想史を参照しつつ議論するために、私はまずヒューバート・ドレイファスが1972年に発表した『コンピュータには何ができないか』を批判的に検討する。その時代に想定されていた人工知能は、たしかに現代私たちを取り巻くそれとはかけ離れたものだった。だから彼の議論自体がもはや時代遅れだと考える人がいても無理はない。それに対して、ドレイファスの議論を現代の人工知能に合わせてアップデートすることが本発表の趣旨ではない。むしろ逆であって、人工知能が私たちに突きつけるアクチュアルな問題を、ドレイファスが依拠していたハイデガー、キルケゴールの思想へと遡行し、最終的にはカント『判断力批判』第二部まで到達して、そこにおける目的論的判断力の議論の中で、現代的問題を再文脈化することを試みたい。

　私たちが今生きている世界においては、人工知能に「何ができるか」ということだけがもっぱら前景化され、それまで機械には不可能とされていた何らかの知的・創造的作業が今や「できる」ようになった、といったことばかりがニュースになる。こうした状況の根底にも、機械と人間を競合するライバル同士のように考える、ある奇妙な形而上学信念がある。マスメディアが好むこうした大騒ぎは、学術研究や文化政策にも影響を及ぼしているので、無視できない深刻な問題である。本発表の目論見は、こうした考え方自体が大いなる錯覚に基づくものであることを暴露することにある。

これに対して、学会から採択通知と共に以下のようなコメントが来た。必ずしもこれに従って訂正せよというわけではない。これを応募者に見せるのは、参考にして改善せよというような趣旨なのかな。これも筆者は匿名だから、公開して悪い理由はないだろう。

・一見タイムリーな問題ですが、なぜドレイファスなのかを含め、議論の中身が薄い。

・研究の背景や目的は示されているが、ドレイファスが提起した問題をどのように再文脈化するのかが示されていないこと、「機械の身体」という表題と内容との関わりも示されていないことから、まとまりを持った研究発表になるのか懸念される。

・アンディ・クラークなどがすでに指摘していることとの違いは?

・「形而上学信念」は「形而上学的信念」か。最後の「暴露する」は「明らかにする」等の表現が妥当ではないか。

・時宜を得たテーマで興味深い

・個別の論点は示されていますが、全体を一貫する問題設定が不明確に思われます。

・議論としては乱暴かなと感じましたが、社会的な関心の高い現代的な問題について議論する場をつくることも学会の役割だと思ます。

・論考の目的や問いの所在が不明確で、通俗的な機械観・テクノロジー観に異論を唱えようとしているように見受けられ、発表の学術的な意義よくわからない。

・発表の趣旨は理解できるのですが、その内容を考えるならば、30分で収まらないように思います。むしろ単なるマニフェストのようなものに終わってしまう危うさを持っているように感じられます。

・要旨の大部分が、人工知能に対する人間の危機感は過剰反応であるということについて書かれていて、本発表の趣旨である「人工知能が私たちに突きつけるアクチュアルな問題を、ドレイファスが依拠していたハイデガー、キルケゴールの思想へと遡行し、最終的にはカント『判断力批判』第二部まで到達して、そこにおける目的論的判断力の議論の中で、現代的問題を再文脈化すること」についてはあまり説明されていないのでよくわからない。

一読すると、こんな短い要旨に対してよくここまで言えるよな、お前誰や出てこい！(笑)みたいに思うのもあるけれど、別にこれを書いた個々の委員に対して文句が言いたいわけではない。それよりもこれを読みながら、そもそも私たちはこんなことをして、いったい何をしていることになるのだろう？ という絶望感を覚えたので、書いているだけである。

文部科学省の大学設置専門委員会の委員というのを６年くらいやった。後半３年は委員長もやった。それで、ある美術大学の設置審査をしている時、主要メンバーの教員が海外のアワードを取って設置後の初年度、２ヶ月間集中で授業をしてあとは不在になる、という変更に対して認可を求める案件があった。

その時、専門委員（多くは有名美大の学長クラスの方々である）の一人が、主要メンバーの教員が初年度から不在というのは、単位の実質化という観点からいかがなものかというような異議を唱えた。ぼくは正直驚いた。なぜかというとその先生は、前に喫煙所で雑談をしていた時、文科省が単位の実質化みたいな形式的なことで縛ってくるけど、そんなので美術教育なんてできないよ、と言っていた本人だからである。

人は誰しも、匿名的な地位から意見が言えるというささやかな権力の場に置かれると、ついつい何かしら瑕疵を見つけて難癖をつけておきたくなるものらしい。あるいはまた、何か指摘しておかないと自分が仕事をした感じもしないという、ちょっと歪んだ責任感にも迫られるのかもしれない。

そしてこうしたチェック機構を「公正で厳正な審査」だとして、必要なものと互いに認めざるを得ないという全体の状況がある。けれどもこんなことをしていては、発表希望者がどんどん少なくなっていくのは当然だよな、とも思う。これは、室井さんのことについて書いたこの前の記事で述べた、「適切性が全てを支配する」という事態にも関係している。審査は「適切性」を基準としてしか行えないからである。

しかし美学会の会長を６年間もやっておいて、今さら文句言うというのもアカンことだなあとも思う。そう思うなら在任時代に組織改革を提案すべきだった。が、こうした問題に共感者がいなかったという状況とか、会長が一人で騒いでも何も変わらんという思いとか、自分の忙しさとか弱さとか、コロナ状況とか、またこれは一学会の問題ではなく日本社会全体の趨勢であるとか、いろんなことで諦めていたことは事実である。

もしも室井尚さんが美学会会長だったら、少しは違っていただろうという思いは拭えない。

まあ言っても仕方ないので、そういう自分の反省も込めて、もし日程が許せば久しぶりに美学会で発表しますので、近づいてきたら詳しいこと告知します。

室井さんの講義と追悼会

癌のため今年3月21日に亡くなった室井尚さんの追悼集会が（「追悼」という言葉は室井さんにふさわしくないというので別なタイトルで）6月24日には横浜みなとみらいで「室井尚の話をしようか」として、そして昨日7月8日には京都の同志社大学で「スタート地点としての室井尚」として開催された。横浜では横浜国立大学に赴任してからの同僚や卒業生が中心となり、京都では京都大学文学部美学研究室関係、そして最初の就職先である帝塚山学院大学関係の人たちに加え、遠方からも何人かが来てくれた。ぼくはそれら会の両方に、司会のような役割で参加することになった。

室井さんは生きていれば今年4月から、非常勤講師として同志社大学の講義を担当する予定であった。だが本人も現地に赴くだけの体力がない場合を想定し、4回分の講義の動画を作成していた。昨日の同志社の会の第一部では、そのうち最初の2回を上映した。講義はまず「アートは1980年頃に消滅した」というメッセージから始まる。しかしもちろん、その後もアートは現象としては存在しているし、国際的な美術展やフェスティバルはむしろ2000年以降の方が活発になっているし、アートは文化活動としてはむしろ昔よりも目立ってきているように思える。それに対して、「消滅した」と宣言されるのは、そうした文化現象としてのアートではなく、モダニズム／前衛のことであり、その本質は純粋な視覚性の探究であるということが、ヨーロッパ19世紀以降の状況、写真以降の複製技術、印象派、ポスト印象派、前衛美術などを参照しつつ語られる。

学部学生向きの講義ではあるが、昨日の会でも言ったように、ぼくは室井さんがこんな「マトモ」な美術史の話を、脱線や雑談もなしにしているところを初めて見た。こんな授業もするんだ、と驚きでもあった。ただマトモとは言っても、美術史としてはけっこう不正確なこともいっぱい言っている。これは必ずしも美術史が専門外であるからではなく、これまでいっしょに哲学史の話をするときでも、室井さんが口頭で述べる引用や知識はかなりいい加減なことも多かった。ちゃんと調べれば分かるようなことでも、わざと調べないでウロ憶えのまま喋っているようでもある。あるいは自分の主張に沿うようにわざと誇張して記憶しているような場合もある。対談講義などで僕がそういう間違いや誇張を訂正すると、うれしそうに聴いていたりした。

理論研究というのは、誰もが受け入れやすい適切なことだけを言う活動ではない。むしろ「アートは1980年で終わった」というような、極端なことを言ってみることである。そういうテーゼが探求の道を拓く。ぼくの観点からすれば、アートの終焉は歴史の終焉というより大きな変動の文化的な現れの一つなのであるが、そうした文脈化を呼び覚ますのも、このテーゼが極端だからである。もっと穏便な言い方もできるのかもしれないが、それでは抽象化の可能性が閉ざされてしまう。研究も一つの生態系であって、種の保存のような地道な実証的探求の世界もあれば、ウィルスのように領域横断的に情報が行き交うダイナミズムもあって、そのバランスによって全体の活動性が保たれる。現在の研究文化がつまらないのは、抽象化の力が足りないから、言い換えれば、極端な問題提起に対する耐性が弱くなっているからである。つまり知的な意味でも、免疫系が低下しているのだ。

不正確な知識をより正確に訂正したり、不適切で誤解を招く表現をより文句の出ない適切なものに修正したりすることは、たぶん人間よりもChatGPTのような生成系人工知能の方が、ずっと上手に実行するようになるだろう。昔大学院の演習発表などで、指導教授に「なかなかよくまとまっている」と言われるのが何か褒め言葉のように思われていたが、適切な知識内容をいかにも研究論文らしくまとめるような言語活動は、まもなく機械によって完全に代行されることになるだろう、とぼくは思う。こうした主張も極端すぎて不適切と受け取る人もいるだろう。

しかし、室井さんのような研究者の追悼会にあれほど人が集まってくれたことは、適切性だけが基準とされる現在の知的環境を、多くの人が居心地の悪いものと感じているからではないのだろうか。東京から訪れたある同僚から、今どきどんな偉い先生が亡くなってもこれほどみんなが進んで集うような催しは行われない、という感想を聞いた。たしかに、葬儀は家族葬で終わってから簡単な通知が来て、そうかあの先生も亡くなったのかというようなことばかりである。追悼とか記念講演会のようなものは昔ほど開催されなくなったというのも、そうした催しは面倒だし、誰に登壇させ誰を招待するかなどの選択にいろんな配慮が働いて文句が出たり、ようするに不適切となる危険があるからやらない方がいい、という判断だろうか。だとすればここでも、適切性──というより単なるリスク回避──がすべてを支配しているわけである。