人工知能は人類存亡の危機をもたらすそうだ。ChatGPTの開発責任者サム・アルトマンやGoogle DeepMindのCEOデミス・ハサビスたちが、そういう共同声明を出したらしい。大袈裟だと笑う人もいるようだが、ぼくはその通りだと思う。と同時に、その危機を回避することは不可能だと思う。
新しい技術の拡大は常に人類存亡の危機を生み出す。一万年前、農耕文明は富の蓄積を可能にし、所有権と政治権力と戦争を生み出し、人類存亡の危機を作り出した。だが危機を生み出したのは農耕という技術それ自体ではない。人類がその技術を、ひたすら危機を増大させるような仕方でしか運用しなかったことによる。危機をもたらすのは技術ではなく、昔も今も人類自身なのである。
啓蒙時代の哲学者たちの期待に反して、人類はその科学技術的進歩に伴って道徳的には進歩しなかった。どちらかというと退歩した。教育が普及してもダメだったのだから、人類の道徳的レベルは当分変わりようがない（さらに一万年くらい経って人類の形質そのものが変化したら、もしかしたら変わるかもしれない。それまで人類が存続していれば）。
そういうわけでAIの運用がもたらす破壊的影響については、それが人類の本性に由来するものであるかぎり、技術自体を規制したり警鐘を鳴らしてもしょうがないという考えは、大学教育に関する問題以外においても変わらない。だから危機感を煽るよりも、存亡の危機は文明の初めからあるのだと諦めて、むしろ新たなテクノロジーがきっかけとなって露わになる人類の道徳的欠陥、つまり我々がいかに情けない存在であるかという教訓を、つぶさに知ることの方が大事だと思う。
ぼくにとって人工知能が面白いのは、それがいろんなことができるからではなくて、それによって人間がいかにダメな存在であるかということを、容赦なく暴き出してくれるからである。その意味で人工知能には道徳的な重要性がある。
たとえば最近話題になっている応用のひとつに、人工知能によって生み出されたグラビアアイドルの画像がある。『プレーボーイ』などの誌面から甘えるような視線で男性読者を誘惑する水着や下着姿の女の子たちである。名前も付けられ写真集も出ているらしい。人工知能によって生み出されたイメージに対して、性的な憧れを抱くのは変だとか恐ろしいとか感じる人がいる反面、可愛ければ人間か人工物かなんてどうでもいいと言う人もいる。後者の方が正直な反応だと思う。
これまでだって、いくら好きになっても読者のほとんどにとってその子と付き合える確率はほぼゼロなのだから、そもそも人間である必要はなかった。目的は雑誌が売れることであり、男性読者が惹きつけられる属性を深層学習してその目的に最適化した人工知能に、生身のアイドルが勝てるはずがない。これもまた、人工知能の導入によって、人間が能力の低い人工知能にすぎなかったことが明らかになる例の一つである。
こういうのはどちらかというと他愛のない部類に属する問題だが、もう少し重要な問題もある。先日の参議院選挙の期間中、いろんな地区で立候補者の顔が並んだ立て看板を眺めていると、もちろんそれらは単なる人物のポートレートではなく、すべて選挙用に作られたイメージではあるのだが、その中でも「日本維新の会」の立候補者の顔がとりわけ、まるで人工知能によって作られたように共通の特徴を持っているような印象を受けた。一様に爽やかな美男子、美人であり、英語圏でビジネススクールなどの経歴などがあり、実質的な政策の中身は何もなく、「身を切る改革」のような画一的な決まり文句しか言わない。
彼らはもちろん人工知能が生み出した存在ではないが、政策の議論などに関心のない有権者の票を一票でも多く獲得するために設計された候補者たちであり、いわば「選挙に勝つ」という目的に最適化した人工知能的な生成物である。そして実際に勝った。政治とは選挙に勝つゲームではないが、ゲームとしては、人工知能的な戦略が常に勝利する。このことが危機なのである。
そこから再び大学の状況に戻ると、人工知能それ自体の導入が危機なのではない。人工知能のように思考する人間が大学をコントロールするようになったことが危機なのである。学生を獲得したり、外部評価を上げたりするという経営的目標を設定し、それに最適化した組織「改革」や予算編成を行ない、その目的に明示的に寄与しないものをすべて「無駄」として排除すること、すべての活動を目標達成のための手続きに還元する思考が大学を支配してしまったことが、今の惨状を生み出しているのだと思う。要するに、危機をもたらしているのはコンピュータではなく、人間の姿をした人工知能なのだ。
