〈テクノ新世〉AIは「異星人の知性」

マルクス・ガブリエル氏に聞く　マルクス・ガブリエル – Wikipedia

人類をしのぐ知性を持つ機械の登場は、人間存在をめぐる根源的な問いも投げかけている。「『私』は脳ではない」などの著書で知られるドイツ・ボン大学の哲学者、マルクス・ガブリエル教授はブームを巻き起こす人工知能（AI）を「Alien Intelligence（異星人の知性）」と呼び、利用にあたっては倫理的知見の導入が不可欠と説く。

――テクノロジーの進歩があまりに速く、いずれ人間に制御できなくなるのではないかという懸念が広がっています。

「人間の知性の延長線上に脅威が生まれている。そのことを考える前に、『人間とは自然とテクノロジーの複合体である』という命題を整理しておく必要がある。我々は環境の中で生きる生物学的存在であるだけでなく、環境そのものを自ら生み出す存在でもある。テクノロジーを使って人間がおこなっているのは環境を造り替えることだ」

「たとえばAIは人間の知能を拡張する。原子力も『物理の現象を人間の環境に拡張したテクノロジー』とみることができる。これらのテクノロジーはあくまで人間や火を模倣したモデルにすぎないのに、我々はこれを実際の自然と混同してしまっている」

「現実はきわめて複雑なものであるにもかかわらず、現代人は科学によってすべてが説明できると信じきっている。現実や自然はそんなたやすい代物ではない」

――特に「Chat（チャット）GPT」などの生成AIに対する脅威論が高まっています。

「AIの驚くべき点は、我々の身の回りの環境に知性を与え、人間と相互作用する存在であるということだ。我々はよく『宇宙人が来たらどうなるんだろう』と考える。同じことがAIという非生物的なモデルの普及によって実際に起きている」

「だから私は『人工知能（Artificial Intelligence）』を『異星人の知性（Alien Intelligence）』と呼ぶことにしている。我々の理解が及ばない存在を、我々自身が生み出したことに恐ろしさを感じる」

「チェスや囲碁でAIがプロ棋士に勝利を収めたとしても、それは人間が生み出したゲームで機械が優れたプレーをしたにすぎない。AIにチェスや囲碁を発明することは不可能だ。機械は自立的には何もできない。そこに限界がある」

「だからAIの脅威とは何かといえば、それは悪用だ。人間の悪が増強され、独裁や犯罪などに使われる事態こそ恐ろしい。高度なテクノロジーを手にしたからといって、人間が倫理的な存在になるわけではない。科学とは別の知見が求められている。AIについて言えば『プライバシーを侵害してはならない』といった普遍的な倫理原則と、各国・地域にあるローカルな倫理の組み合わせによって対応することになるだろう」

――IT（情報技術）が監視社会や全体主義を生み出す心配もあります。

「現代社会では全てが記録されている。検索・閲覧履歴が積み上がるデジタル空間や街中に設置された監視カメラによって、自分の行動が全て見られているのだ。人間の行動を捕捉しコントロールすることは、いつの時代も全体主義の夢だった。それが技術的に可能となる時代に近づいている今、テクノロジーは全体主義の担い手になったとみることもできる」

「たとえば新型コロナウイルス禍の際に利用された接触確認アプリのようなデジタル技術は、本来は全体主義とは無縁のものだ。だが権力者はこうした技術を使って我々の健康状態を観察し、自由を制限することもできる」

「こうして便利で人間を幸福にしてくれるはずのテクノロジーが無価値なものへとすり替わってしまう恐れがある。しかもそんな価値の転倒がきわめて簡単に起こりうることに注意が必要だ」

――そうした状況を監獄の監視システムであるパノプティコン（※）に例える人も少なくありません。

「人間の行動を企業の利益にかなうようにコントロールする監視資本主義をはじめ、現実はパノプティコンより悪い状況に進んでいる。たとえば米グーグルは利用者の検索履歴を測定・分析し、人々は検索結果という答えを手にして都市に集まる。その結果、街の様子も変化していく」

「我々の欲望は今や、監視資本主義のシステムにつくり出されているといえる。監視者はスマートフォンという独房にいる人々に情報を送り、特定の行動をするよう促してくる。スマホの利用者は監視者の意図がわからないまま無意識に動かされている。この新しいパノプティコンは非常に強力だ」

――ITによってかえって社会の分断や対立が生まれているという指摘もあります。

「歴史上、極端な政治的主張は常に存在してきた。だがSNSをはじめとするデジタル空間では、あたかも2つの選択肢しか存在しないかのように大衆が二極化してしまっている」

「SNSでは自分と似た意見ばかりが目に入りやすい傾向がある。反対意見や異論が排除される結果、対立がエスカレートしやすい。中絶やジェンダー、環境問題などをめぐるネット上の議論を見ればわかるだろう。デジタル空間には中立的な判断を下す裁判官は存在しないのだ」

「この状況は英作家ジョージ・オーウェルのディストピア小説『一九八四年』（※）を思い起こさせる。オーウェルはこの小説で、人々を常に見張っている架空の独裁者『ビッグ・ブラザー』が統べる全体主義社会を描いた。SNSで起きている分断を見ていると、誰もが過激主義者やビッグ・ブラザーになる可能性が潜んでいると思わずにはいられない」

――科学万能主義への懐疑論も出ています。

「哲学者ニーチェは『神は死んだ』と述べてニヒリズム（※）を唱えた。また自然主義（※）は神や精霊などの存在を前提とする前近代の世界観の否定から生まれた。非物質的な世界を非科学的として退けるこれらのイデオロギーを、私は根本から否定する。数学や物理学の方程式で解明できる事象は、現実のほんの一部でしかないからだ」

「近代はテクノロジーの発展が多大な利益をもたらす一方、戦争や巨大事故などを引き起こし無数の人々を死に追いやった時代でもある。科学を万能とする考え方には正と負の両面があることを忘れてはならない」

「『自然は予測やコントロールが可能だ』という考え方が生み出した問題の顕著な例が環境問題だ。原子力発電や二酸化炭素回収などのテクノロジーで問題がすべて解決できるなら素晴らしい。だが環境の危機に対応するには、人間中心の考え方そのものを改め、科学万能主義とは異なる道を探らなければならない」

「私は『人間的なテクノロジー』の発展を推奨している。人間はただ生き延びられればいいという存在ではない。あらゆる技術は人間の利益に完全に沿うものでなければならない。我々は（テクノロジーに対して）倫理的な便益をもたらすことさえ欲しているのだ」

――人間の偉大さは科学的な知を生み出すことだけではないということですか。

「人類の祖先はアフリカを北上し、長い旅をして日本やポリネシアといった島々にまでたどり着いた。これは現代のテクノロジーの発明などよりはるかに大きな偉業だ。想像を絶する困難を乗り越えられたのは、人間が心の奥深くで神や精霊などの超越的な存在を信じ、より善く生きる努力をしてきたからだと私は考えている」

「ニヒリズムは『人間が存在することに意味はない』という。だが、私たちが生まれてきたことに意味があろうがなかろうが、神が存在しようがしまいが、我々は道徳的真実を見つけ出し、それを実践しなければならない。我々には未来を守る義務がある。それが『人生の意味とは何か』という問いへの私の答えだ」

（聞き手は渡部泰成）

Tweet

Pocket