おしゃべりなロボットとぼくらのエティカ・エロイカ

こんなツイートが目についた。

教育現場におけるAI騒ぎを見ていると、90年代初頭に教員をしていた方は当時のワープロ騒ぎを思い出すのでは？「ひらがなを打つだけで漢字が出て来るなんて！こんなものを使ったら漢字が書けなくなる。ワープロのレポートは禁止すべきだ」なんて…。そして実際に禁止した所もあった。→
— 安田登 (@eutonie) 2023年4月7日

今やワープロのレポートは当たり前の時代。なるほどかつては禁止もされたのだろう。禁止した人たちは、ワープロを使ってたり、使ってなかったりしたけれど、手書きじゃないとダメだという点では一致していた。そんな便利なものを使ったら堕落する。漢字が書けなくなるではないか。

たしかに漢字は書けなくなった。でもそれがどうしたのか。ぼくのときは卒論が手書き、修論はワープロで、その後の論文も原稿もすべてワープロ。手書きで提出なんてすることがない。それじゃ、字が書けなくなるかと言えば書けなくなるのだが、最近では、漢和辞典で書き順を確認し、字のなりたちに目を通する機会が増えた。

早く書くのはワープロにまかせる。近頃では音声入力なんかもできちゃうので、便利極まりない。あまった時間で、ちょっと高いペンを手に、ノートにゆっくり文字を書く。寄り道をしながらゆっくりとペンを走らせれば、書くことってこんなに楽しかったのかと認識を新たにしているところなのだ。

そもそも、グーテンベルグの活版印刷がなければ、宗教改革も遅れただろうし、新聞というメディアはどうなっていたか。科学技術というのはそういうものなのだ。技術というやつは、好むと好まざるに関わらず、どこか自律的なところがある。良い悪いの議論を超えてどんどん進化してゆく。理論的に可能だとなれば、誰かが実現してしまう。

原爆がそうだ。ドイツに先をこされるかもしれないと脅かせば、科学者たちは一致団結、リトルボーイとファットマンが広島と長崎に投下されたではないか。皮肉なことに、その被爆国では、プルトニウムの製造工場の平和利用がうたわれ、小型原子炉を心臓に持つロボット、鉄腕アトムをヒーローとして、未来に向けて飛び立たせようとしたわけだ。

長崎浩の『思想としての地球』によれば、科学技術はとりわけ２０世紀以降「盲目的に自己増殖するシステム」となったという。やっかいなのは、このシステムが内部に「大衆の行動様式」あるいは「欲望」が組み込まれていること。おそらく問題の所在は、」技術そのものというよりは、そこに組み込まれた「欲望」のほうなのかもしれない。

昔そんなことを考えたことあると思ったら、2014年に書いた自分のブログでした。しかもそのときも安田登さんの著作にあたっていた。なんという偶然。感謝。

hgkmsn.hatenablog.com

鉄腕アトムといえば、その心臓が小型原子炉だっただけではなく、「人間とほぼ同等の感情と様々な能力」を持っているという設定だった。だとすれば、アトムの人工的な知性や感情は、今話題の「ChatGPT」を連想させる。なにしろお茶の水博士は、アトムに人間的な情操教育をしようとしていたのだけれど、同じことをぼくらは「ChatGPT」に対して行おうとしているように見えるではないか。

その「ChatGPT」とは何か。これこそが、安田さんが「教育現場におけるＡＩ騒ぎ」と呼んでいるものの中心にある。イタリアではその利用を禁止したというし、大学関係ではこれからその対応に忙しくなるのだろう。たぶん、禁止を言い出すところも出てくるのではないだろうか。いずれにせよ科学技術は自律的であり、ぼくたちの「欲望」を取り込みながら、進歩してゆくことを止めることはできない。

その技術が独占的であるとか、プライバシーを監視しているとかいう議論は、どんどん出てきているけれど、少なくとも技術的な進歩を止めることできない。ぼくらはどこかで折り合いをつけながら、それと付き合ってゆくしかない。問題はどう付き合ってゆくかなのだ。

付き合うためには相手を知らなければならない。そもそも「ChatGPT」とは何か。まずは単語を分解しておこう。まずは GPT。これは Generative Pre-trained Transformer の略で、訳せば「事前に訓練された生成がた変換器」というところ。

また Chat は chat bot 〔ぺちゃくちゃ喋る（chatter）＋ロボット（bot = robot）〕のことで、ボット（ロボット）とは「一定の処理を自動化するアプリケーションやプログラム」のことなのだけど、実のところそれほど高度な計算をしていない。だから人工知脳をもじって「人工無脳」とも呼ばれているという。

そこに知脳はない。あるのは、あらかじめ組み込まれた情報にアクセスし、人間が自然と感じる回答を生成するプロセスだけ。「人間が自然と感じる」というところがポイントで、自然な回答が出てくるから、ぼくらはそこに「知脳」があると錯覚してしまうわけだ。しかし「知脳」はない。あるのは自動化プログラム（ボット／ロボット）だけ。ただし、そのプログラムは人間的な自然さでぺちゃくちゃ喋る（チャット）。だからチャットボットというわけだ。

なんだか手品みたいだけれど、手品のようにタネがある。タネはあっても、それはそれで面白い。面白けれど問題がないわけではない。手品が超自然現象を錯覚させるように、高度なチャットボットは「人間的な自然さ」を錯覚させる。そして、錯覚させるために平気で「嘘」をついてくる。政治家の息をするような「嘘」には自覚がある。それは姑息な戦略なのだ。しかしチャットボットの「嘘」には自覚がない。というかロボットは自覚しない。ただ反応しているだけだ。

「嘘」と見えるものは、実のところ「とりつくろい」にほかならない。それを「嘘」だと感じるのはこちら側であり、あちらにはその自覚はなく、そもそもそんなものは持たないものなのだ。ところが、この「とりつくろい」が曲者だ。なにせ言語の学習では「とりつくろい」が重要な要素になってくる。小さな子たちを考えてみればよい。彼らが言語を学ぶときは、それは言語的な「とりつくろい」から入ってゆく。こう言われれば、こいう返す。そうやって関係を構築してゆく。それが「とりつくろい」だ。

そして「とりつくろい」のなかでこそ、子どもたちはしばしば「嘘」をつく。嘘とは、その場をとりつくろうためにある。しかし、それが嘘だと指摘され叱られるとき、子どもたちは真実という領域の存在を知る。言語は「とりつくろい」のためにあるのだが、そこに「嘘」がしのびこむとき、言語的なコミュニケーションはその根本が揺らぐことになる。根本にあるのは信用だ。信用できなければ、コミュニケーションは成立しない。言語はもはや人間関係を「とりつくろう」ことができなくなる。

人は嘘をつくことができる。なぜなら言語には嘘をつく能力があるからだ。しかし、その能力によって言語は人間関係を「とりつくろう」。嘘をつく力こそは、言語の力にほかならない。「嘘」をつくなという命令は、その能力を発現させてはならないということだ。いつ発現させ、いつ発現させてはならないのか。

それがエートスといわれるものだ。エートス ( ethos) とは古代ギリシャ語で「いつもの場所」や「出発点」などの意味だったという。つまり、生身の人間がその場所にあって、どのように「とりつくろうか」が問われるところがエートスなのであり、ここから「習慣・特性」などを意味するようになり、やがて「道徳」や「道徳観の発露」を意味するエティカとなってゆく。

そこに「嘘」をつかないという選択が生まれるわけだが、ぼくらがこの選択、すなわちエティカを強いらるのは、生の体を持ち、そこで生きているからにほかならない。しかし、ボットには身体がない。生のまっとうする場所を持たないがゆえに、エートスがなく、エティカからは無縁の存在なのだ。

けれどもぼくらにはエティカがある。ぼくらの命に限りがあるからこそ、その場所に立って何をするか、何をしないかが問われることになる。ときには命を捨てることができるからこそ、ぼくらは英雄（エロエ）になることができる。ジョルダーノ・ブルーノの「エティカ・エロイカ」とはもしかするとそういうものなのかもしれない。

しかし、おしゃべりなロボットには捨てる命はない。したがって英雄になることもなければ、エートスを持つこともなく、あのデーターベース／マーケットとぼくらたちのあわいで、どこまでも「とりつくろい」を続けるしかない。