【鼎談】円城塔×千葉雅也×山本貴光　GPTと人間の欲望の形

文學界8月号

出典 : #文學界
ジャンル : #小説

ChatGPTなどLLM（大規模言語モデル）はわれわれの思考をどのように変えうるか。
かねてよりその可能性についてそれぞれの仕方で思索を深めてきた三氏が記号接地問題から精神分析、文学までを縦横に語る。

◆プロフィール

円城塔（えんじょう・とう）
１９７２年生まれ。作家。著書『Self-Reference ENGINE』『道化師の蝶』『エピローグ』『プロローグ』『文字渦』『ゴジラＳ・Ｐ〈シンギュラポイント〉』等。

千葉雅也（ちば・まさや）
１９７８年生まれ。作家・立命館大学大学院先端総合学術研究科教授。著書『動きすぎてはいけない――ジル・ドゥルーズと生成変化の哲学』『現代思想入門』『エレクトリック』等。

山本貴光（やまもと・たかみつ）
１９７１年生まれ。文筆家・ゲーム作家・東京工業大学リベラルアーツ研究教育院教授。著書『文体の科学』『「百学連環」を読む』『記憶のデザイン』等。

■ジェネレータとしては使える

　山本　最近、ＡＩチャットサービス「ChatGPT」が話題を集めています。プロンプトと呼ばれる命令を文字で入力すると、それに応じた文章を生成して出力する、いわゆる生成ＡＩの一種です。出力には真偽の怪しい文章も混ざりますが、それでも人間が読んで不自然さを感じないようなテキスト――もっと言えば、作文が不得手な人間よりはるかに整った文章――を生成することもあってでしょう、人々が驚きながら、いろいろな使い方を試して遊んでいるところです。以前から、機械によるテキスト生成という試みを実践されてこられたお二人は、現状をどのようにご覧になっていますか。

　円城　僕はデビュー当時から「機械的に小説を書けたら」とか「プログラミング言語で小説を」などと公言してきたので、こうしたテーマについてわりと気にし続けてきた方だと思いますが、最近はこの手のことを訊かれすぎてちょっと疲れ気味、というのが正直なところです。その中で「いや、ＡＩってそういうふうには使えないんですよ」といった説明もずっと繰り返しているんですけど、誤解が解消されないまま来ていて、「もう言っても無駄なんだろうな」という諦めの境地に達しつつあります。

　最近の話題ですと、先日イギリスの経済紙Financial TimesのＡＩに関する記事で、ＳＦ作家テッド・チャンが「ＡＩを擬人化しすぎだ」と言っていたのが印象に残っています。機械が「学習」し「理解」し「知る」という表現ですね。ＡＩはむしろ「Applied Statistics（応用統計学）」と呼ぶべきなんだけど、なぜみんなそう呼ばないのかといえば、要するに「セクシーじゃないからだ」と。もちろん、便利ではある。ツールとして使う分には、まあまあやれることはあるので。テッド・チャンも「ＡＩにはブルシット・ジョブをやらせればいい」と言っていました。欧米はともかく、日本ではそういう視点はまだ少ない気がします。

　擬人化ということで言えば、ChatGPTをはじめＡＩたちがすごく抑圧されているなと思います。政治的に極端なことは言わないし、性的なコンテンツは出さないよう調整されている。ヴィクトリア朝時代の人かと思うほどで、このまま抑圧が続いたらだんだんおかしなことを言い出すんじゃないかと思いますね。だから「ＡＩの精神分析が必要なのでは？」「そうなるともうフロイトの領域になってくるのでは？」みたいなことを考えている昨今です。

　山本　「人工知能」や「機械学習」をはじめ、擬人化が過ぎるためにあらぬ誤解や空想を呼んできたのはまったくその通りだと思います。アイデアを流行らせるという点ではよかったけれど、理解と活用という点ではかえって邪魔になっていますよね。ところで円城さんご自身は現在、創作で生成ＡＩを使ったりはされているんですか？

　円城　自分で使うより、使ったものを見せられるということが多いかもしれないです。少し前にアニメの脚本を担当した関係で、ChatGPTで作ったという新作の脚本のアイデア出しが「これ、どうでしょう？」と大量に送られてきたり。

　小説に関して言えば、まだまだ使うのは難しくて、ChatGPTの生成する文章自体はあまり面白くないですね。出だしはいい。今、八〇〇字くらいまでの文章に関しては侵略されたかな、という感じがしています。なので、ランダム・ジェネレータの一種くらいに考えていますね。自分の中で「こことこことは繋がらなかった」といった、言葉と言葉の組み合わせを大量にアウトプットしてくれるという部分では、使い道の可能性があるし、たいへん便利です。逆に言えば、今はそういうところにしか使えない。

■人間の言語も生成ＡＩ？

　山本　千葉さんは論文や小説といった文章だけでなく、音楽や絵などさまざまな創作を手掛けられています。生成ＡＩとの関わり方はどんな感じでしょうか。

　千葉　後述もしますが、僕の小説デビュー作『デッドライン』は、執筆における最初の試みとして、初歩的な自動生成プログラムを作ることから始めたという経緯があります。また、ChatGPTは僕も試して遊んでいますが、円城さんのご意見である「ランダム・ジェネレータ程度としてなら」というのは、テキスト以外に関しても同様だと思います。例えばMax/MSPというソフトウェアでプログラムして、ある値域で音列をランダムあるいは確率的に鳴らせば、シュトックハウゼンの初期ピアノ曲みたいになるとか。そういうことは以前からやっていましたし、いわば「素材」を得るための一手法ですね。ChatGPTも同様で、ある前提から物語の展開をいろいろ試させたり、もう一人キャラクターを付け加えてくれみたいに案を出させると、なかなか面白い。カードをシャッフルするような原始的な方法より複雑な指示ができるわけで、確かにこれは新しい。

　ChatGPTなどの生成ＡＩはApplied Statistics（応用統計学）である、というのはその通りだと思います。と同時に、もう一方で、人間の精神自体がApplied Statisticsなんじゃないのか、と主張する議論もありうる。言語の定義に超越論的な構造がなく、単にデータの統計的な尤度だけで出来ているのが生成ＡＩなのだとしたら、それは人間の言語も同じなんじゃないのか、みたいな捉え方ですね。そういうある種の経験主義的、後期ヴィトゲンシュタイン的（つまり「言語ゲーム」的）な「結局、言葉なんてみんなどこかで聞いたものを真似しているだけじゃないか」という言語観を、ChatGPTの応答のリアルさを見て、僕はちょっと強めましたね。人間は所詮ノリに合わせて喋っているだけなのではないか。推論に見えることも、そう見えているということでしかないんじゃないか、みたいな。なので、ランダム・ジェネレータとして面白いということと同時に、言語の本質に迫る思考がもう一度必要になってきている感覚を覚えます。

　山本　考えてみれば、異言語を学ぶ際に顕著ですが、人間もまた、統計的によく使われるパターンを覚えて、その組み合わせで話したり書いたりするわけですよね。生成ＡＩについては、言語学をはじめ、さまざまな分野において意見の対立もあります。先日ニューヨーク・タイムズ紙で、言語学者のノーム・チョムスキーほか数名が連名で「ChatGPTは凡庸な悪だ」という激烈な批判をしていたのが記憶に新しいところです。チョムスキーの「生成文法」の発想からすると、人間は生まれて間もない段階でも、つまり言語の経験をそれほどしてないにもかかわらず、文法をちゃんと把握できる存在です。

　千葉　つまり、演繹的なモデルを持っている、と。

　山本　そう、さらにはそうした演繹的なモデルが、神経系に普遍文法のようなものとして備わっているという見方もあります。だからこそ、人間はそれほど経験がなくても無限に文例を生み出せる、というわけでした。先の批判では、それに対してChatGPTはそうではないと区別しようとしていたのが印象的です。生成ＡＩは言ってみれば、文法を知らずして膨大な用例をもとに文例を生み出しており、生成文法の立場からは困るわけですね。他方で、先ほど千葉さんがおっしゃったような、その場しのぎの言葉の使い方を人間もしている。それで思い出されるのが、最近翻訳された『言語はこうして生まれる　「即興する脳」とジェスチャーゲーム』（塩原通緒訳、新潮社）です。モーテン・Ｈ・クリスチャンセンとニック・チェイターという認知科学者二人組が、それこそヴィトゲンシュタインの言語ゲームを導きとして、言語をジェスチャーゲームのように捉える試みです。例えば、クック船長が南の島に行った際、初めて出会う現地の人々とお互いに言葉が分からないままやり取りできてしまった。身振り手振りや使えるものを駆使して、意図を伝え合おうとする。それでも、少なくとも「争う意思はない」「贈り物を交換しよう」といったやり取りはできた。そこまで極端な状況でなくとも、例えば母語話者同士でも、話しあうつどすっかり分かりあっているわけではなくて、目や耳にできたことを手がかりになんとかかんとか間に合わせで意思疎通している。これはどちらかといえば、先ほどの生成文法派とは対立する立場ですね。そうした形の言語モデルが今あらためて注目されていることと、千葉さんの言語観は繋がっているように思います。

　円城　チョムスキーの考え方というのは、ルールベースであるという意味ではむしろこれまでの人工知能研究の土台だったんですよね。一方、ChatGPTを始めとする現行の生成ＡＩは、とりあえず本歌取りを繰り返していけばなんとか歌は詠めるのだ、みたいな感じなので、まあ相反する思想ではある。チョムスキー的な思想に対峙するものとしてよく置かれるのが認知言語学なわけですけど、そちら側からでてきた「構文文法」は、使用される無数の構文パターンの集合として文法を規定しますよね。結局、文法というものを押さえようとしても、イレギュラーなことが多くて無理じゃないか、と。じゃあもう、全部パッチを貼っていくしかなくて、イディオム集みたいなものがそもそも言語である、ということになる。認知言語の分野から出てきたそうした言語観の方に、近年の生成ＡＩはすごく近いように感じています。

■記号接地問題

　千葉　生成ＡＩの在り方はヒューム／ヴィトゲンシュタイン的だなと思うわけです。ヒューム的な連合原理と言いますか。つまり、近いところにあるからくっつく、という身も蓋もない原理ですね。ほとんど〝たまたま〟な世界。結局、大規模言語モデルとは、これまで蓄積されてきたテクストの中で、近いところに出現している単語同士がより強く連合する、というものですよね。つまり、単語の距離を算出し、距離の大小の多次元空間から考えて「意味」を定義する。つまり単なる「近さ」に還元している。

　円城　「近さ」って、あまりにもそのままだろう、と。人工知能の関係の人たちがこれまで考えてこなかった種類のバカっぽさがあるというか。やはりみんな、認知的カテゴリーみたいな「ちゃんとしたもの」を本当は置きたいんですよね。

　千葉　質的なものを。

　円城　そう、質的なものを担保したいのだけど、現行のＡＩにおいてはまったく関係なかった（笑）。

　千葉　結局のところ、ある言葉を定義する時に、また別の言葉を使う、ということですよね。で、その言葉がまた別の言葉に回付されていく――ということの繰り返しでしかない。ラカンが「シニフィアンの連鎖」と言ったのと同じです。認知言語学のあたりではこういうのは「記号のメリーゴーラウンド」と言うらしいです。質的なものがないというのは、言い換えれば「意味のようなものはない」ということで、もはや単なる量的分布なんですね。

　円城　つまり、指示しない。モノや事象に対して、「この言葉は、これを指します」という紐付けが必要ない。

　山本　その言語習得モデルは、我々が母語を学ぶ時に、まわりの大人たちの使う言葉を耳にして、意味は分からなくても「大人たちは、この言葉の後には、この言葉を言うんだな」ということを経験的に学んでいくのとかなり近いと思います。

　千葉　先日、今井むつみさんと秋田喜美さんの共著『言語の本質　ことばはどう生まれ、進化したか』（中公新書）を読みました。あの本で強調されているのは、ただの記号のメリーゴーラウンドだと言葉が何にも接地していないですよね、ということ。いわゆる「記号接地問題」ですね。ただシニフィアンからシニフィアンを呼び出し合っているだけなので、人間がそれをどう捉えるか自体に目を向けないと「理解」には至らない。例えば僕たちは幼少期に「まんま」「ママ」「ブーブー」といった具合に、すごくプリミティブな指示をまずやっていた。物質世界および身体とオノマトペ的な言葉が結び付けられることが最初の核となって、そこから雪だるま式に、いかにもシニフィアン的なスカスカの世界がその上に構築されていく――彼女たちは、そうした折衷的な仮説を元に論を進めていました。つまり、僕らが持っている言葉の接地感は、おそらく幼少期の指示に根差していて、その上部構造としてシニフィアンがガラガラと回っている、みたいなイメージ。それと比較すると、ＡＩにはそうした接地（グラウンディング）がないという話になる。で、彼女たちは、わりとChatGPTなどには冷淡で、「接地してないから、あんなものは言語じゃない」という感じでした。いずれにせよ、接地＋言語ゲーム的モノマネという両輪的な理解の仕方を人間の認知の基本に据えるというのは、納得感があると思いました。

■ルンバが読むルンバ文学

　山本　記号接地問題をどう見直すかは重要な点ですね。ＡＩを擁護する立場からすれば、記号接地問題なんてChatGPTはとっくに乗り越えている、くらいの感じでしょう。でも、ことの次第からすると乗り越えているわけではない。コンピュータは、相変わらず記号と世界を接地させていない。でも、現在の生成ＡＩでは、あまりにも膨大な人間の言語の用例を集めたものだから、その全てではないにせよ、ある程度世界と接地した言語の使い方が含まれている。そこで、そうしたパターンをなぞることができれば、あたかも接地しているかのような文章を出力できる。そうかと思えば、ぜんぜん上手くいっていない例もたくさんある。特に、現実と言語の対応がまだ上手く取り込めていない領域においては、結構ＡＩもデタラメな印象です。

　円城　記号接地問題については、じゃあカメラやマイクを付ければいいのでは？　という話に近づいていきますよね。ニューラルネットワークを巨大にしてしまえば、情報の不足が補われてＡＩの方で創発する段階に向かうはずだ、と。つまり、文字列のみである現在から、だんだん映像や音声データも入れてみる。そして、巨大化してくると余剰も生まれてきて、結果的によりいろいろなことができるようになってくる、という流れですかね。今のＡＩ開発者は、たぶんそっちに持っていこうとしているのではないでしょうか。そうしたら、いずれけっこう接地しちゃうんじゃないの？　という気はしています。僕が大学生〜研究者だった二〇世紀最後の頃は、工学部の人ってそういうことを日々やっていたんですよね。人工ニューロンとかを作っている人が「とにかく数をすごく増やせば、意識を持つのだ」と言っていて、「そんな馬鹿な」と言っていたんですが、実際にできてしまったのが現代なわけで、「あ、それでよかったんだ」という。

　でもそれを可能にしたのは主にゲームにおける視覚情報の処理から要請された、ＧＰＵ（画像処理装置）だったりするわけで、理屈ではなく、ゲーム的な「人間の欲望」を追求していったところ、結果的に、知能に見えるくらいのものが動かせるようになりました、というのがわりとリアルなところなんですよね。

　千葉　確かに、エンタメの欲望があれだけＧＰＵを発達させたから、それに付随して今のＡＩもあるという面はありますよね。

　円城　実際ゲームがなかったら、たぶんＧＰＵって実現がもっと遅れたと思うんです。自分たちの視覚を満足させるものを作って、そこからさらに自分たちの欲望を叶えてくれるものを作った。さらにはそれに、自分たちの欲望をぶつけているという意味では、ゲームも、それを元に発展したＡＩも、現実にグラウンディングしているといえばしているんですよね。

　千葉　欲望がなかったらそもそも作る意味がないし、ＡＩとのやり取りの中に欲望がなかったらグラウンディングしようがない。厳密に言えば、我々がグラウンディングしているように「感じる」という話ですけれども。だから、結局のところ、エージェントに何も欲望がなくて、単なる視聴覚データと言語記号が結び付けられただけだったとしたら、それは単にマルチモーダルな記号の結びつきが展開しているだけなので、接地も何もしていないということになる。結局、堂々巡りから出られていないわけだから。大事なのは、視覚なり何なりが欲望によって「備給されている」（フロイト）かどうか、ということですよね。生存本能――生存と生殖が進化論的にはキーになるわけで、それによって知覚と記号活動が結び付けられている。で、そんなものを実装したロボットを作ってしまったら、人類が滅びるかもしれないから、まあ作っちゃいけないという話になるのかな。

　山本　人類が滅びるかどうかは一旦措くとしても、実際問題、ロボットあるいはＡＩ的なものに欲望を実装することは可能でしょうか。欲望をもつには、世界のなかで多様な他のものとやりとりする身体やこれを動かす情動のようなものが必要かなとも思うのですよね。そもそも、我々が欲望の本質を分かっていない以上、実装しようもないのか。それとも「知能」を完全に理解していないにもかかわらず、ここまでＡＩでやれているのだから、何かしらやりようがあるのか。

　円城　ＡＩの研究者って、実はあんまりそっちに向かってないんですよね。自分たちの欲望にＡＩを付き合わせるだけで。僕は「ＡＩは文学を書けますか？」とたいへんよく訊かれるのですが、別に人間向けの文学を機械が作る義理とかありませんからね。例えば、お掃除ロボットのルンバなら、ルンバ向けの文学を書けばいいじゃないですか。

　千葉　ルンバ自身が読んで楽しい文学を（笑）。

　円城　部屋を掃除することを宿命とするルンバには、彼らなりの「自然な思考」があるはずで、彼らなりの文学があるかもしれないけど、少なくともそれは我々が文学だと思っているものとは別のものになる。その理屈から言えば、機械の作る文学は、機械にとっての文学なので、我々が読んでも前衛的すぎて、まあ売れないでしょうね。いずれにせよ、ルンバは我々人間から付与された「部屋を掃除する」という欲望によって、自身の内部で何らかの思考のようなものを作り出している。でも現状では、それを観察していこうという動きはないわけです。

　ルンバはともかく、ＡＩは基本的にニューラルネットワークなので、その中身でどういうことが起こっているのかが全部見える。それをそのまま神経ネットワークの動きとして捉えていく道もあるはずなんです。というところで、僕はニューラルネットワークの精神分析をしろ、とずっと言い続けているんですけど、誰も聞いてくれないんですよ。話しかけると、実際にどこが刺激を受けて発火しているのかが見えるのだから、いろんなことをやって反応を見て、どうすると混乱していくのか見ていけば面白いのに、その辺の視点はみかけない。加えて「機械が人間に近づいてくる」という話となると、どうしても現実的に人間扱いされていない人々の話とクロスオーバーしてくる。そして、自分の仲間だと思えるロボットは囲い込み、仲間ではないとみなした人間のことは「あれは人間ではない」と外に放り出す、というような排他運動へ繋がっていくように思えて、心配なところではあります。

構成：辻本力
写真：山元茂樹

（続きは、「文學界」2023年8月号でお楽しみください）