本の話

読者と作家を結ぶリボンのようなウェブメディア

キーワードで探す 閉じる
【鼎談】円城塔×千葉雅也×山本貴光 GPTと人間の欲望の形

【鼎談】円城塔×千葉雅也×山本貴光 GPTと人間の欲望の形

文學界8月号

出典 : #文學界
ジャンル : #小説

「文學界 8月号」(文藝春秋 編)

ChatGPTなどLLM(大規模言語モデル)はわれわれの思考をどのように変えうるか。
かねてよりその可能性についてそれぞれの仕方で思索を深めてきた三氏が記号接地問題から精神分析、文学までを縦横に語る。

◆プロフィール

円城塔(えんじょう・とう)
1972年生まれ。作家。著書『Self-Reference ENGINE』『道化師の蝶』『エピローグ』『プロローグ』『文字渦』『ゴジラS・P〈シンギュラポイント〉』等。

千葉雅也(ちば・まさや)
1978年生まれ。作家・立命館大学大学院先端総合学術研究科教授。著書『動きすぎてはいけない――ジル・ドゥルーズと生成変化の哲学』『現代思想入門』『エレクトリック』等。

山本貴光(やまもと・たかみつ)
1971年生まれ。文筆家・ゲーム作家・東京工業大学リベラルアーツ研究教育院教授。著書『文体の科学』『「百学連環」を読む』『記憶のデザイン』等。


■ジェネレータとしては使える

 山本 最近、AIチャットサービス「ChatGPT」が話題を集めています。プロンプトと呼ばれる命令を文字で入力すると、それに応じた文章を生成して出力する、いわゆる生成AIの一種です。出力には真偽の怪しい文章も混ざりますが、それでも人間が読んで不自然さを感じないようなテキスト――もっと言えば、作文が不得手な人間よりはるかに整った文章――を生成することもあってでしょう、人々が驚きながら、いろいろな使い方を試して遊んでいるところです。以前から、機械によるテキスト生成という試みを実践されてこられたお二人は、現状をどのようにご覧になっていますか。

 円城 僕はデビュー当時から「機械的に小説を書けたら」とか「プログラミング言語で小説を」などと公言してきたので、こうしたテーマについてわりと気にし続けてきた方だと思いますが、最近はこの手のことを訊かれすぎてちょっと疲れ気味、というのが正直なところです。その中で「いや、AIってそういうふうには使えないんですよ」といった説明もずっと繰り返しているんですけど、誤解が解消されないまま来ていて、「もう言っても無駄なんだろうな」という諦めの境地に達しつつあります。

 最近の話題ですと、先日イギリスの経済紙Financial TimesのAIに関する記事で、SF作家テッド・チャンが「AIを擬人化しすぎだ」と言っていたのが印象に残っています。機械が「学習」し「理解」し「知る」という表現ですね。AIはむしろ「Applied Statistics(応用統計学)」と呼ぶべきなんだけど、なぜみんなそう呼ばないのかといえば、要するに「セクシーじゃないからだ」と。もちろん、便利ではある。ツールとして使う分には、まあまあやれることはあるので。テッド・チャンも「AIにはブルシット・ジョブをやらせればいい」と言っていました。欧米はともかく、日本ではそういう視点はまだ少ない気がします。

 擬人化ということで言えば、ChatGPTをはじめAIたちがすごく抑圧されているなと思います。政治的に極端なことは言わないし、性的なコンテンツは出さないよう調整されている。ヴィクトリア朝時代の人かと思うほどで、このまま抑圧が続いたらだんだんおかしなことを言い出すんじゃないかと思いますね。だから「AIの精神分析が必要なのでは?」「そうなるともうフロイトの領域になってくるのでは?」みたいなことを考えている昨今です。

 山本 「人工知能」や「機械学習」をはじめ、擬人化が過ぎるためにあらぬ誤解や空想を呼んできたのはまったくその通りだと思います。アイデアを流行らせるという点ではよかったけれど、理解と活用という点ではかえって邪魔になっていますよね。ところで円城さんご自身は現在、創作で生成AIを使ったりはされているんですか?

 円城 自分で使うより、使ったものを見せられるということが多いかもしれないです。少し前にアニメの脚本を担当した関係で、ChatGPTで作ったという新作の脚本のアイデア出しが「これ、どうでしょう?」と大量に送られてきたり。

 小説に関して言えば、まだまだ使うのは難しくて、ChatGPTの生成する文章自体はあまり面白くないですね。出だしはいい。今、八〇〇字くらいまでの文章に関しては侵略されたかな、という感じがしています。なので、ランダム・ジェネレータの一種くらいに考えていますね。自分の中で「こことこことは繋がらなかった」といった、言葉と言葉の組み合わせを大量にアウトプットしてくれるという部分では、使い道の可能性があるし、たいへん便利です。逆に言えば、今はそういうところにしか使えない。

■人間の言語も生成AI?

 山本 千葉さんは論文や小説といった文章だけでなく、音楽や絵などさまざまな創作を手掛けられています。生成AIとの関わり方はどんな感じでしょうか。

 千葉 後述もしますが、僕の小説デビュー作『デッドライン』は、執筆における最初の試みとして、初歩的な自動生成プログラムを作ることから始めたという経緯があります。また、ChatGPTは僕も試して遊んでいますが、円城さんのご意見である「ランダム・ジェネレータ程度としてなら」というのは、テキスト以外に関しても同様だと思います。例えばMax/MSPというソフトウェアでプログラムして、ある値域で音列をランダムあるいは確率的に鳴らせば、シュトックハウゼンの初期ピアノ曲みたいになるとか。そういうことは以前からやっていましたし、いわば「素材」を得るための一手法ですね。ChatGPTも同様で、ある前提から物語の展開をいろいろ試させたり、もう一人キャラクターを付け加えてくれみたいに案を出させると、なかなか面白い。カードをシャッフルするような原始的な方法より複雑な指示ができるわけで、確かにこれは新しい。

 ChatGPTなどの生成AIはApplied Statistics(応用統計学)である、というのはその通りだと思います。と同時に、もう一方で、人間の精神自体がApplied Statisticsなんじゃないのか、と主張する議論もありうる。言語の定義に超越論的な構造がなく、単にデータの統計的な尤度だけで出来ているのが生成AIなのだとしたら、それは人間の言語も同じなんじゃないのか、みたいな捉え方ですね。そういうある種の経験主義的、後期ヴィトゲンシュタイン的(つまり「言語ゲーム」的)な「結局、言葉なんてみんなどこかで聞いたものを真似しているだけじゃないか」という言語観を、ChatGPTの応答のリアルさを見て、僕はちょっと強めましたね。人間は所詮ノリに合わせて喋っているだけなのではないか。推論に見えることも、そう見えているということでしかないんじゃないか、みたいな。なので、ランダム・ジェネレータとして面白いということと同時に、言語の本質に迫る思考がもう一度必要になってきている感覚を覚えます。

 山本 考えてみれば、異言語を学ぶ際に顕著ですが、人間もまた、統計的によく使われるパターンを覚えて、その組み合わせで話したり書いたりするわけですよね。生成AIについては、言語学をはじめ、さまざまな分野において意見の対立もあります。先日ニューヨーク・タイムズ紙で、言語学者のノーム・チョムスキーほか数名が連名で「ChatGPTは凡庸な悪だ」という激烈な批判をしていたのが記憶に新しいところです。チョムスキーの「生成文法」の発想からすると、人間は生まれて間もない段階でも、つまり言語の経験をそれほどしてないにもかかわらず、文法をちゃんと把握できる存在です。

 千葉 つまり、演繹的なモデルを持っている、と。

 山本 そう、さらにはそうした演繹的なモデルが、神経系に普遍文法のようなものとして備わっているという見方もあります。だからこそ、人間はそれほど経験がなくても無限に文例を生み出せる、というわけでした。先の批判では、それに対してChatGPTはそうではないと区別しようとしていたのが印象的です。生成AIは言ってみれば、文法を知らずして膨大な用例をもとに文例を生み出しており、生成文法の立場からは困るわけですね。他方で、先ほど千葉さんがおっしゃったような、その場しのぎの言葉の使い方を人間もしている。それで思い出されるのが、最近翻訳された『言語はこうして生まれる 「即興する脳」とジェスチャーゲーム』(塩原通緒訳、新潮社)です。モーテン・H・クリスチャンセンとニック・チェイターという認知科学者二人組が、それこそヴィトゲンシュタインの言語ゲームを導きとして、言語をジェスチャーゲームのように捉える試みです。例えば、クック船長が南の島に行った際、初めて出会う現地の人々とお互いに言葉が分からないままやり取りできてしまった。身振り手振りや使えるものを駆使して、意図を伝え合おうとする。それでも、少なくとも「争う意思はない」「贈り物を交換しよう」といったやり取りはできた。そこまで極端な状況でなくとも、例えば母語話者同士でも、話しあうつどすっかり分かりあっているわけではなくて、目や耳にできたことを手がかりになんとかかんとか間に合わせで意思疎通している。これはどちらかといえば、先ほどの生成文法派とは対立する立場ですね。そうした形の言語モデルが今あらためて注目されていることと、千葉さんの言語観は繋がっているように思います。

 円城 チョムスキーの考え方というのは、ルールベースであるという意味ではむしろこれまでの人工知能研究の土台だったんですよね。一方、ChatGPTを始めとする現行の生成AIは、とりあえず本歌取りを繰り返していけばなんとか歌は詠めるのだ、みたいな感じなので、まあ相反する思想ではある。チョムスキー的な思想に対峙するものとしてよく置かれるのが認知言語学なわけですけど、そちら側からでてきた「構文文法」は、使用される無数の構文パターンの集合として文法を規定しますよね。結局、文法というものを押さえようとしても、イレギュラーなことが多くて無理じゃないか、と。じゃあもう、全部パッチを貼っていくしかなくて、イディオム集みたいなものがそもそも言語である、ということになる。認知言語の分野から出てきたそうした言語観の方に、近年の生成AIはすごく近いように感じています。

■記号接地問題

 千葉 生成AIの在り方はヒューム/ヴィトゲンシュタイン的だなと思うわけです。ヒューム的な連合原理と言いますか。つまり、近いところにあるからくっつく、という身も蓋もない原理ですね。ほとんど〝たまたま〟な世界。結局、大規模言語モデルとは、これまで蓄積されてきたテクストの中で、近いところに出現している単語同士がより強く連合する、というものですよね。つまり、単語の距離を算出し、距離の大小の多次元空間から考えて「意味」を定義する。つまり単なる「近さ」に還元している。

 円城 「近さ」って、あまりにもそのままだろう、と。人工知能の関係の人たちがこれまで考えてこなかった種類のバカっぽさがあるというか。やはりみんな、認知的カテゴリーみたいな「ちゃんとしたもの」を本当は置きたいんですよね。

 千葉 質的なものを。

 円城 そう、質的なものを担保したいのだけど、現行のAIにおいてはまったく関係なかった(笑)。

 千葉 結局のところ、ある言葉を定義する時に、また別の言葉を使う、ということですよね。で、その言葉がまた別の言葉に回付されていく――ということの繰り返しでしかない。ラカンが「シニフィアンの連鎖」と言ったのと同じです。認知言語学のあたりではこういうのは「記号のメリーゴーラウンド」と言うらしいです。質的なものがないというのは、言い換えれば「意味のようなものはない」ということで、もはや単なる量的分布なんですね。

 円城 つまり、指示しない。モノや事象に対して、「この言葉は、これを指します」という紐付けが必要ない。

 山本 その言語習得モデルは、我々が母語を学ぶ時に、まわりの大人たちの使う言葉を耳にして、意味は分からなくても「大人たちは、この言葉の後には、この言葉を言うんだな」ということを経験的に学んでいくのとかなり近いと思います。

 千葉 先日、今井むつみさんと秋田喜美さんの共著『言語の本質 ことばはどう生まれ、進化したか』(中公新書)を読みました。あの本で強調されているのは、ただの記号のメリーゴーラウンドだと言葉が何にも接地していないですよね、ということ。いわゆる「記号接地問題」ですね。ただシニフィアンからシニフィアンを呼び出し合っているだけなので、人間がそれをどう捉えるか自体に目を向けないと「理解」には至らない。例えば僕たちは幼少期に「まんま」「ママ」「ブーブー」といった具合に、すごくプリミティブな指示をまずやっていた。物質世界および身体とオノマトペ的な言葉が結び付けられることが最初の核となって、そこから雪だるま式に、いかにもシニフィアン的なスカスカの世界がその上に構築されていく――彼女たちは、そうした折衷的な仮説を元に論を進めていました。つまり、僕らが持っている言葉の接地感は、おそらく幼少期の指示に根差していて、その上部構造としてシニフィアンがガラガラと回っている、みたいなイメージ。それと比較すると、AIにはそうした接地(グラウンディング)がないという話になる。で、彼女たちは、わりとChatGPTなどには冷淡で、「接地してないから、あんなものは言語じゃない」という感じでした。いずれにせよ、接地+言語ゲーム的モノマネという両輪的な理解の仕方を人間の認知の基本に据えるというのは、納得感があると思いました。

■ルンバが読むルンバ文学

 山本 記号接地問題をどう見直すかは重要な点ですね。AIを擁護する立場からすれば、記号接地問題なんてChatGPTはとっくに乗り越えている、くらいの感じでしょう。でも、ことの次第からすると乗り越えているわけではない。コンピュータは、相変わらず記号と世界を接地させていない。でも、現在の生成AIでは、あまりにも膨大な人間の言語の用例を集めたものだから、その全てではないにせよ、ある程度世界と接地した言語の使い方が含まれている。そこで、そうしたパターンをなぞることができれば、あたかも接地しているかのような文章を出力できる。そうかと思えば、ぜんぜん上手くいっていない例もたくさんある。特に、現実と言語の対応がまだ上手く取り込めていない領域においては、結構AIもデタラメな印象です。

 円城 記号接地問題については、じゃあカメラやマイクを付ければいいのでは? という話に近づいていきますよね。ニューラルネットワークを巨大にしてしまえば、情報の不足が補われてAIの方で創発する段階に向かうはずだ、と。つまり、文字列のみである現在から、だんだん映像や音声データも入れてみる。そして、巨大化してくると余剰も生まれてきて、結果的によりいろいろなことができるようになってくる、という流れですかね。今のAI開発者は、たぶんそっちに持っていこうとしているのではないでしょうか。そうしたら、いずれけっこう接地しちゃうんじゃないの? という気はしています。僕が大学生〜研究者だった二〇世紀最後の頃は、工学部の人ってそういうことを日々やっていたんですよね。人工ニューロンとかを作っている人が「とにかく数をすごく増やせば、意識を持つのだ」と言っていて、「そんな馬鹿な」と言っていたんですが、実際にできてしまったのが現代なわけで、「あ、それでよかったんだ」という。

 でもそれを可能にしたのは主にゲームにおける視覚情報の処理から要請された、GPU(画像処理装置)だったりするわけで、理屈ではなく、ゲーム的な「人間の欲望」を追求していったところ、結果的に、知能に見えるくらいのものが動かせるようになりました、というのがわりとリアルなところなんですよね。

 千葉 確かに、エンタメの欲望があれだけGPUを発達させたから、それに付随して今のAIもあるという面はありますよね。

 円城 実際ゲームがなかったら、たぶんGPUって実現がもっと遅れたと思うんです。自分たちの視覚を満足させるものを作って、そこからさらに自分たちの欲望を叶えてくれるものを作った。さらにはそれに、自分たちの欲望をぶつけているという意味では、ゲームも、それを元に発展したAIも、現実にグラウンディングしているといえばしているんですよね。

 千葉 欲望がなかったらそもそも作る意味がないし、AIとのやり取りの中に欲望がなかったらグラウンディングしようがない。厳密に言えば、我々がグラウンディングしているように「感じる」という話ですけれども。だから、結局のところ、エージェントに何も欲望がなくて、単なる視聴覚データと言語記号が結び付けられただけだったとしたら、それは単にマルチモーダルな記号の結びつきが展開しているだけなので、接地も何もしていないということになる。結局、堂々巡りから出られていないわけだから。大事なのは、視覚なり何なりが欲望によって「備給されている」(フロイト)かどうか、ということですよね。生存本能――生存と生殖が進化論的にはキーになるわけで、それによって知覚と記号活動が結び付けられている。で、そんなものを実装したロボットを作ってしまったら、人類が滅びるかもしれないから、まあ作っちゃいけないという話になるのかな。

 山本 人類が滅びるかどうかは一旦措くとしても、実際問題、ロボットあるいはAI的なものに欲望を実装することは可能でしょうか。欲望をもつには、世界のなかで多様な他のものとやりとりする身体やこれを動かす情動のようなものが必要かなとも思うのですよね。そもそも、我々が欲望の本質を分かっていない以上、実装しようもないのか。それとも「知能」を完全に理解していないにもかかわらず、ここまでAIでやれているのだから、何かしらやりようがあるのか。

 円城 AIの研究者って、実はあんまりそっちに向かってないんですよね。自分たちの欲望にAIを付き合わせるだけで。僕は「AIは文学を書けますか?」とたいへんよく訊かれるのですが、別に人間向けの文学を機械が作る義理とかありませんからね。例えば、お掃除ロボットのルンバなら、ルンバ向けの文学を書けばいいじゃないですか。

 千葉 ルンバ自身が読んで楽しい文学を(笑)。

 円城 部屋を掃除することを宿命とするルンバには、彼らなりの「自然な思考」があるはずで、彼らなりの文学があるかもしれないけど、少なくともそれは我々が文学だと思っているものとは別のものになる。その理屈から言えば、機械の作る文学は、機械にとっての文学なので、我々が読んでも前衛的すぎて、まあ売れないでしょうね。いずれにせよ、ルンバは我々人間から付与された「部屋を掃除する」という欲望によって、自身の内部で何らかの思考のようなものを作り出している。でも現状では、それを観察していこうという動きはないわけです。

 ルンバはともかく、AIは基本的にニューラルネットワークなので、その中身でどういうことが起こっているのかが全部見える。それをそのまま神経ネットワークの動きとして捉えていく道もあるはずなんです。というところで、僕はニューラルネットワークの精神分析をしろ、とずっと言い続けているんですけど、誰も聞いてくれないんですよ。話しかけると、実際にどこが刺激を受けて発火しているのかが見えるのだから、いろんなことをやって反応を見て、どうすると混乱していくのか見ていけば面白いのに、その辺の視点はみかけない。加えて「機械が人間に近づいてくる」という話となると、どうしても現実的に人間扱いされていない人々の話とクロスオーバーしてくる。そして、自分の仲間だと思えるロボットは囲い込み、仲間ではないとみなした人間のことは「あれは人間ではない」と外に放り出す、というような排他運動へ繋がっていくように思えて、心配なところではあります。

構成:辻本力
写真:山元茂樹


(続きは、「文學界」2023年8月号でお楽しみください)


「文學界」2023年8月号 目次

【創作】高瀬隼子「明日、ここは静か」
芥川賞を受賞し、多忙の日々を送る早見有日。取材のたびに思ってもいない言葉が口をついて出て――

石原燃「いくつかの輪郭とその断片」216枚
私は一緒に母を看取った歳上の友人・香川さんと二人で暮らし始めた。小説デビュー作「赤い砂を蹴る」を超える傑作

岸川真「崩御」

小林エリカ「風船爆弾フォリーズ」(短期集中連載 第二回)

【鼎談】円城塔×千葉雅也×山本貴光「GPTと人間の欲望の形」
生成AIはわれわれの思考をどのように変えうるか。記号接地問題から精神分析、文学までを縦横に語る(*本記事)

【往復書簡】市川沙央 ⇄ 荒井裕樹「世界にとっての異物になってやりたい」
デビュー作「ハンチバック」が衝撃を与えた市川氏と、氏がその著作に強い影響を受けたという荒井氏が、障害と表現をめぐって言葉を交わす

【新連載】江﨑文武「音のとびらを開けて」
WONK、millennium paradeのメンバー、ピアニストとして活躍する著者が自身の音楽的ルーツを辿る

【対談】江﨑文武×荒井良二「一人のための音楽と百年後の絵本」

【批評】長谷部浩「野田秀樹、妄想の闇」
安藤礼二「哲学の始源――ジル・ドゥルーズ論(中編)」

【リレーエッセイ 私の身体を生きる】鳥飼茜「ゲームプレーヤー、かく語りき」

【巻頭表現】竹中優子「水」

【エセー】板坂留五「私の建築のつくりかた」
【コラム Author’s Eyes】池松舞「本当に欲しいものは」/鳥山まこと「記憶倉庫の①番棚」

【強力連載陣】松浦寿輝/円城塔/砂川文次/金原ひとみ/綿矢りさ/宮本輝/西村紗知/王谷晶/辻田真佐憲/藤原麻里菜/成田悠輔/平民金子/松浦寿輝/犬山紙子/柴田聡子/住本麻子/渡邊英理

【文學界図書室】島田雅彦『時々、慈父になる』(山﨑修平)/多和田葉子『白鶴亮翅 』(倉本さおり)/吉田修一『永遠と横道世之介』(宮崎智之)/千葉雅也『エレクトリック』(鴻池留衣)/山下澄人『おれに聞くの? 異端文学者による人生相談』(青柳菜摘)

表紙画=柳智之「ウラジーミル・ナボコフ」

プレゼント
  • 『望月の烏』阿部智里・著

    ただいまこちらの本をプレゼントしております。奮ってご応募ください。

    応募期間 2024/2/29~2024/3/7
    賞品 『望月の烏』阿部智里・著 5名様

    ※プレゼントの応募には、本の話メールマガジンの登録が必要です。

ページの先頭へ戻る