会社員を辞めて博士課程に編入学してからちょうど10年になった。辞めた当初は「会社員を辞めて研究に戻ってくる決断をした」というのが自分のアイデンティティの一角をなしていたけど、10年も経つとさすがにその感覚ももうなくて、自分はただの大学教員だと思っている。一方で、会社を辞めて戻ってきた直後に感じた「研究って本当に自分に合っているし楽しい」という気持ちは10年間経っても変わらず、あの時戻ってきて本当に正解だったな、と今でもつくづく感じている。で、この10年、世の中でも色々なことが起こったけど、特に近年の生成AI技術の急進歩と普及は、「自分には研究が向いている」という思いをますます強くするきっかけになっている。
生成AI技術、本当に便利だけど、本当に厄介だと思う。「便利」の側面はみんな承知で、自分も英文やコードを添削してもらったりして、研究がとても捗っている。反対に自分が「厄介」だと思っている側面が、「情報の正しさを検証するコスト」をとてつもなく高くしてしまいそうだということだ。
自分が好きな逸話の一つに「電卓が登場した当初、計算結果を信じられなくてそろばんで検算したい人のために、そろばん付きの電卓が存在した」というのがある。ここでのポイントは、電卓のアウトプットは、単なる数字なので、簡単にそろばんで検算できたということだ。だから、すぐにその正しさが検証できて（あるいはでたらめな電卓が淘汰されて）、電卓の存在は受け入れられた。生成AIの登場も、単純な用途に限定すれば、電卓の登場と状況が似ている。特に、英文やコードの添削であれば、出てきた英語やコードが正しいかどうかは、比較的簡単に検証できる。アウトプットが間違っていれば自分で直せばいいし、間違っていると指摘すれば修正案を生成してくれる。こういう使い方をしている限りは、生成AIは電卓的であり、とても便利なツールだと思う。
一方で、より複雑な情報を扱わせようとすると、話が変わってくる。最近自分に起こった印象的な一件がある。それは環境中のウイルスの研究で良く使われる手法をまとめた文章を読んでいた時のことだ。4ページ程度の英文だったのだけど、ちょうど自分が論文を書く中で知りたいと思っていた情報だったので、結構かじりつく感じで一生懸命読んでいた。「なるほど、よくまとまっているなー」とか思いながら、最後のページに差し掛かったところで、なぜかゲノム解析の話から情報セキュリティーっぽい話題になって、「？？？」となった。英文で読んでいたこともあり、自分が知らない英単語の使い方があるのかとか、自分が文脈を追い切れてないだけでゲノム解析ツールの情報リスクについて語っているのかとか、色々考えながら何度か同じ個所を読み直してみるのだけどやはり頭に入ってこない。で、そこから、その文章が本当に唐突に情報セキュリティーの話を始めていて、ウイルスとコンピューターウイルスを混同した生成AIによって書かれた文章だということに気が付くのにはさらに数分を要した。気が付いたときは、自分が「無意味かもしれない情報を納得しながら十数分一生懸命読まされていたこと」に衝撃を受けて「人生で初めてのこの屈辱を忘れてはいけない」という気持ちにさせられた。さらに気持ち悪かったのが、そのことに気が付いた後ですら、書かれた文章のどこがテキトーに書かれていてどこが真実なのかが分からなかったということだ。もちろん自分は専門家なので、ウイルスに関して書かれている部分は一つ一つ調べれば正しいかどうかは分かる。でもそれだったら最初から自分で調べたほうが早い。そして、コンピューターウイルスについて書かれている部分は、自分は専門外なので、そもそも正しい情報がどこにあるのか、何を検証すべきなのかすらよく分からない。だから、この文章がAIに書かれたものと知らなければもちろん、知っていたとしても疑うのはとても難しい。
この経験で感じたのが「それっぽい情報」を生み出すことができる生成AI技術の厄介さだ。「それっぽい」は「疑うのが難しい」と言い換えてもいい。こうなるともはや電卓の例えは使えない。検算があまりにも大変、もしくは検算の方法や対象が分からないような複雑な情報が出力されてくるからだ。それでいて、電卓並みに簡単に誰でも大量にアウトプットを生み出すことができる。つまり生成AIの情報は、生み出すのが簡単なのに疑うのが難しい。難しいことよりも簡単なことのほうがたくさん起こるので、「疑われないままの情報」が蓄積する状況が加速していく。「疑うリソース」を圧倒的に飽和させる量の情報が生み出され続けていて、正しいかどうかを判断するコストがこれまでになく上がっている、というのが今起こっていることだと思う。
例えば、Wikipediaに載っている情報は、(誰でも編集できるという点では正しさが担保されているわけではないけど)十数年かけて人の手が入り続けて積みあがってきた情報であるという点では、それなりに信頼される情報源になっている。これを知らず知らずのうちに生成AIに書かせた文章で置き換える動きがあるとしたらどうなるだろうか。「それっぽい」疑うのが難しい文章が次々に生成され、そのなかには正しくない情報も一定の割合で含まれるだろう。そうなれば、間違いを正そうと誰かが検証して修正してくれるかもしれない。でもそれが、再びワンクリックで生成された情報に簡単に書き換えられてしまうとしたら、修正にかけるリソースもモチベーションもあっという間に枯渇してしまうだろう。情報を生み出すことよりもそれを疑って直すことのほうが圧倒的にコストがかかる。そうなると「それっぽいけど正しくない」情報の割合が増えていく。そうなれば正しくない情報をインプットしてしまう人の数も増えていくことになるだろう。「正しい情報を知りたい」という強い気持ちで情報に接しても、間違いの割合が増えれば、それだけ疑ったり調べたりするのに気力と時間を使うことになり、心が折れるのも早くなる。つまり、正しい情報にたどり着くコストが上がることになる。少なくとも今の状況では、Wikipediaを生成AIに任せることは良いアイデアのようには思えない。
さて冒頭の話に戻る。辞めて10年経った今でも感じている、会社員経験を通じて学んだ大きなことの一つに、
世の中には「正しさベース」で動く世界と「納得ベース」で動くが世界がある
というのがある。世の中に数ある仕事のうち、設計とか開発のような具体的な「ブツ」を作る仕事は、「ブツ」そのものが成果物となり、それに対して対価が支払われる世界だ。倒れない建物、壊れない機械、バグらないソフトを作らないといけないわけで、そのためには設計の数式や、開発のコードが「正しく」なければならない。つまり「正しさ」が容易に定義でき、それに対して対価が支払われる。これが「正しさベース」の世界だ。
一方で、その機械やソフトを設計・開発するための資金を調達する仕事になると、交渉や政治が必要になってきて、相手はブツではなく、人や仕組みになってくる。そこでは「経緯」や「感情」といった複雑な要素が入ってきて、「正しさ」は容易には定義できなくなってくる。そうなると「正しさ」よりも「納得感」のほうが価値判断基準として重みをもってくる。「正しさ」を追究するとコストも時間もかかりすぎてビジネスにならないので、直感的な「納得感」で判断を下すのが最適解になるということだ。世の中の多くの場所では、お金は「正しさ」ではなく「納得感」に対して支払われていて、それで経済が回っている。
自分が会社員生活になじまなかった大きな理由の一つに、この「納得ベース」の世界とどうしても折り合えなかったというのがある。「納得ベース」で動く世界がある、ということを知れて理解できたことは自分にとって収穫だったけど、自分もそこに身を置きたいとは思えなかった。だからこそ、研究に戻ってきてから、「正しさを追究する」という科学の本分の価値や楽しさが身に染みて感じられている。
生成AIの登場で「自分には研究が向いている」という思いを強くした、と書いた理由もここにある。疑うのが難しい情報で世界が飽和させられてしまう中で、正しさの追究に必要なコストがあまりにも高くなり、「納得感」を判断基準に情報をさばいていかないと回らない状況になってきている。さらに生成AIは正しさをさしおいて「納得感」のある情報を作り出すことにかけては、ほとんどの人間よりも精巧なアウトプットを生み出すことができる。「疑うのが難しい」情報を「大量」に供給する生成AIの登場は、世界を「納得ベース」に一気に傾けてしまう。まさに今の時代が、その入口にあたるのではないだろうか。
今になって振り返れば、2019年が歴史上で人類が最も自由に国をまたいで旅行ができた時代だったのかもしれないと思う。今の世界情勢を見る限り、2019年のような時代がまた来ることは、残念ながらしばらくなさそうに見える。歴史と技術の積み重ねで、世界は良くなり続けるものなのかと思っていたけど、違うのかもしれない。同じように考えれば、もしかすると今が、歴史上で人類が最も低コストで正しい情報にアクセスできる時代だったと、後になって振り返られたりするのかもしれない。
「正しい情報にたどり着くコスト」はこれから上がっていく。そのコストに押されて、「納得ベース」の価値観に偏っていった先、世界はどうなっていくのだろうか。自分の根拠のない予想と希望では、しばらくの間「納得させたもの勝ち」が行き過ぎたカオスで生きづらい時代があったあと、「正しさベース」の価値観が見直され、高くなりすぎた「正しい情報にたどり着くコスト」に向き合い、きちんと対価と敬意を払わなければならない、ということを言い出す時代がくるのではないかと思っている。
自分には研究が向いている。それは、科学がその本分として限りなく「正しさベース」の世界だからだ。経済や政治が「納得ベース」で動いていて、それが重要で必要なのは分かっている。研究活動も人付き合いであり、研究費申請の審査をするのも人間なわけで、科学でも「納得ベース」の価値判断が下される場面があることは否定しない。それでも自分が好きで向いているのは「正しさベース」の価値観だ。だからこれから世界がより「納得ベース」に傾いていくのだとすれば、自分は今持っている気持ちをより大事にしたい。別の視点から見れば、世界がいかに「納得ベース」に染まろうと、科学研究をやっている限りは「正しさベース」の価値観にしがみつくことが許される。来たるカオスの時代を生き延びるうえで、研究者という職業は自分にとってシェルターのような居場所なのかもしれない。そしてそれを生き延びた先、「正しさベース」の価値が見直される時代が来るとしたら、科学に潤沢な対価と敬意が払われるような未来があるかもしれない。そう期待したい。
