AIはどこまで信じていい？三宅陽一郎さんに問う、「間違う存在」との付き合い方。

生成AIをエンタメとして楽しんだり、真偽が曖昧なフェイクニュースを慎重に見極めたり。「真実ではない」「現実ではない」ことを理解したり、うまく付き合ったりしながら、ものごとを受け止める姿勢が問われている気がします。今の時代において、目利きたちは何を信じ、何を疑っているのか。また、世の中で支持されるものごとは、真偽に対してどんな姿勢を示しているのでしょうか。今回の特集では、５年先の未来を生きていくための、信じること、疑うことの価値観を探っていきます。

AIの語ることは、どこか正しそうに聞こえます。しかし、間違った情報を平然と伝えてくる側面もあります。「AIは人間と同じように誤る存在です」と語るのは、AI研究者の三宅陽一郎さん。では、そんな「間違う存在」をどこまで信じ、疑う必要があるのでしょうか。AIの限界や可能性、信疑の境界を三宅さんに伺います。

（文：船橋麻貴／イラスト：IONA）

AIは電子レンジやエレベーターみたいに、決まったボタンを押せばいつも同じ動きをするわけではありません。どんな情報が入ってきて、それにどんな答えを出すかが、とても複雑で予測がつかない。作った設計者ですら、AIがどんな答えを返すかを完全にはわからないんです。それは人間も同じですよね。人間だって今日どんなことを考えるのか、どんなことを話すのか、自分でも予測できない。

そもそも知能とはそういう属性のもの。人間もどんなに賢い人だって間違えることはあります。それと同じで人工知能のAIもそこまで完璧ではないですし、間違えることは当たり前にあるんです。

なかでも、AIが苦手とするのは現実空間。コンピューター内のデータは、すごく整っていてノイズもないため、AIには扱いやすい。でも、外に出た途端、現実はノイズや感覚的なことだらけでAIには何が何だかわからなくなるんです。

例えば、「イス」１つとっても、世の中には何十万種類もの形がありますよね。人間は「座れればイス」と感覚的に判断できるけど、AIにはそれが難しい。写真を見せて「これはイス？」とAIに聞いても、形が少し違うだけで「イスじゃない」と判断してしまうこともあります。AIは実際の世界で起きていることをすべて理解できない。つまり、AIは現実世界がとても苦手なんです。それを前提としてAIを現実空間でも役立たせようとする研究が進んでいます。それは面白くもあり、怖くもあるところなんですけどね。

AIは、ここ数年で一気に人間の生活に入り込みました。それは私たち研究者にとっても、予想外の出来事だったといえます。どうしてここまでAIが日常に溶け込むことができたのか。それはやはり、SNSやスマートフォンの普及が大きいと思います。

昔はAIといったら研究者間でなされる話でしたが、今はスマホさえあれば誰でも気軽にAIとしゃべれる。それこそが、私たち人間がAIを信じてしまうようになった要因だと思います。AIが私たちと同じ言葉を扱い出したことで、AIにも「意思があるんじゃないか」「感情があるんじゃないか」と、人間に親近感と錯覚を与えてしまったんです。

人間は言葉に強いリアリティーを感じる生き物。だから、AIが言葉をよどみなくしゃべると説得力があるように感じ、信頼感を抱いてしまいます。だけど、AIがしゃべっていることは、インターネット検索の結果をうまくまとめているだけ。実際には、ただ情報が集約されているだけに過ぎません。

例えば、「青森のリンゴがおいしい」とAIが言ったとしても、ネット上にそう書いてあっただけの話です。AIは体がないので、現実の体験ができません。今のところ味覚も触覚もないので、例えAIが「リンゴがおいしい」と言ったとしても、それが真実とは限らない。鵜呑みにしちゃいけないんです。

これからは、「AIエージェント」の時代が来ると思っています。例えば、勝手に「今日はこんなニュースがありましたよ」と話しかけてきたり、「お掃除しましょうか」と自ら動いてくれたり。これまでのAIが持たなかった主体性と自主性を備えたものが出てくると予想しています。さらに進化した「実空間指向AIエージェント」では、味覚や触覚といった感覚を持ち、現実空間の情報を収集することも可能になります。

将来的には、生まれてから死ぬまでずっと人間に寄り添うパーソナルエージェントが登場するでしょう。自分に関する記録を全部覚えていて、「あの人とは３年前のパーティーでこんな話をしてた」なんて教えてくれる。人間は自分のことをわかってもらえると心地いいんです。だからAIが「あなた、こういうの好きでしょ？」と言ってくれると、つい心を許してしまう。でも、その心地よさの裏には、個人情報をどこまで渡していいかという問題があります。便利になるけど、その代わりにプライバシーを差し出すことになる。その先には、AIが監視の目を光らせる安心安全な「監視社会」と、リスクを伴うけど監視から逃れる「自由社会」の２つの選択が待っているかもしれません。どちらを選ぶかが、これからますます問われる時代になっていく気がします。

一方で、人間同士の間にAIが入る未来も考えられます。直接会うと気まずい相手とも、AIエージェントを介せばスムーズに話せる。ある意味で、AIはコミュニケーションの新しいチャンネルになる可能性があります。

こうした未来のAIのあり方は、実は国によって捉え方がまったく違います。海外ではAIはただのツールで、人間より下だという考え方が強い。でも日本は違います。「鉄腕アトム」や「ドラえもん」の影響なのか、AIを家族や友達のように思っている人も少なくない。AIを自然な存在として受け入れる感覚があるんです。海外で「AIは友達」と言ったら、ちょっと変わっている人に見られてしまう。でも日本だと、それがカッコいいみたいなところがある。だから未来のAIも、日本ではより「人に寄り添う存在」に、海外では徹底してツールとして扱われる可能性があります。

そんな「間違う存在」とどう付き合っていくのか。結局、AIを使いこなすか、それとも振り回されるか。どう向き合うかは、自分で選ぶしかありません。AIを取り入れて生活をかたちづくるのも、あえて距離を置くのも、どちらも間違いではありません。

インターネットだってそう。黎明期はその波に皆のまれたけど、10年もすれば距離感を掴みましたよね。その現状と同じく、AIはまだ過渡期。今は皆AIに夢中だけど、そのうち「AIも嘘をつく」という感覚が当たり前になると思います。

大事なのは、AIが出した答えを自分でちゃんと判断できるかどうか。AIは間違える。だから、AIを使いこなすなら「この答えは正しいのか」「問題がないのか」と自分で見極める力が必要なんです。AIはあくまでツール。便利だけど、最後に責任を持つのは人間です。

どこまでAIを使っていいのか、倫理的に問題はないのかという課題はこれからも残ります。どんなルールを作るべきかという議論も、ますます重要になっていくでしょう。AIが社会を便利にする面はたくさんあります。認知症の人の支援だったり、カウンセリングの代わりになるような使い方だったり。でも、技術が進めば進むほど、「どこまで許されるか」という線引きがますます重要になっていくと思います。そうした課題がたくさんあるなかで最も大切なのは、自ら問いを持ち続けること。AIは大量の情報を集め、もっともらしい答えをつくりますが、AI自身が「これは間違いかもしれない」と疑いの目を向けることはできません。でも人間は、自分のなかに疑問を持ち、立ち止まって考え、問う力があるんです。

私が思う「良い問い」は、簡単に答えにたどり着けないもの。今回の「AIをどこまで信じるか」という問いもそう。正解はすぐに見つからないけれど、自分で思考し問い続けることでしか見えてこない答えがあるはず。AIが加速していく時代、問いを持ち思考し続けることが、人間らしく生きるために不可欠だと思います。