人にもロボットにもバイアスがあって当たりまえ。脳科学者・中野信子氏とロボット開発者・林要氏が語る未来

「3人が同じことを言えば真実」と思い込む脳

林：自然な脳の反応といえば、バイアス（思考の偏りや思い込み）もそうですね。中野先生は新刊『「バイアス社会」を生き延びる』（小学館YouthBooks）の中で、「バイアスは人間が生きていく上で必要なものだ」と指摘されています。

中野：誰にもバイアスはあって、完全になくすのは不可能です。自分はバイアスを持っていない、と無自覚に言い張る人ほど厄介ですね。しかし、そもそも人間に備わっているものには必ず意味があるはずなので、それを全部一緒くたにして「バイアスはよくない」というより、その中でいかに価値的に生きていくかを考えることが重要だと思っています。

林：ぼくは最近、考えが柔軟といわれる子どもの方が、実は「知っている」と思っている物事に関してバイアスが強い場合もあるんじゃないかと思っているんです。例えば小学生の子などは、知識や経験が限られているからこそ、ステレオタイプの男性像や女性像を持っている場合がある。もしかしたら人間ってそもそもなにかを学ぶ最初のうちは、知識も少なく視野も狭いからこそ、バイアスがある状態から始まり、そこから徐々に視野を広げながら、バイアスを減らすように成長する生き物なのかもしれない……なんて考えていた時に、この本を読んで納得しました。「そもそもバイアスがあって当たり前」という前提を持っておくことが大事だと。

中野：本当にその通りだと思います。そもそも「正解」というものがない中で「あなたは間違っている」と糾弾しても、相手が話を聞いて直してくれる可能性は低いわけです。

林：最近のchatGPTのような大規模言語モデルも同じで、そもそもバイアスなしに学習させるのは不可能です。

中野：「学習させたデータにバイアスがあるかどうか」を判断する人にもバイアスがありますしね。

林：ええ、バイアスがない学習は不可能なので、いったんデータを全部食わせましょう、と。その後で、多くの人に違和感がないようにファインチューニング（再調整・微調整）するというのが最近のAIのトレンドです。人間のぼくらもバイアス自体は消せないけど、自分の中のバイアスを疑うことによってファインチューニングすべきだし、相手のバイアスに対して寛容であるべきですね。

中野：基本的なことかもしれませんが、数多くの情報の中から正解や真実を峻別するのは不可能です。正解も真実も定義で変容してしまいますし。例えば、私たちが物心ついた時には家のルールがあって、守らないと親や養育者に怒られますよね。でも社会に出ていくと、今度は家のルールが必ずしも正しくはないことを知って、周りを見ながら修正していきます。その時、自分の周りの3人くらいが同じことを言えば、それが正解だと思い込んでしまう性質が脳にあるんです。処理を軽くして迅速にその局面に適応して振る舞えるようにするためです。