事実を直視する覚悟はあるか?：認知バイアスを回避したい我々への提案

認知バイアスを自覚する意義

バイアスを取り除くには、バイアスの存在に気付けるようになることが近道の一つです。認識することが出来れば、一度立ち止まって、科学的な思考を起動できます。(ここでいう科学的な思考とは、観察・観測⇒仮説の設定⇒仮説の検証⇒観察・観測　のサイクルを回す思考方法です。)*1

今から羅列するバイアスは、なるべく過不足なく、なるべくダブらない組み合わせで選んだつもりです。「自分の信じたいものを信じる」みたいな抽象的な表現はできるだけ避けています。

あと、類似する内容として、クリティカルシンキング　チェックリストという記事もあります。ご興味あればどうぞ。

バイアス(思いつく限り)一覧

ここから本番です。バイアスの存在を認識するために、代表的なバイアスを以下に一覧してみます。

・みんながやっているから確かだろう、皆が信じているから間違いないだろうと感じる

常識＝正解ではありません。我々は常に、ガリレオやセンメルヴェイスの悲劇を思い出す必要があります。

「常識は常に間違っている」だなんて中二病なお言葉を残した有名人もいらっしゃるようです。一般化し過ぎな感は否めませんが、心意気としては悪くありません。

・過去に自分が主張した内容は正しい気がする

俗にいうセンメルヴェイス反射です。一貫性を守りたがるとも言えます。何かを主張するときは慎重に。我々は、自分自身の主張に対する数々の反論を理解し、それでも自分の主張が正しいことを説明できる状態になってから、意見を主張すべきなのです。一度間違ったことを公衆の面前で言い放ってしまった場合、それが一生の呪縛になりかねません。

ただ、過ちは誰にでもあります。人生で一度も間違ったことがない人がいたとすれば、きっと戸籍は土星の環のどこかだと思います。土星の環には、「すべてを見通す目を持つ一族」が暮らす集落があるとの噂です。一緒に役所に行って、戸籍を見せてもらいましょう！

「過去の間違いを認めて方向転換できることは美徳だ」という価値観を持てるといいですね。カリスマ性にこだわるなら主張が変わらないことが大切かもしれませんが、真実の探求者が不変にこだわる必要はありません。

・仲間の主張は正しく敵の主張は間違っていると感じる

あなたにもきっと経験があると思います。あなたを尊敬する人やあなたと仲の良い人は、あなたが自信なく呟いたことをすんなり信じてくれる一方、あなたを軽蔑していたり仲が悪い人は、どれだけ正しいことを言っても取り合ってくれない。こんなこと、よくあります。え？みんな素直に頷いてくれる？御見それしました。

・誰かの主張は、その人自身の思想を強く反映している。にもかかわらず、使われた言葉次第で客観的事実に聞こえる

「科学的にわかった」とか「統計的事実だ」とか。根拠をよくよく調べてみると、後ろ向き研究のくせにp値が0.01程度だとか*2、交錯因子の可能性が排除できないとか、データの母集団がそもそも偏ってるとか、だれも確かめたことがない前提を置いているとか、因果関係の向きが逆だとか、使うモデルを変えると逆の結論に至るとか。ほかにも色々あるものです。極論、すべての根拠は誰かの主観に過ぎないかもしれません。それでも、客観的な指標に聞こえる言葉の前提を把握する努力が必要です。

・思いつきやつさ/分かりやすさ/思い出しやすさと、その説明の正しさを混同する

思いつきやすさや分かりやすさと、その説明の正しさは、しばしば混同されます。専門家は視野が狭くなるなどと言われたりしますけど、これが原因だと思われます。彼ら自身が知っている方法で説明できると感じると、(本当は誤りであっても、)その方法で事象を説明するのだと思われます。「専門家の視野の狭さ」と「機械学習の過学習」は同じような概念ですね。

思い出しやすさと、その説明の正しさを混同することもよくあります。注目しているものが、そのまま説明に使えるように見えるのもこの項目ですし、初対面の人の目立った特徴に基づく第一印象によって、まだわからないはずの側面も推測＆思い込む、いわゆるハロー効果もこの項目です。

システムエンジニアの世界では「ハンマーしか持っていなければすべてが釘のように見える」という素敵な言葉が有名らしいですよ

・自分で思いついたこと・自分で発見したことこそが真実だと思い込む

そもそも自分で思いついたかどうかを判断するすべはありませんし。世の中にはプロパガンダというものがあるのですから。

自分で思いついたこと・自分で発見したことは、簡単に連想したり思い出したりできる故に、良くも悪くも強力な力なのです。

・真実を知っているのは少数の仲間だけだと感じた時に強い快感を感じ、意見を変えることができなくなる

これに関しては、何の説明もいらないかな？少し説明するなら、正義感や使命感に燃えているときは、特に、自分と違う考えに対してオープンでいることを意識した方が良い、という話です。正義感や使命感が悪いとは思いませんよ？すべての感情は使い方次第で良くも悪くも働くと思います。

カルトにはまるのはこれが原因になることが多いです。カルトって言葉は別にオウム真理教のためにつくられたわけではなく、認識共同体のマイノリティーバージョンのことです。反社会的なカルトは危険カルトという言葉で表現されます。カルトの本来の意味に従えば、あなたの趣味のコミュニティはカルトですし、SNSコミュニティもカルトですし、あなたが所属する職場や学校の独自文化もカルトですし、別に珍しくもなんともない、空気のように存在するものだということを意識してほしいところです。

・直面している問題を、自分の知っている情報・知識で説明できたと思い込む

複雑な問題には必ず、単純で間違った答えがあるものです。非の打ち所がない説明ができたと思っても、バイアス回避が目的であれば、注意深く因果関係の根拠を確かめる必要があります。それは通常、とても時間がかかるし、とてもしんどい作業です。そこまでして事実を見つけたくないというのであれば、それはそれでアリではないでしょうか。(　ﾟдﾟ)ﾎﾟｶｰﾝ

・自信はあるが、よく考えると根拠が弱い

根拠のない自信？すばらしい。行動を促す力となって、ときに頼もしいあなたの守護神となるでしょう。だがしかし、根拠のない自信は白内障を悪化させ、真実が見通せなくなってしまいます。これに関しては説明いらないよね？

・自信があるように見える人の主張は常に正しい気がする

根拠のない自信？すばらしい。だがしかし、それもまた目を曇らせる。

まぁ、カリスマ性を出したいならば、自信ありげに見せる方がよい場面はよくあります。特に仲間内での決断や提案する場面。ただし、常に自信があるように演出するのは危険です。断定口調の専門家よりも慎重な口調の専門家の方が信頼されやすいとか、懐疑的な取引相手へのプレゼンの場面で自信を前面に押し出すと、「何かウソや見落としがあるのでは？」と思われたりするので。

・自分の持ち物や自分の好きな人は個性にあふれ、しかも優れている気がする

なぜ差別が亡くならないのか？これですよ。この項目はあまり回避しない方がよきかも。仲間を作って協力するにはとても役に立つバイアスだし。オキシトシンの分泌目的だといわれてたりしますが、実際のところはよくわかりませぬ。

・めったにない出来事の頻度を大きく見積もる

滅多にない出来事は、驚きの感情を伴って記憶されます。よくあることのような錯覚はそのためかもしれません。

それは、本当によくあることなのですか？

類似の出来事との相対的な確率の違いを把握すれば (例えば自動車事故死の確率と旅客機の墜落による死の確率の比較。自動車事故死がそもそも珍しい？確かに！)、あなたの誇大妄想を少しは和らげることができるでしょう。

・我々の判断は、我々の感情次第で大きく揺れる

同じ体験をしても、昨日葬式だった人と、今日婚姻届けを提出する人では、とらえ方が違います。当然ですよね？

誰かの話を聞くときは、その人が今どのような状況に置かれていて、どのような感情を持っていると推測できるのか。想像するだけで全然違います。

自分で考えるときは、今の自分がどのような感情を伴っているのか、それによってどのように判断が変わりうるのか。確認するだけで全然違います。

悲しい時は過去も未来も悲しく見えるし、幸せな時は過去も未来も幸せな気がするし、嫉妬しているときはなんでも邪悪に見えるということを忘れないで。

・偉い人が言ってるんだから間違いないと思う

よく言いますよね。専門家の意見よりも証拠能力の低めな論文の方がマシだって。

偉い人も所詮人ですから、ポジショントークだって当たり前ですし、当人がそうと信じていたとしても、証拠がセットになっていなければ、そういうことですよ。

・一部の情報の真偽によって、全体の情報の真偽を判断する

10の話をされたとき、真偽のほどがわからない話が9つだったとしても、1つが何らかの理由で正しいと分かる場合、9つの方もすべて正しいと感じるものです。逆に1つだけ誤っていると分かれば、残り9つも間違っていると思いやすいことでしょう。

嘘ばかり主張する人は少ないし、事実しか主張しない人もいないのです。

「この人を信じる」ではただの一神教。それが悪いとは言いませんが、バイアス回避が目的ならば、大罪の一つに数えられるでしょう。

・時系列でランダムな事象が発生しているときでも「今度こそは違う結果になるだろう」と感じる＆時系列で発生するランダムな事象にも、パターンがあるように感じる

コイン投げでいうならば、2，3回連続で表が出ても、次は裏になりそうだとは感じないかもしれませんが、10回連続で表が出た後だと次こそは裏になる気がするものです。そもそも1/2の確率でランダムに表裏が出ているのだから、そろそろ逆の面が出なければおかしいという感覚です。

「今度こそ」の感覚は、ランダムな事象にパターンがあるかのような感覚を引き起こすことにつながります。今からコイントスを10回行ったとします。すべてが表になる確率と、奇数回目は表＆偶数回目は裏になる確率は同じなのですが、そうは直感できないものです。良いことと悪いことが同じくらい起こって、人生はバランスが取れるようになっている。なんてことはありません。

・時系列でランダムな事象が発生しているときの「平均への回帰」の傾向を忘れる

平均への回帰がわからない方は平均への回帰 - Wikipediaをどうぞ。

よくある例の一つは、上司が部下を育てるには叱って育てるのが正解だとか、褒めるとダメになるとか妄信している。というものです。何しろ、「失敗を叱った直後は失敗しない」という成功体験や、「ほめた直後は成功しない」という失敗体験を積み重ねるのです。視野が狭ければそう思っても仕方がないところです。

両親がともに長身だった場合、生まれる子供はさらに長身になるかというと、むしろ、同性の親よりも低身長に育つことが多いというのも、よく言われる例ですね。

あとは、過去十年で業績が特に良かった企業が、これから十年で同程度の業績を出せないことが多い一方で、過去十年で業績が特に悪かった企業は、これから十年で業績を改善することが多い、というのも、平均への回帰の一つの具現化といわれています。

もちろん、回帰は傾向で合って絶対ではありません。「今回は極端だったから次回は平均に近づくか？」と問われると、「多分」としか答えられないものです。

P.S.

「我々はバイアスまみれであり、常に誤った判断・解釈・説明をしている可能性が高い」と、定期的に思い出すこと。

それだけで、バイアスに気づく確率が上がります。嘘のようなホントの話。

この記事は、バイアス回避のためにまずはその存在に気づこうぜよ。という立ち位置です。そして、人間の認知というソフトフェアにしか注目していません。これこれこうすればバイアス回避できます！みたいな安直(決して楽とは言ってない)なノウハウは、他のだれかに任せます。私と同じように安直が大好きなら、クリティカル・シンキングとか、統計とか勉強するといいんじゃないかな。

バイアスの回避がうまくいっているなら、我々は普通の人とは違う情報を探し、違うことを考え、違う価値観を持つことになります。世界は嘘まみれですから。

バイアスの回避は、時間と体力を消費する、とてもつらく苦しい作業です。その過程で、屈辱感や焦燥感・孤独感・焦り・失望感・怒り・無力感など、ネガティブな感情を頻繁に掻き立てられることとなるでしょう。その苦しみも、あなたの見解の正しさを保証してくれないのですから、救いようがありません。

知ろうとすることは戦いです。

参考にした文献(書籍のみ)

バイアスに関して詳しく知りたい方は、以下の本を読んでみるといいかもしれません。読んでほしいという意味ではありませんからね？ね？　|дﾟ)

bookmeter.com

*1:観察の方法がそもそも存在しない場合や、仮設の検証ができない場合など、科学的な方法で扱うことができない問題も世の中には無数にありますから、その時は直感に頼らざるを得ません。直感でしか扱えない領域で活動するのは芸術家の仕事です。それはそれでかっこいいですが、少なくとも私にその能力はありません。

*2:選択肢バイアスとでも呼ぶべきかな？本来全く関係がないことであっても、とある結果に対して100個の原因の候補との関係を調べたら、p値が0.01以下の関係が一つくらいは見つかるものです。詳しいことは、統計でも勉強してください

好奇心の横断歩道を創る！

自分の思考をラバーダック・デバッグするためのブログ