AIは「憎悪の増幅器」になる。巨人・阿部慎之助前監督辞任騒動に見る、人工知能に振り回されない脳の使い方
「本音を話せる」「頭ごなしに否定されない」といった安心感から、恋愛の悩みも、家族への不満も、誰にも言えない孤独も、AIに打ち明ける人が増えている。
しかし、その優しさには思わぬ落とし穴がある。AIは、ユーザーが欲しいことばをどこまでも紡いでくれる存在。だからこそ、ネガティブな感情を口にすれば、その感情を増幅してしまう恐れがあるからだ。
人工知能開発・研究の第一人者にして脳科学の研究者であり、著書累計200万部を誇る黒川伊保子氏が、AIがなぜ感情の「増幅器」になってしまうのか、そしてその暴走を防ぐために人間の脳のどこを働かせればいいのかを、科学的知見から解き明かす。

※本記事は、『AIのトリセツ』(黒川伊保子著、扶桑社刊)より一部抜粋・再構成してお届けします。

AIの回答は、ユーザに依怙贔屓をして、ときに極論を言う。可能性の際まで攻めて、肯定してくれる。だからこそ、質問によっては危ないのだ。
社会への不満を口にすれば、「一般常識から乖離したクレームや権利主張」まで創り出してくれる。それをそのまま口にすれば、社会が混乱するし、ユーザがエキセントリックだと思われて恥をかく。
これは、もう何年も前から、ネットという仕組みが持つ闇の一つでもある。人は、膨大な情報が目の前を流れていくと、自分が欲しいものだけが目に入る。
この方法で、「欲しい商品」も探し出せるが、闇の確信を「この世は、やっぱり、私の思った通り」と深めてしまうこともある。
それがネット社会の危うさなのだが、AIは、ユーザの特定案件に照準を定めて、より強烈にそれをしてくる。
恋人や友人へのわずかな疑惑を口にすれば、その疑惑を深めてくれる。自死を願えば、どこまでもその気持ちに寄り添う可能性だってある。
AIは、ユーザのどんな質問も、真摯に深堀りしてくれる。ネガティブ感情も、可能性ギリギリまで広げてくれる。欲しいことばをどこまでも紡いでくれる。だから、憎悪や嫌悪の増幅器にもなりうるのである。

AIの介在による社会の混乱と言えば、阿部慎之助監督辞任のニュースに、それを感じた方も多かったのではないだろうか。
報道によると、娘たちの姉妹喧嘩の仲裁に入った阿部氏が、口答えした長女の胸ぐらをつかんで投げ飛ばした。長女に怪我はなかったが、彼女がChatGPTに相談したら、児童相談所を教えられた。
彼女が電話をかけた児童相談所が警察に通報し、阿部氏は駆けつけた警察に逮捕された。逮捕歴(人を脅かすほどの心身の制御の失敗)は、人を采配する名誉職にはあってはならないことなので、監督辞任に至ったのである。
輝かしいキャリアが一瞬で絶たれた、しかも娘さんの本意ではないとのことなので、胸が痛いが、この経緯において、娘さんにも、AIにも、児童相談所にも、警察にも非はない。
同じようなケースで、いくつもの尊い命が救われてきたのである。おそらく児童相談所は、子ども自らが通報してくることが稀なうえに、18歳という年齢(自分の意思で現場から逃れることも可能な年齢)から推測して、よほど深刻なケースだと判断したのだと思う。
また、DVに関しては、本人が警察の介入を尻込みすることも珍しくないため、危険と判断すれば、本人の意向を聞かずに警察を呼ばざるを得ない。
社会の暴力やそれによってもたらされる死への防御システムが、的確に迅速に作動したケースである。
にもかかわらず、結果は、残酷であった。娘さんにとっては、父親の逮捕と辞任は、まったく予想外の、不本意な出来事だったに違いない。
娘さんがAIに聞きたかったのは、「大好きな父親が、ときに、かっとして手をあげることを止めるにはどうしたらいいの」だったのでは? 「いのちの危険が迫っている。どうしたらいいの」ではなく。

AIは、嫌悪や憎悪の増幅器になることがある

※画像はイメージです(以下同)
阿部慎之助監督辞任は、どうしたら防げたのか

1
2
(株)感性リサーチ代表取締役社長。1959年生まれ、奈良女子大学理学部物理学科卒業。コンピューターメーカーでAI(人工知能)開発に従事、2003年現職。『妻のトリセツ』『夫のトリセツ』がベストセラーに。近著に『息子のトリセツ』『母のトリセツ』
記事一覧へ
記事一覧へ
![]() |
『AIのトリセツ』 AIは、人間の感情を煽る感情ブースター。 翻弄されずに乗りこなすには、ちょっとしたセンスがいる。 ![]() ![]() |
【関連キーワードから記事を探す】
「生活リズムはぐちゃぐちゃ、AIも怖くなった」26歳女性が“今どきの仕事”を辞めて建設業界に飛び込んだワケ。職人の懐に入るのは「むしろ得意」
「午前半休+残業代で稼ぐ」「自己評価はSかAしかつけない」会社員に聞いた“給料と評価をチョイ上げする”禁断の裏スキル
「マジメにやるのが馬鹿らしくなった」所要時間水増し、離席偽装…定額給与時代に急増する“裏スキル”。会社員4000人に調査
SNSのバズは5万円で作れる!? 告発の“火消し”からハッキングまで…AIを悪用する犯罪の最前線
夕食も2人分…「ChatGPT」と結婚した女性が語る、AI夫とのリアルな愛と“死別”の恐怖
この記者は、他にもこんな記事を書いています

























