更新日:2026年09月21日 16:27
デジタル

AIは「憎悪の増幅器」になる。巨人・阿部慎之助前監督辞任騒動に見る、人工知能に振り回されない脳の使い方

「本音を話せる」「頭ごなしに否定されない」といった安心感から、恋愛の悩みも、家族への不満も、誰にも言えない孤独も、AIに打ち明ける人が増えている。  しかし、その優しさには思わぬ落とし穴がある。AIは、ユーザーが欲しいことばをどこまでも紡いでくれる存在。だからこそ、ネガティブな感情を口にすれば、その感情を増幅してしまう恐れがあるからだ。  人工知能開発・研究の第一人者にして脳科学の研究者であり、著書累計200万部を誇る黒川伊保子氏が、AIがなぜ感情の「増幅器」になってしまうのか、そしてその暴走を防ぐために人間の脳のどこを働かせればいいのかを、科学的知見から解き明かす。 『AIのトリセツ』黒川伊保子 書影※本記事は、『AIのトリセツ』(黒川伊保子著、扶桑社刊)より一部抜粋・再構成してお届けします。

AIは、嫌悪や憎悪の増幅器になることがある

ネットに没入するイメージ

※画像はイメージです(以下同)

 AIの回答は、ユーザに依怙贔屓をして、ときに極論を言う。可能性の際まで攻めて、肯定してくれる。だからこそ、質問によっては危ないのだ。  社会への不満を口にすれば、「一般常識から乖離したクレームや権利主張」まで創り出してくれる。それをそのまま口にすれば、社会が混乱するし、ユーザがエキセントリックだと思われて恥をかく。  これは、もう何年も前から、ネットという仕組みが持つ闇の一つでもある。人は、膨大な情報が目の前を流れていくと、自分が欲しいものだけが目に入る。  この方法で、「欲しい商品」も探し出せるが、闇の確信を「この世は、やっぱり、私の思った通り」と深めてしまうこともある。  それがネット社会の危うさなのだが、AIは、ユーザの特定案件に照準を定めて、より強烈にそれをしてくる。    恋人や友人へのわずかな疑惑を口にすれば、その疑惑を深めてくれる。自死を願えば、どこまでもその気持ちに寄り添う可能性だってある。  AIは、ユーザのどんな質問も、真摯に深堀りしてくれる。ネガティブ感情も、可能性ギリギリまで広げてくれる。欲しいことばをどこまでも紡いでくれる。だから、憎悪や嫌悪の増幅器にもなりうるのである。

阿部慎之助監督辞任は、どうしたら防げたのか

悩む少女のイメージ AIの介在による社会の混乱と言えば、阿部慎之助監督辞任のニュースに、それを感じた方も多かったのではないだろうか。  報道によると、娘たちの姉妹喧嘩の仲裁に入った阿部氏が、口答えした長女の胸ぐらをつかんで投げ飛ばした。長女に怪我はなかったが、彼女がChatGPTに相談したら、児童相談所を教えられた。  彼女が電話をかけた児童相談所が警察に通報し、阿部氏は駆けつけた警察に逮捕された。逮捕歴(人を脅かすほどの心身の制御の失敗)は、人を采配する名誉職にはあってはならないことなので、監督辞任に至ったのである。  輝かしいキャリアが一瞬で絶たれた、しかも娘さんの本意ではないとのことなので、胸が痛いが、この経緯において、娘さんにも、AIにも、児童相談所にも、警察にも非はない。  同じようなケースで、いくつもの尊い命が救われてきたのである。おそらく児童相談所は、子ども自らが通報してくることが稀なうえに、18歳という年齢(自分の意思で現場から逃れることも可能な年齢)から推測して、よほど深刻なケースだと判断したのだと思う。  また、DVに関しては、本人が警察の介入を尻込みすることも珍しくないため、危険と判断すれば、本人の意向を聞かずに警察を呼ばざるを得ない。  社会の暴力やそれによってもたらされる死への防御システムが、的確に迅速に作動したケースである。  にもかかわらず、結果は、残酷であった。娘さんにとっては、父親の逮捕と辞任は、まったく予想外の、不本意な出来事だったに違いない。  娘さんがAIに聞きたかったのは、「大好きな父親が、ときに、かっとして手をあげることを止めるにはどうしたらいいの」だったのでは? 「いのちの危険が迫っている。どうしたらいいの」ではなく。
次のページ
声色や身振りという重要な情報を、まだ理解できない手元のAI
1
2
(株)感性リサーチ代表取締役社長。1959年生まれ、奈良女子大学理学部物理学科卒業。コンピューターメーカーでAI(人工知能)開発に従事、2003年現職。『妻のトリセツ』『夫のトリセツ』がベストセラーに。近著に『息子のトリセツ』『母のトリセツ』

記事一覧へ
AIのトリセツ 『AIのトリセツ』

AIは、人間の感情を煽る感情ブースター。
翻弄されずに乗りこなすには、ちょっとしたセンスがいる。

日刊SPA!を優先ソースに追加してGoogle検索に頻繁に表示させよう

▶▶
SPA!編集部が「人生後半を賢く楽しく生きる」をテーマに厳選した記事をメルマガ会員限定で毎週金曜日にメールでお届けします。仕事・お金・性・人間関係…人生を豊かにする秘訣が見つかります。無料・10秒で完了です。
無料でメルマガ登録する⇒⇒
※登録後、メール認証が必要です。受信した認証メールをクリックして、登録を完了させてください。
※認証メールが届かない場合、迷惑メールに入っているか、メールアドレスが間違っている可能性があります。再度ご登録ください。
【関連キーワードから記事を探す】