差別発言をAIの過学習のせいにする東大特任准教授の滑稽な言い訳/鈴木涼美
11月20日、東京大学の特任准教授である大澤昇平氏が、自身の経営する会社での採用方針について「中国人は採用しません」とSNSに投稿し、大きな批判を浴びた。12月1日に謝罪文を投稿したが「当社の判断は(AIの)『過学習』によるもの」という言い訳にも疑問の声が上がっている
他人の経験(つまり歴史)から学ぶのが賢者だと習ったとしても、人は元来わりと愚かだし、猜疑心も探究心もあるし、「私だけ特別かも」という楽観的なところもあるので、自分で経験し失敗してようやく学ぶことは多い。ビスマルクだってそうだったろうし、現実世界や個別の人間というのは変数が多すぎて、歴史にのみ学び、生きる実践で失敗しない保証なんてない。学習データだけ学んだAIも、過学習状態であれば実践への汎用性はないのだ。
さてしかし、SNS上で「中国人は採用しません」などと発信した自称「上級国民」の東大特任准教授を巡る問題が、出資中止や提携解消などに帰結したことの要因は、AIの過学習にはない。謝罪に至るまで彼は「採用時にパフォーマンスと相関する指標を考慮に入れて何が悪い」「十分客観的に得られたデータ(情報)には人間は主観は入りこまず、自然そのもの」(原文ママ)という姿勢で批判を論破しようとしていた。
もし本当にその相関を示すモデルがあったのだと仮定しても、AIの研究者である彼が、AIの過学習に全く気づかずに間違った結果を信じきっていたのなら、そもそも研究者としての技量がだいぶ疑わしいが、それだけでもない。
彼は「中国人とは何度も仕事したことがあります」と、偏見で人種差別はしていないと主張したついでに「そうした経験に基づき今の判断をしている」と、AIの判断じゃないことを自白してるし、謝罪文では「ウイグルやチベット、そして香港の人々には共感しており」と急に人権派っぽい立場になって、主観的意見の所在を示している。
主張ありきで適当なデータを探すのがいかに簡単で、客観的データがあるという論理がいかに怪しいかは、日本でアダルトビデオが減ったという主張も逆の主張も、言葉の定義を小賢しく変えれば「客観的な」グラフですぐ裏づけできるのを想像すればいい。
賢者になれない私たちは、他者と自分の経験を過信しすぎず血肉に取り込み、間違えたり傷ついたりしながら、世界と自分の複雑さを学ぶしかない。その中で何をどう使って表現するかにこそ、本当の愚者との境目がある。中国人従業員の仕事に疑問を持った時、ではなぜ中国が日本の10倍以上の成長率を維持するのかを考え、職場の慣習を見直す者もいれば、全世界に向けて「中国人は採用しない」と発信し、その後も批判に対して「馬鹿なの?」「お前ら左派が」「告訴してみろよ勘違いビジネスマン笑笑」と呟き続ける者もいる。 彼は既存の価値観や合理性のない伝統を一刀両断し、毒舌コメントでお茶の間を唸らせる経営者のまね事をしたかったのかもしれないが、残念ながら全世界から返ってきたのは「没落国の小企業が世界第二位の経済大国の人に来るなって言ってる……」と、まるで36歳の私が「イケメンでも29歳は腹出てそうでエッチするの無理~」と言ったのと同レベルの冷笑だった。 しいて言えば、ウイグルなど批判しにくい言葉をちりばめて、参照したAIが過学習状態だった、と言い訳する姿は、シュレッダーの担当が障害者採用だった、と批判を免れようとするどこぞの首相にはよく似ている。 写真/時事通信社(安田講堂) ※週刊SPA!12月10日発売号より’83年、東京都生まれ。慶應義塾大学環境情報学部卒。東京大学大学院学際情報学府修士課程修了。専攻は社会学。キャバクラ勤務、AV出演、日本経済新聞社記者などを経て文筆業へ。恋愛やセックスにまつわるエッセイから時事批評まで幅広く執筆。著書に『「AV女優」の社会学』(青土社)、『おじさんメモリアル』(扶桑社)など。最新刊『可愛くってずるくっていじわるな妹になりたい』(発行・東京ニュース通信社、発売・講談社)が発売中
博士の異常な劇場/鈴木涼美
[Apology]
— 大澤昇平 :: AI 救国論 🇺🇳 (@Ohsaworks) December 1, 2019
この度は当職による行き過ぎた言動が、皆様方にご迷惑、不快感を与えた点について、深く陳謝します。
①一連のツイートの中で当職が言及した、特定国籍の人々の能力に関する当社の判断は、限られたデータにAIが適合し過ぎた結果である「過学習」によるものです。
賢者になれない私たちは、他者と自分の経験を過信しすぎず血肉に取り込み、間違えたり傷ついたりしながら、世界と自分の複雑さを学ぶしかない。その中で何をどう使って表現するかにこそ、本当の愚者との境目がある。中国人従業員の仕事に疑問を持った時、ではなぜ中国が日本の10倍以上の成長率を維持するのかを考え、職場の慣習を見直す者もいれば、全世界に向けて「中国人は採用しない」と発信し、その後も批判に対して「馬鹿なの?」「お前ら左派が」「告訴してみろよ勘違いビジネスマン笑笑」と呟き続ける者もいる。 彼は既存の価値観や合理性のない伝統を一刀両断し、毒舌コメントでお茶の間を唸らせる経営者のまね事をしたかったのかもしれないが、残念ながら全世界から返ってきたのは「没落国の小企業が世界第二位の経済大国の人に来るなって言ってる……」と、まるで36歳の私が「イケメンでも29歳は腹出てそうでエッチするの無理~」と言ったのと同レベルの冷笑だった。 しいて言えば、ウイグルなど批判しにくい言葉をちりばめて、参照したAIが過学習状態だった、と言い訳する姿は、シュレッダーの担当が障害者採用だった、と批判を免れようとするどこぞの首相にはよく似ている。 写真/時事通信社(安田講堂) ※週刊SPA!12月10日発売号より’83年、東京都生まれ。慶應義塾大学環境情報学部卒。東京大学大学院学際情報学府修士課程修了。専攻は社会学。キャバクラ勤務、AV出演、日本経済新聞社記者などを経て文筆業へ。恋愛やセックスにまつわるエッセイから時事批評まで幅広く執筆。著書に『「AV女優」の社会学』(青土社)、『おじさんメモリアル』(扶桑社)など。最新刊『可愛くってずるくっていじわるな妹になりたい』(発行・東京ニュース通信社、発売・講談社)が発売中
『おじさんメモリアル』 哀しき男たちの欲望とニッポンの20年。巻末に高橋源一郎氏との対談を収録 |
『週刊SPA!12/17号(12/10発売)』 表紙の人/ のん 電子雑誌版も発売中! 詳細・購入はこちらから ※バックナンバーもいつでも買って、すぐ読める! |
この連載の前回記事
この記者は、他にもこんな記事を書いています
ハッシュタグ