悪質切り抜き、ディープフェイク動画、陰謀論……etc.「一億総メディア社会」の今、悪質な情報操作は看過できない問題となった。一説には真実の6倍以上の速さで拡散され、我々を惑わすとされる偽情報。進化を続けるAIが悪用されることで、経済、そして国際情勢にどんな被害をもたらすのかーーすでに起きている事例も含めて見ていきたい。 AIの爆発的な進化により、フェイク情報は人間には見抜けないほど巧妙化している。先端技術や情報社会に精通する城田真琴氏は、進化の猛烈なスピードをこう解説する。 「5年前なら、人の声を複製するには30分ほどの音声データが必要で、学習や合成に数日かかった。ところが、現在ではわずか数秒のサンプルからほぼリアルタイムで音声クローンが生成できる。これは、政治家や著名人がSNSに投稿したショート動画から簡単にディープフェイク音声が作れることを意味します。コストも大幅に下がり、無料でクローンツールを入手できる。こうした技術はすでに特殊詐欺に利用されており、犯罪のコストを下げた格好です」 ’24年には香港の銀行でZoomの会議に参加する幹部の映像をリアルタイム合成し、3500万ドル（約53億円）が騙し取られた。だが、これは被害のほんの一例だ。 「これまで5秒程度だったフェイク動画は、この1、2年で長尺になってきた。5秒な偽物と疑っても、10分の動画を信じる人は多い。例えば、企業の社長が反社会的発言をする会見の動画を作って拡散すれば、株価は暴落する。日銀総裁やFRB議長のフェイク動画が拡散すれば、世界経済の混乱も十分あり得ます」 株価の暴落を見越して、空売りを仕掛けておけば大儲けできる。