Deepfake とは、deep learning（深層学習）と fake（偽物）の合成語で、AIを使って偽造された動画などのデジタルコンテンツを意味します。AIテクノロジーは急激に進化しており、今では加工されたものとオリジナルとの区別が困難になっています。アメリカでは政治団体のコマーシャルで、まるで敵対する政治家本人が話しているかのような動画が公開されて話題になりました。動画だけではありません。テキスト生成においても、GPT-3というプログラムは、題材を与えると人間と遜色のない文章を自動生成することで話題になりました。専門家を装い、間違った情報を意図的に広めるなどに悪用される可能性があります。

　インターネット上では、すでに機械によって生成されたコンテンツが人間によるものより多く流通していると言われています。技術力と資金をもった人たちは、自分たちに都合のいい情報を、機械を使って圧倒的なスピードと量で広めることができます。顔の置き換えだけではなく、暴動などのイベントをまるごとコンピューター上で作成し、ニュースとして配信することもできます。人々は何が本当なのか、何を信じていいのかが分からなくなり、社会不安や政治不信が増加する可能性があります。

　こうした事態を憂慮する声は多方から上がっています。アメリカでは2019年に、犯罪を助長する目的でDeepfakeを作成し広めることを犯罪化する法律や、フェイク（偽物）にはそれが分かるような印をつけることを義務化する法律が成立していますが、憲法が保証する表現の自由との関係や、アメリカの法律に従わない外国からの攻撃など問題点はたくさんあるようです。

　ビジネスへの影響も出始めています。昨年にはあるイギリスの会社のCEOが、ドイツ人の上役の電話による指示で海外送金をしたところ、実はコンピューターで合成された声を使った詐欺だったという事件が発生したそうです。消費者向けのビジネスでは、競争相手によるブランド価値を毀損するようなネガティブキャンペーンが起きています。情報漏洩を防ぐための従来のセキュリティ対策に加えて、これからはDeepfakeなど、有害な情報によるビジネスへの被害を最小にする対策が求められるようになりそうです。