23日、民主党のナンシーペロシ下院議長の改ざんビデオがSNSを駆け巡った。
ビデオは、22日のアメリカ進歩センターの会議におけるペロシ氏のスピーチに、速度を低下させるなどの編集を施したもので、ろれつが回らず、酔っているような印象を与える。ワシントンポスト紙によると、本物に比べ速度が75%に加工されているという。
フェイクビデオは複数バージョンが出回り、SNSで急激に拡散された。Politics WatchdogというFBページの動画は、金曜日の時点で、200万回以上再生され、4.5万回以上シェアされていた。ツイッターとユーチューブにも拡散されたが、いずれもプラットフォーム企業によって削除された。
一方フェイスブックは、ビデオはプラットフォームのポリシーに違反していないとし、削除を見送った。同社はニュースフィードへの表示制限やシェアする際に警告を表示するといった対応にとどまっている。
さらに同日、トランプ大統領は、ペロシ議長が23日の記者会見で、言い間違いや言い淀む場面だけを集めたビデオを「ペロシが口ごもっている」とコメント付きでツイートした。
ワシントンポストのレポーターは、スロービデオのような編集はされていないとしつつ、ペロシ氏を侮辱するといった点で、同様の目的だと述べる。ツイートは一時、トップに固定されていた。
ディープフェイクに高まる警戒
ペロシ氏のビデオは、一般的な動画編集ソフトで作成可能なもので、一見して偽物だとわかる。しかし近年、ディープフェイクと呼ばれる、人工知能をベースにした高度なフェイクビデオの技術が発達・普及しつつあり、専門家は、次期大統領選に技術が悪用される危険を指摘する。
「改変されたビデオがいともたやすくバイラルになった。完全に虚構のディープフェイクビデオとオーディオが我々の民主主義に影響を与えるまで、いかほどの時間があることか」
Transatlantic Commission on Election Integrityの上級顧問のFabrice Pothier氏はThe Hillに対し「まだ初歩的な段階で、ペロシ氏のビデオは本物のビデオにベーシックな改変を施したものにすぎないが、このペースで行くと、アルゴリズムによって生成される、完全に人工的なビデオとオーディオファイル、つまりディープフェイクまでは時間の問題だ」と指摘する。
ブルッキングス研究所のシニア・フェローのJohn Villasenor氏は、「2020年選挙とそれ以降、ディープフェイクは政治状況の一部となるだろう」と述べ、「2016年に目の当たりにした情報操作の次なるステップとして避けることができない」と、来年の大統領選に影響を及ぼす可能性を指摘する。
Viceによると、ディープフェイクという言葉は、もともとレディットユーザーのアカウント名だった。2017年後半、同ユーザーはマシーンラーニングを活用して、有名人の顔をポルノ動画に合成したビデオを作成、ネットでシェアしていた。有名人には、ガル・ガボットやメイジー・ウィリアムズ、テイラー・スフィフトなどが含まれる。AIによるフェイクポルノ制作は急速に広まり、あるレディットユーザーは、FakeAppと呼ぶ、専門知識のない者でも作成できるアプリまで開発した。
昨年、コメディアンで映画監督のジョーダンピール氏は、Adobe After Effects（アドビアフターエフェクツ）とFakeAppを使用し、オバマ大統領に架空のスピーチをさせる動画を制作。多くのメディアが取り上げ、話題となった。
さらに今月20日、サムソンAIセンターの研究者が、一枚の画像から動画を制作する方法を開発したことが報じられた。The Vergeによると、クリップの生成には、ユーチューブから収集した有名人の7,000枚のイメージを使用。これらランドマークとなる顔の特徴をアルゴリズムにトレーニングすることで、実現しているという。
一部の議員からは、規制を求める声が上がっている。
今週、テキサス州下院議会では、選挙結果に影響を及ぼす目的で虚偽のビデオを作成した場合、刑事犯罪に問う法案が通過した。
連邦レベルでは、ベン・サス（Ben Sasse）上院議員（共和党 ネブラスカ州）が昨年、詐欺的なオーディオビジュアルの制作または配布を禁止する法案を議会に提出した。法案は昨年末の政府閉鎖により期限が切れたが、再提出する意向を示しているという。
