「ディープフェイク」と呼ばれる偽動画への対策が進化してきた。東京大学は人工知能（AI）を訓練し、9割前後と世界最高水準の精度で偽動画を見破る手法を開発した。米メタ（旧フェイスブック）や米マイクロソフトなどIT（情報技術）大手も検出ソフトなどを開発し、悪質な偽動画の排除を強化する。政治家などの偽動画がはびこれば社会に混乱をきたすため、封じ込めを急ぐ。

4月、東大の山崎俊彦准教授らは米テック企業をしのぐ世界最高水準の性能を誇るディープフェイクの検出手法を開発した。代表的な5つの評価指標を用いて検証したところ、4つの指標で既存の検出技術を上回った。ほとんどで9割前後の精度を示し、最も判別が難しい指標でも7割以上を見分けた。
検出の鍵となったのがAIの訓練だ。偽動画の検出にはAIを使うが、学習のために大量の画像データを読み込んで精度を高める。「より難しい問題」をたくさん訓練させることで検出技術が上がった。
具体的には、1人の顔写真の色や画像のサイズをわずかに変えた画像を2枚つくり、これを混ぜ合わせて見分けが難しい訓練用の偽画像を合成し、AIに学ばせて高精度の検出が可能になった。国際会議で報告するとともに、ソースコードを公開して広く活用できるようにする。
米テック企業も対策技術の向上を急ぐ。メタは米ミシガン州立大学と協力し、偽画像の作成方法を判別する「リバースエンジニアリング」と呼ぶ手法を開発した。100種類の作成手法から10万の偽画像をつくって有効性を確かめた。成果を公開し、企業が様々なディープフェイクを検出できるように役立てる。

偽ニュースへの緩慢な対応で批判を受けた経験をもつメタにとって対応は急務だ。同社は2020年に「ディープフェイクと認められ、誤解を招くよう操作された動画に対する方針を厳格化する」と打ち出しており、コンテンツの削除などに取り組む。
ディープフェイクでつくられた偽動画は、合成部分のつなぎ目など不自然な点が残っていることが多い。こうした部分は「アーティファクト」と呼ばれ、検出の手掛かりとなりうる。AIを検出技術にも活用することで、ディープフェイクの対策も進化してきた。
マイクロソフトは微妙な色あせなどをもとに偽動画かどうかを判定するソフトウエアを開発。偽情報対策を推進する活動を通じ影響力の大きな報道機関などに提供する。米アマゾン・ドット・コムも多様な偽動画を見分けられるAIを開発し、論文で公表した。
社会問題化するディープフェイクへの対抗でテック企業が手を組む場面も目立つ。メタやマイクロソフト、アマゾンは偽動画の検出を競うコンテストの開催などで連携してきた。2000人の研究者らが参加し、3万を超す検出技術の応募があった。コンテストで使ったデータは広く研究に生かされている。
ディープフェイクはAIの技術であるディープラーニング（深層学習）を使って作成することが多い。有名人などの顔が写った画像などを他人の顔に入れ替えることで、まるで本人が話しているような偽物の動画などを作成できる。2種類のAIを競わせて精巧な画像などを生みだす「敵対的生成ネットワーク（GAN）」などディープラーニングの技術進化により、自然な加工が可能となった。

世界では規制の動きも広がっている。中国は1月、顔や声などを編集する場合は、対象となる人に通知し、同意を得ることを義務付ける規制案を公表した。欧州連合（EU）は21年に公開したAIに関する規制案で、偽動画などを使う場合は人工的につくられたものであることを開示しなければならないとした。米国は用途を区切り、州単位で規制している。
社会問題になる事例も増えている。3月中旬、フェイスブックを運営するメタの安全ポリシー責任者、ナタニエル・グライチャー氏はウクライナのゼレンスキー大統領が実際には発表していない声明を読み上げる偽動画を削除したと表明した。

米国では21年、チアリーダーをする娘のライバルを陥れるため、飲酒や喫煙をしている偽動画をつくり、コーチらに送った女が逮捕された。政治家を狙うケースも多く、日本では21年に加藤勝信官房長官（当時）が地震に関する記者会見で笑みを浮かべる偽画像がツイッターで拡散した。
AI研究スタートアップ、NABLAS（ナブラス、東京・文京）の中山浩太郎社長は「ディープフェイクの怖さは誰でも簡単に作成できるようになった点にある」と指摘する。オランダの情報会社センシティによると18年12月から半年ごとに倍増し、20年12月に検知された偽動画は約8万5千件にのぼる。
検出手法が進化してもディープフェイクの封じ込めは容易ではない。東大の山崎氏は「見破る技術が上がると、つくる側はそれを上回る技術を考えるようになる」と指摘する。監視の手を緩めず、協調して排除を急ぐ必要がある。
（大越優樹、AI量子エディター　生川暁）

（日本経済新聞）