MITの メディアラボは、にせの かおを 見る ときの てがかりを あげて います［2］。

ひとつめは、はだ。つるつる すぎたり、しわが おおすぎたり しないか。かみや 目の ようすと、はだの とし の とりかたが あって いるか。

ふたつめは、まばたき。かいすうが おおすぎたり、すくなすぎたり しないか。みっつめは、くちびるの うごき。ことばと あって いるか、ふしぜんな ところが ないか、です［2］。

「ディープフェイク」と いう よび名は、2017ねんの おわりごろ、おなじ なまえの ネットの ひとが つけた のが はじまりと いわれます［1］。

MITメディアラボの「Detect DeepFakes」というプロジェクトは、偽の顔を疑うときの見どころを挙げています［2］。

一つ目は肌です。つるつるにお化粧したように滑らかすぎないか、逆にしわが多すぎないか。髪や目から受ける年齢の印象と、肌の年齢が合っているかも見ます。二つ目はまばたきで、多すぎても少なすぎても気にかける点です。三つ目は唇の動きで、声と合っているか、どこか不自然でないかを確かめます［2］。

「ディープフェイク」という言葉は、2017年末に、同じ名前のRedditユーザーが付けたのが始まりとMITスローン経営大学院の解説にあります［1］。この言葉が広まってから、見分け方も変わってきました。

こうした手がかりは、何も道具がなくても使えます。ただし、手がかりが見つかれば偽物で、見つからなければ本物、とは言えるのでしょうか。

人の目で疑うとき、何を見るのか。MITメディアラボの「Detect DeepFakes」は、肌、まばたき、唇の動きを挙げる［2］。肌については、滑らかすぎる、あるいはしわが多すぎないか、髪や目の年齢と肌の年齢が釣り合っているか、という問いが示されている。まばたきは、回数が多すぎても少なすぎても注意点になる。唇は、動きが不自然でないかを見る。

これらは、偽の映像を作る技術が顔を合成するときに残りやすい不自然さを、観察の言葉にしたものと読める。ただし資料が挙げているのは「注意して見る点」であり、基準値や判定の手順ではない。まばたきが何回なら偽物、という線は引かれていない。

名前の由来にも触れておく。MITスローン経営大学院の解説では、「ディープフェイク」という語は2017年末に、同名のRedditユーザーが最初に使ったとされる［1］。語が生まれてまだ日が浅いことは、見分け方がいまも更新され続ける理由の一つだろう。

では、手がかりを丁寧に見れば、偽物は見抜けるのか。それを調べた研究がある。

CSIROと いう けんきゅうの チームは、はじめに 出た 16この ツールを しらべました。けっかは、ほんとうに ネットに ある にせどうがを たしかに 見やぶれる ものは なかった、でした［3］。

アメリカの FBIも、AIで つくられた ものかどうかを 見わける のは むずかしい ことが ある と みとめて います［9］。

つまり、はだや まばたきの てがかりは、ヒントには なっても、それだけで 「にせだ」「ほんものだ」と きめる ものでは ありません。

では、どうすれば いいの でしょう。つぎは、どうがの「きろく」に ちゅうもくします。

CSIROと成均館大学の研究チームは、主要な検出ツール16種類を評価し、現実世界のディープフェイクを信頼できる形で識別できるものはなかったと報告しました［3］。研究室で用意された偽動画では見抜けても、実際に出回る新しいタイプの偽動画には弱い、という見立てです。

アメリカのFBIも、内容がAIで作られたかどうかは見分けにくいことがあると、注意喚起の中で認めています［9］。

肌やまばたきの手がかりは、疑うきっかけにはなります。しかし、決め手にはなりません。ここまでで、題名の問いへの答えが見えてきました。目だけで確実に見抜くのは難しい、ということです。では、ほかに何を頼れるのでしょうか。

手がかりの有効性を測った研究がある。CSIROと成均館大学の研究チームは、主要な検出器16種類を評価し、現実世界のディープフェイクを信頼できる形で識別できるものは一つもなかったと報告した［3］。研究者の用意した試験用データと、実際に出回る新しい型の偽映像とでは、検出器の成績が離れてしまうという問題意識が背景にある。今後どう進むかは、この資料からは読み取れない。

音声では改善の報告もある。CSIROなどのチームが開発した「RAIS」は、5段階の逐次学習にわたる平均エラー率1.95%を達成したとされる［5］。ただしこれは当該研究の設定での数字であり、現実の音声すべてで1.95%になるという意味ではない。

アメリカのFBIも、AIで生成された内容かどうかの識別が難しいことがあると、公衆向けの注意喚起で述べている［9］。

ここまでで題名の問いへの答えは出ている。目で見える手がかりは疑うきっかけになるが、それだけでは確実な判定にならない。そこで、見た目ではなく映像の履歴を確かめるという発想が出てくる。

もうひとつ、おぼえて おきたい ことが あります。AIを つかわなくても、人を まよわせる どうがは つくれる のです。

ほんものの どうがを 手で へんしゅうしたり、まえと あとを ちょん切って 一部だけ 出したり します。こういう ものは「チープフェイク」と よばれます［6］。

たとえば、ながい 話の まんなかだけを 切りとると、言った いみが かわって 見える ことが あります。

この ばあい、えの なかに ふしぜんな ところは ありません。だから、まえと あとを さがす ことが、いちばんの たしかめかたに なります。

偽の映像は、AIだけで作られるわけではありません。「チープフェイク」とは、本物の動画を手作業で編集したり、前後の文脈から切り離したりしたものです［6］。ファクトチェックを行うPolitiFactは、動画の一部を切り取って文脈を省くやり方を、チープフェイクの例に挙げています。

この場合、肌の滑らかさや唇の動きをどれだけ観察しても、手がかりは出てきません。映像そのものは本物だからです。問題は、その映像が長い話のどの部分で、いつ、何のために切り取られたのか、という外側にあります。

ディープフェイクの見分け方を考えるときも、同じ発想が使えます。「この映像は本物か」の前に、「この映像は、どこから来たのか」を考えるのです。それを助ける仕組みも作られています。

偽の映像がAIを必要とするとは限らない。ファクトチェック機関PolitiFactは、「チープフェイク」を、本物の映像を手作業で編集したもの、あるいは文脈から切り離したものと説明する［6］。例として、動画の一部を切り取って全体の文脈を省く手法が挙がっている［6］。

ここで注意すべきは、映像の素材が本物であるため、肌の質感やまばたきといった合成の痕跡を探しても何も見つからない点だ。誤解の原因は、映像の中ではなく、切り取り方と使われ方にある。前節で見た検出器も、素材が本物のチープフェイクを見抜く道具にはならない。

つまり、見分けるべき対象は「合成された映像」だけではなく、「文脈を失った映像」にも広がっている。映像の出どころや前後関係を確かめる仕組みとして、国際的な標準規格が作られている。

どうがや しゃしんが、いつ・どんな ツールで つくられ、どう へんしゅう された かを、きろくに のこす きまりが あります。「C2PA（シーツーピーエー）」と いいます［4］。

この きろくには、AIで つくられた かどうかや、どの ツールで なおしたか などが ふくまれる ことが あります。きろくは、あんごうの しくみで まもられて いて、きろくが のこって いれば、かきかえられた ことを たしかめられる ことが あります［4］。

ただし、この きろくが 「この どうがの 中身は ほんとうの こと」と しょうめい して くれる わけでは ありません。きろくが ただしい かたちで のこって いる かを たしかめる もの です［4］。

C2PA（コンテンツの来歴と真正性のための連合）は、動画や画像が作られた経緯、編集された履歴を記録して確かめるための、オープンな標準規格を作っている団体です［4］。「オープン」とは、仕様が公開されていて、だれでも読めるという意味です。

記録には、AIで生成されたものかどうか、どのツールで編集されたかといった情報が入ることがあります。この記録は暗号の技術で守られていて、記録が残っていて検証できる場合は、内容が書き換えられていないかを確かめられます。ただし、記録が一部しかないことや、対応しないツールで編集されて記録が更新されないこともあります［4］。

ここで大事なのは、仕様書自身が書いている限界です。この仕組みは「その情報が真実か」という価値判断はしません。確かめるのは、来歴の情報が決められた形で正しく残っているかどうかです［4］。手紙にたとえると、「だれが、いつ、どのポストに入れたか」は分かっても、手紙の中身が正しいかは、別に考える必要があります。

では、この記録がついていない動画は、偽物と考えてよいのでしょうか。

映像の履歴を記録する側の取り組みが、C2PA（Coalition for Content Provenance and Authenticity）である。デジタルコンテンツの作成や編集の履歴を記録し、改ざんされていないことを確認するためのオープン標準を作成している［4］。生成AIが使われたか、どのツールで編集されたかといった情報が、暗号的に署名された形で付けられる。

決定的に重要なのは、仕様書が自ら示す限界である。Content Credentialsは、ある来歴データが「真実」かどうかの価値判断は与えず、来歴情報が正しい形式で残っているかを示すにすぎない［4］。たとえば誤った内容を述べる動画に、正しい形式の来歴が付いていることもあり得る。この場合、C2PAが保証するのは「どう作られたか」であって、「言っていることが正しいか」ではない。

つまり、来歴の記録は、見た目の観察を置き換えるものではなく、問いの種類が違う。見た目は「合成の痕跡があるか」、来歴は「どんな経緯で作られたか」を答える。

では、肝心の来歴が付いていない動画は、どう扱えばよいのか。

ここが いちばん たいせつな ところです。きろくが ない から にせもの、とは いえません。

C2PAの きろくを つけるか どうかは、つくる 人が えらべる ことに なって います［7］。だから、きろくの ない どうがは たくさん あります。

また、きろくが あった としても、一部だけの ことが あります［7］。きろくが ない ことは、ほんものの しるし でも、にせものの しるし でも ありません［8］。

C2PAの きまりを つくった 人たちも、これは 「何でも かいけつ」の ほうほうでは ない と かいて います。ほかの ほうほうと くみあわせて つかう もの、という ことです［7］。

C2PAの来歴情報を付けるかどうかは任意です［7］。つまり、付いていない動画は世の中にたくさんあります。付けなくても投稿はできるからです。

フォレンジック（デジタル機器の証拠を調べる分野）の企業Magnet Forensicsの解説は、来歴情報がなくても、そのファイルが本物であるとも、AIが関わっていないとも言えない、としています［8］。同じ理由で、ないことだけで偽物とも言えません。「ない」は、判定の材料にならないのです。

付いていたとしても、安心しきれません。仕様書は、来歴は常に完全とは限らず、一部しか記録されていないことがあると述べます［7］。

その仕様書は、この仕組みを偽情報への万能の解決策とはしていません。メディアリテラシー、ファクトチェック、デジタルフォレンジックなどと補い合うものと位置づけています［7］。作る側の人たちが、道具の限界をはっきり書いているわけです。

目の観察にも限りがあり、検出ツールにも、来歴の記録にも穴がある。それなら、最後に頼れるのは何でしょうか。

来歴情報の取り扱いには条件がある。第一に、付与は任意である。C2PAの説明書は、アセットに来歴を付けるのは任意だと述べる［7］。そのため、来歴のない映像は多数ある。

第二に、来歴がないことの意味。Magnet Forensicsの解説は、C2PAのマニフェスト（認証情報）がないことは、そのファイルが真正であることも、AIが関わっていないことも示さない、と述べる［8］。同じ理屈で、ないことを偽物の証拠にもできない。「付いていない」は、どちらにも決められない状態である。なお、この資料はフォレンジックを扱う企業の解説であり、仕様書とは立場が違うことも念頭に置く。

第三に、付いていても完全とは限らない。仕様書は、来歴は常に完全とは限らないと述べる［7］。途中の編集の一部が記録されていない場合などが考えられるが、具体的な発生条件は資料に書かれていない。

以上を踏まえ、仕様書は来歴を偽情報の万能の解決策とせず、メディアリテラシー、ファクトチェック、デジタルフォレンジックの手法を補うものと位置づける［7］。作り手自身が、他の手段との併用を前提にしているということだ。

では、併用する「他の手段」の中心にあるのは何か。私たちが日常でできることに落としこむ。

どうがを 見て 「え、ほんとう？」と おもったら、すぐ だれかに おしえる まえに、3つ たしかめて みましょう。

ひとつめ、だれが 出した どうがか。ふたつめ、ながい どうがの 一部では ないか。まえと あとが ありそうなら、さがして みます。みっつめ、ほかの ところでも、おなじ ことを つたえて いるか。

おうちの 人と いっしょに 見ながら、はなして みるのが おすすめです。

もう ひとつ、おうちの 人と 10びょう ならんで まばたきを かぞえて みましょう。みじかい じかんでも、人に よって かいすうが ちがう ことが あります。だから まばたきだけで 「にせ」とは きめられない のです。

こまった ことが あったら、ひとりで かかえずに おうちの 人や 学校の 先生に そうだん してね。

目で見る手がかりと、出どころの記録は、どちらも決め手にはなりませんでした。残るのは、いろいろな材料を組み合わせて判断する習慣です。

動画を見て「え、本当？」と思ったら、次の三つを確かめてみましょう。一つ目は、だれが出した動画か。二つ目は、長い映像の一部ではないか。前後がありそうなら探します。三つ目は、ほかの信頼できる場所でも同じことが伝えられているか［6］。

家でもできる練習があります。家の人と並んで、10秒間のまばたきの回数を数えます。人によって回数がちがうことが分かります。回数だけでは判断できない、と体で納得できます。

FBIは、AIを使った詐欺にあったときは、アメリカのインターネット犯罪苦情センターに届けるよう案内しています［9］。日本に住む私たちは、困ったときは家族や学校の先生、身近な大人にすぐ話すのが先です。

次に気になる動画を見かけたら、家の人と一緒に、出どころと前後をたどってみましょう。

見た目、検出器、来歴のどれも単独では決め手にならない。残る方法は、出どころ、前後の文脈、複数の情報源を組み合わせて確かめる方法である。C2PAの説明書がメディアリテラシーやファクトチェックとの併用を前提としていること［7］、PolitiFactがチープフェイクを文脈の問題として扱っていること［6］からも、方向はそろう。

日常に落とすと、次の三段になる。(1) 出どころ：だれが、いつ、どの場所に出した映像か。来歴情報があれば手がかりになるが、ないことは判定にならない。(2) 前後の文脈：長い映像の一部ではないか。元の全体を探す。(3) 複数の情報源：ほかの信頼できる場所でも同じ内容が伝えられているか。

観察の練習として、家族と10秒間のまばたきを数え比べてみるとよい。個人差があることが実感でき、まばたきの回数だけで判定できない理由が分かる。回数の基準値はここで引いた資料にはないので、数えた回数を「正常か異常か」の判定に使わない。

残る問いもある。検出器は新しい型の偽映像にどこまで追いつけるのか［3］。悪意をもつ作成者が来歴を付けない場合、どう見分けるのか［7］。いずれも、資料の中では答えが出ていない。原典はいずれも英語だが、出典欄から読める。