Case file
記憶と目撃証言ディープフェイクは記憶を書き換えるのか。偽の映画を「見た」人は約半数、でも文章だけでも同じだった

AIで作った本物そっくりの偽の映像、ディープフェイク。見た人の記憶まで書き換えてしまうのではないか、と心配されています。研究では、偽の映像を見た人の多くが、実際にはない出来事を「覚えている」と答えました。ただし、同じ内容を文章で読んだだけの人も、同じくらい偽の記憶を持ちました。
SUMMARY
- 存在しない映画のリメイクをディープフェイクで見せた2023年の実験では、平均49%の人が「見た」「聞いたことがある」と答えた。
- ただし、文章の説明だけを読んだ人とのあいだで、偽の記憶の割合に差はなかった。偽の写真や映像の研究でも、映像の形式そのものが決め手とは言えない結果が続いている。
- 一方で、人はディープフェイクをあまり見抜けない。正答率は57.6%で、偶然の50%をわずかに上回る程度だった。それでも自分の見抜く力を高く見積もっていた。
01どんな心の仕組みが働いているのか
記憶は録画ではなく、思い出すたびに組み立て直されます。頭に浮かんだ場面の出どころを取り違えると、見ていない出来事も「覚えている」と感じます。
心理学では、記憶は出来事をそのまま保存したものではなく、思い出すときに再構成されるものだと考えられています。思い出した場面が、実際に体験したことなのか、話に聞いたことなのか、想像したことなのか。人はその出どころを、場面の鮮やかさやもっともらしさを手がかりに判断しています。
この判断を誤ると、聞いただけの話や想像した場面を、自分の記憶だと思いこみます。これを出どころの取り違え(ソースモニタリングの誤り)と呼びます。本物そっくりの映像は、場面を思い浮かべやすくするため、この取り違えをとくに起こしやすいのではないかと心配されてきました。
言葉ひとつで記憶が変わる研究は誤情報効果の記事で、体験していない出来事を思い出す研究は「迷子の記憶」実験の記事で紹介しています。この記事では、写真や映像という「見せ方」に注目します。
02研究でわかっていること
偽の写真や映像で偽の記憶が生まれることは、くり返し確かめられています。ただし、映像が文章より強く記憶を書き換えるという結果は、一貫していません。
Wadeら(2002)[1]
子どものころの写真に手を加え、本人が気球に乗っている偽の写真を作った。3回の面接で写真を見ながら思い出してもらうと、50%の人が、気球に乗った体験を部分的にまたは詳しく「思い出した」。
対象: 大人20人 / 限界: 少人数の研究で、場面を思い浮かべる練習も組み合わせていた。
GarryとWade(2005)[2]
同じ気球の出来事を、偽の写真で見せる場合と、短い文章で伝える場合を比べた。偽の記憶を報告しやすかったのは、写真ではなく文章のほうだった。研究者は、文章のほうが出来事になじみがあるような感覚を生みやすいためだと説明した。
対象: 1週間にわたり偽の出来事と本当の出来事を思い出す課題の参加者 / 限界: 子どものころの出来事についての実験で、ニュースや事件の記憶とは状況が違う。
Scoboriaら(2017)[3]
偽の記憶を植えつける8つの研究の記録(423人)を、同じ基準で採点し直した。偽の記憶と判定されたのは30.4%で、さらに23%が出来事をある程度受け入れていた。本人に関わる情報があり、想像させる手順があり、出来事の写真を添えなかった場合には、46.1%になった。
対象: 8つの研究の423人 / 限界: 研究ごとに手順が違い、通常のメタ分析とは異なる方法でまとめている。
Nash、Wade、Lindsay(2009)[4]
簡単な動作をまねする課題のあと、本人がしていない動作もしたように編集した偽の動画を見せた。2週間後に確かめると、偽の動画だけでも、想像させるだけでも、していない動作を「した」と信じたり思い出したりすることが多かった。両方を組み合わせると、効果は足し算どおりか、それ以上に大きくなるようだった。
対象: 実験室での参加者 / 限界: ごく単純な動作についての記憶で、人生の出来事や事件の記憶ではない。
Wade、Green、Nash(2010)[5]
ゲームの相手(実は実験の協力者)が不正をした、と参加者にうそを伝えた。不正の場面に編集した偽の動画を見た人は、「映像がある」と聞かされただけの人や、何も聞かされなかった人より、約3倍、目撃したと認める書面に署名しやすかった。相手が処分を受けるかもしれない書面だった。
対象: 実験室での参加者 / 限界: 実験室のゲームでの出来事で、実際の裁判の証言とは重みが違う。
Murphyら(2019)[6]
2018年のアイルランドの国民投票の直前に、本物4本と作り話2本のニュースを読んでもらった。ほぼ半数が、作り話の出来事の少なくとも1つを「覚えている」と答え、3分の1を超える人が具体的な記憶を語った。自分の投票先に都合のよい作り話ほど、覚えていると答えやすかった。後から誤情報の可能性を警告すると偽の記憶はわずかに減ったが、なくならなかった。
対象: 3,140人 / 限界: オンラインでの回答で、記憶の有無は本人の申告にもとづく。
MurphyとFlynn(2022)[7]
2つの実験で、作り話のニュースを、文章だけ、文章と写真、文章とディープフェイク動画のいずれかで見せた。参加者はディープフェイクを説得力があり危険だと評価し、動画を見たあとに偽の記憶を報告した人もいた。それでも、ディープフェイクの形式が、文章や写真より偽の記憶を一貫して増やすことはなかった。
対象: 2つの実験で計682人 / 限界: 著者自身が、さらなる研究が必要だと述べている。
Murphyら(2023)[8]
ウィル・スミスが主演する『マトリックス』など、存在しない映画のリメイクをディープフェイクで見せた。偽の記憶は平均49%で、偽のリメイクのほうが元の映画よりよかったと覚えている人もいた。しかし、映像で見た場合と文章で読んだ場合の差は、どの映画でも統計的に意味のある差にならなかった。たとえば『マトリックス』は映像で39%、文章で45%だった。
対象: 18〜65歳の436人 / 限界: 「聞いたことがある」も記憶ありに数えており、本人の申告にもとづく。
Köbisら(2021)[9]
本物とディープフェイクが半分ずつと知らせたうえで、16本の動画を見分けてもらった。正答率は57.6%で、偶然の50%をわずかに上回る程度だった。参加者は67.4%の動画を「本物」と答え、偽物を本物と見誤る方向に偏っていた。危険性を知らせても、正解に報酬を出しても、正答率は上がらなかった。さらに、自分の見抜く力を実際より高く見積もっていた。
対象: 主に英国の210人 / 限界: 政治的な内容を含まない短い動画で、見分けること自体を課題にした実験。
03よくある思い込みと、研究が示す実際
「本物そっくりの映像ほど記憶を書き換える」は、研究では支持されていません。危ういのは映像の出来より、話の中身と、見抜けると思いこむ心です。
04日常で生かせる視点
映像かどうかより、その話を「どこで知ったか」をたどる視点が役立ちます。記憶の鮮やかさは、本当にあったことの証拠にはなりません。
- 「確かに見た覚えがある」と感じたら、それを実際に見たのか、ニュースやSNSで読んだのか、出どころを思い出してみる。
- 自分の考えに合うニュースほど、覚えていると感じやすい。2019年の研究では、投票先に都合のよい作り話ほど偽の記憶が生まれた。
- 裁判員として映像の証拠を見るときは、その映像がどこで、だれによって記録されたかの説明にも目を向ける。偽の映像が目撃証言を変えうることは、2010年の実験でも示されている。
05よくある質問
ディープフェイクを見ると、偽の記憶ができるのですか
できることがあります。2023年の実験では、存在しない映画のリメイクをディープフェイクで見た人の平均49%が、見た、または聞いたことがあると答えました。ただし、文章で読んだだけの人と割合に差はありませんでした。
写真や動画の偽物は、文章のうそより記憶に残りやすいのですか
研究ではそうとは限りません。2005年の研究では写真より文章のほうが偽の記憶を生みやすく、2022年と2023年のディープフェイクの研究でも、映像が文章より一貫して偽の記憶を増やすことはありませんでした。
人はディープフェイクをどのくらい見抜けますか
2021年の実験では正答率57.6%で、偶然の50%をわずかに上回る程度でした。偽物を本物と見誤る方向に偏っており、注意をうながしても、報酬を出しても正答率は上がりませんでした。
偽の記憶は、警告されれば消えますか
完全には消えません。2019年の国民投票の研究では、誤情報の可能性を警告すると偽の記憶はわずかに減りましたが、なくなりはしませんでした。
SOURCES
- Wade, K. A., Garry, M., Read, J. D., & Lindsay, D. S. (2002). A picture is worth a thousand lies: Using false photographs to create false childhood memories. Psychonomic Bulletin & Review, 9(3), 597-603. https://doi.org/10.3758/BF03196318
- Garry, M., & Wade, K. A. (2005). Actually, a picture is worth less than 45 words: Narratives produce more false memories than photographs do. Psychonomic Bulletin & Review, 12(2), 359-366. https://doi.org/10.3758/BF03196385
- Scoboria, A., Wade, K. A., Lindsay, D. S., Azad, T., Strange, D., Ost, J., & Hyman, I. E. (2017). A mega-analysis of memory reports from eight peer-reviewed false memory implantation studies. Memory, 25(2), 146-163. https://doi.org/10.1080/09658211.2016.1260747
- Nash, R. A., Wade, K. A., & Lindsay, D. S. (2009). Digitally manipulating memory: Effects of doctored videos and imagination in distorting beliefs and memories. Memory & Cognition, 37(4), 414-424. https://doi.org/10.3758/MC.37.4.414
- Wade, K. A., Green, S. L., & Nash, R. A. (2010). Can fabricated evidence induce false eyewitness testimony? Applied Cognitive Psychology, 24(7), 899-908. https://doi.org/10.1002/acp.1607
- Murphy, G., Loftus, E. F., Grady, R. H., Levine, L. J., & Greene, C. M. (2019). False memories for fake news during Ireland's abortion referendum. Psychological Science, 30(10), 1449-1459. https://doi.org/10.1177/0956797619864887
- Murphy, G., & Flynn, E. (2022). Deepfake false memories. Memory, 30(4), 480-492. https://doi.org/10.1080/09658211.2021.1919715
- Murphy, G., Ching, D., Twomey, J., & Linehan, C. (2023). Face/Off: Changing the face of movies with deepfakes. PLOS ONE, 18(7), e0287503. https://doi.org/10.1371/journal.pone.0287503
- Köbis, N. C., Doležalová, B., & Soraperra, I. (2021). Fooled twice: People cannot detect deepfakes but think they can. iScience, 24(11), 103364. https://doi.org/10.1016/j.isci.2021.103364


