情報研シリーズ26 ディープフェイク 生成aiとの共棲に向けて 丸善ライブラリー

我々はネットワークを通じて日々情報にアクセスして生活している。その中では、情報の信頼性が大きな意味を持つ。いわゆるディープフェイクの存在は、その根幹を揺らがせる大きな問題だ。

現代における「信頼できる情報」とは何か。多くの人にとっての「信頼できる情報」は、視覚や聴覚といった感覚的な要素に大きく依存している。だからこそ、視覚的・聴覚的に本物らしい偽物を生成できるディープフェイクは、単純なフェイクニュースよりも強い破壊力を持つ。これは、文字だけの情報に対する懐疑心とは異なり、映像や音声に対して人が無意識に「信じやすい」という認知心理にも関係している。

同時にディープフェイクの問題は、ネットにおける我々のアイデンティティや尊厳に関わる課題も拡大している。

SNSや動画投稿サイトを通じて、誰もが日常を公開し、なにかに対する意見を述べている。ディープフェイクは、そうした公開された「顔」「声」「言葉」を悪用し、他者になりすます手段を与えてしまうことになる。単に「騙す」だけでなく、「自分が勝手に使われる」「人格を奪われる」という現象が、誰にでも降りかかる可能性を否定できない時代になったのだ。

本書では、ディープフェイクの脅威、生成技術と対策、拡散と課題について詳述。ディープフェイクと人が共棲する未来について考察する。特別寄稿「ディープフェイクの規制」も収録。