「ディープフェイク」という危険性について
5 月 9 日、ある参加者がAI 機器を用いて岸田総理の声真似をリアルタイムで実演し、その声色や話し方の再現度の高さが話題となった。しかし、AIで作成された偽動画や音声「ディープフェイク」が世界中で問題となっており、安野貴博さんもその危険性について語りました。ロシアとウクライナとの情報戦などを例に、安野さんはディープフェイクの危険性を訴えかけました。また、安野さんはAIへの恐怖についても言及し、「今までは『映像があるもの』＝『実際に起きたこと』だと信じていたが、これからは何を信じていいのかというラインが大きく変わる。オレオレ詐欺のように、大企業の社長の声を真似して詐欺事件を起こす可能性もある」と話しています。
安野貴博さんのTwitterから
安野貴博さんは、AIが生成した音声や映像と人間の判断力について、動画をTwitterに投稿しています。動画では、男性である安野さんの話している途中で、徐々に女性の顔・声に変化していき、最後には「誰が見ても女性」となります。映像・音声として認識させる性別・年齢などは容易にコントロールできるのです。安野さんは、「生成 AIによって嘘を嘘と見抜ける時代が終わるのではないか。本人認証や真実性を担保する仕組みを社会に注入していく必要がある」と語ります。
ディープフェイクに対する対策は？
ディープフェイクの危険性に対しては、対策が必要です。例えば、情報を発信する時には真実性を検証し、二次情報を拡散しないようにすることが重要です。また、AI 技術を使って偽動画や音声を生成する技術も発達しているので、識別技術の開発が必要です。それに加えて、本人認証の仕組みや真実性を担保する仕組みの構築が必要です。人工知能技術やデジタル技術は世界を便利にする反面、その危険性もあります。人々がそのような技術を活用して、よりよい未来を作っていくためにも、適切な対策が求められます。
結論
AI 技術の進歩によって、「映像があるもの」が「実際に起こったこと」を示す証拠となる時代は過ぎ去り、ディープフェイクの影響が深刻になっています。人々が真実を見抜くために、情報の検証を怠らず、真実性を担保する仕組みを確立していく必要があります。
<< photo by Brian McGowan >>
