ディープフェイク被害急増で若者の危機感高まる 「SNSを全削除」するZ世代が増加中


生成AIの急速な発展により、一般人でも簡単に高品質な「ディープフェイク」が作れる時代になりました。こうした技術の悪用による被害が急増する中、デジタルネイティブと呼ばれるZ世代の間でも大きな危機感が広がっています。SNSでの個人情報公開に慎重になり、アカウントを削除する若者も増えているようです。

ディープフェイク問題とは？生成AIがもたらす新たな脅威

ディープフェイクとは、生成AIによって作成された偽の画像や動画のことを指します。技術の進歩により、以前に比べてはるかに簡単に高品質な偽コンテンツが作れるようになりました。特に問題視されているのが「性的ディープフェイク」で、AIを使って一般人の顔をわいせつな画像や動画に合成する行為が急増しています。

このような技術の悪用は国内外で大きな社会問題となっており、被害者の多くは自分が被害に遭っていることさえ気づかないケースが多いのです。トレンドマイクロの調査によると、回答者の14.6％がすでにディープフェイクの悪用被害を経験していることが明らかになっています。

最も深刻なのは、以下のような問題点です：

  • スマホ一つで誰でも簡単に作成できる
  • 被害者は自分の画像が悪用されていることに気づきにくい
  • 一度拡散すると完全に削除するのが難しい
  • 法規制が技術の進展に追いついていない

韓国の事例をきっかけにSNSアカウントを削除した女子大生

都内の大学に通う21歳の女性・Aさんは、韓国でのディープフェイクポルノ被害のニュースを見て強い危機感を抱き、自身のSNSアカウントを全て削除したといいます。

「韓国でディープフェイクポルノが拡散される事件が多発し、昨年にはポルノの視聴と所持が懲役3年以下の有罪になるなど、法整備が進んでいるというニュースを見ました。大学の授業でも生成AIについて扱っていることもあって、このニュースを見て強い危機感を覚えました」とAさんは語ります。

彼女がもっとも恐れているのは「被害を自覚できないこと」です。「ダークウェブ上にディープフェイク動画が流出していたとしても、悪用された被害者側がそれを知ることは難しい」と指摘し、鍵アカウントにしていても身内からの流出リスクを考慮して、InstagramやBeRealなどのSNSアカウントをすべて削除する決断をしました。

ネットに氾濫する「ディープフェイク作成アプリ」の実態

DJとしても活動する19歳の男子大学生Bさんは、ネット上にディープフェイク作成ツールが簡単にアクセスできる状況を懸念しています。

「最近、写真を読み込ませると自動で特定のアニメ風に加工してくれる、いわゆるAIアニメ化アプリが流行していますよね。中学生の妹も、自分の写真や友人の写真をアップしてアニメ化して遊んでいるので、10代前半にも普及しているのは間違いないです」

特に問題視されているのは、以下のようなアプリの存在です：

  • 「顔入れ替え」機能を持つ画像生成アプリ
  • 推しの芸能人や知人とキスしているような動画を簡単に生成できるアプリ
  • まとめサイトで丁寧に使い方が解説されているため、若年層でも操作可能

こうしたアプリは使い方が簡単で、技術的知識がなくても操作できるため、悪用のハードルがきわめて低いのが現状です。

「フェイク動画作ってよ！」と頼まれる若者たち

さらに衝撃的なのは、ディープフェイク技術を使った不適切な加工を依頼されるケースが実際に発生していることです。Bさんは音楽イベントなどで知り合った人から「あの子の画像でエロ動画つくってよ」「この子に別の服着せられたりするの？」などと頼まれた経験を持っています。

「もともと僕が映像制作が得意だったり、遊びでAI生成の音楽を作ったりしていることもあり、イベントで知り合った人からそうした依頼を受けました。もちろん断っていますが、今後こうしたツールが広まっていけば、被害者が増えるのは目に見えています」とBさんは語ります。

また、就職活動への影響を懸念して「高校時代までのSNSは全部削除した」という女子大生の例も紹介し、デジタルネイティブ世代のなかでも情報リテラシーの高い若者たちの間で危機感が広がっていることを指摘しています。

Z世代のプライバシー意識と自己防衛策

Z世代のSNS利用実態に関する研究も進んでいます。至学館大学の八尋風太助教による調査では、Z世代に人気のSNSアプリ「BeReal」の利用実態と学習意欲やプライバシー意識との関連が調査されました。

調査対象となった大学生の約7割が「BeReal」を利用しており、そのうち約6割が授業中にも投稿したいと考えているなど、依存性の高さが示されています。一方で、プライバシー意識については、「授業中も投稿する」グループは、「授業中は投稿しない」グループに比べて、自己のプライバシー意識が低い傾向が示されました。

このような状況に対して、若者たちは以下のような自己防衛策を取り始めています：

  • SNSアカウントの完全削除
  • 顔写真や個人を特定できる情報の投稿を控える
  • 鍵アカウント化（非公開設定）の徹底
  • 身内にもSNS投稿を共有しないよう注意喚起

ディープフェイク被害から身を守るための対策

ディープフェイクの脅威から身を守るためには、いくつかの対策が考えられます。

ファクトチェックの重要性

情報の真偽を確認する習慣をつけることが重要です。特に企業には「情報の真偽確認体制の構築」が欠かせません。ファクトチェック専用のツールを活用したり、情報のモニタリングを継続的に行うことで、虚偽の内容を早期に発見できます。

ディープフェイク検出ツールの活用

ディープフェイクを見分けるための技術も開発されています。AIを駆使し、動画・画像・音声などのメディアデータから不自然な特徴や改ざんの痕跡を検出するツールが登場しています。Microsoft、ワシントン大学、USA Today、Sensityなどが提供する自己学習コンテンツで知識をつけることも有効です。

法的対応の進展

国内でも法整備が進みつつあります。鳥取県では「性的ディープフェイク」を禁止する条例改正案が可決されました。また、衆院内閣委員会ではAI法案を可決し、ディープフェイクポルノ対策強化を政府に求める付帯決議も採択されています。

法務省も「実在する児童の姿態を、視覚により認識することができる方法で描写したものと認められる場合は、児童ポルノに該当しうる」との見解を示し、法的対応の可能性を広げています。

これからのSNS利用と個人情報保護の重要性

急速に進化するAI技術の中で、私たちのプライバシーを守るための意識はますます重要になっています。特にZ世代を中心に広がるSNSアカウント削除の動きは、新たなデジタル時代におけるプライバシー保護の在り方を問いかけています。

SNSでの誹謗中傷や個人情報流出があった場合、各プラットフォームには削除依頼の仕組みがありますが、一度流出した情報を完全に消し去ることは難しいのが現実です。

ディープフェイク技術は今後ますます高度化し、見分けることが困難になると予想されています。トレンドマイクロの調査では、ディープフェイクを本物と見分けられると回答したのはわずか1.9％で、大半が情報の真偽判断に自信がないと答えています。

私たちに求められているのは、プライバシー意識の向上と情報リテラシーの強化です。自分の個人情報を守るという意識を持ちながら、デジタル社会と付き合っていくことが必要な時代になっているのです。

参考情報

注意

・Amazonのアソシエイトとして、双子のドラ猫は適格販売により収入を得ています。
・この記事は情報提供を目的としたものであり、医学的・法律的なアドバイス等の専門情報を含みません。何らかの懸念がある場合は、必ず医師、弁護士等の専門家に相談してください。
・記事の内容は最新の情報に基づいていますが、専門的な知見は常に更新されているため、最新の情報を確認することをお勧めします。
・記事内に個人名が含まれる場合、基本的に、その個人名は仮の名前であり実名ではありません。

コメント

タイトルとURLをコピーしました