10/06導入フェーズ2024-10-06生成AIの進歩が目覚ましいですが、それと合わせて「ディープフェイク」という言葉がよく聞かれるようになりました。ディープフェイクは便利で生活を豊かにしてくれる技術ですが、使い方を間違えてしまうと大きな被害や損害が出てしまう可能性もあります。アプリやツールを使えば誰でも簡単に使えてしまう分、自分自身が被害者や加害者になってしまう可能性も出てきます。本記事では、ディープフェイクとはどういうものなのか、また見分ける方法や対策などについて詳しく解説していきます。ディープフェイクについての知識を身につけ上手に活用するために、ぜひ最後までご覧ください。目次ディープフェイクとはまず初めに、ディープフェイクの基本についてわかりやすく説明します。「ディープフェイク」について理解するためには、意味や語源、仕組みなどを知っておくことも重要です。基本的な知識を身につけ、理解を深めましょう。Fake)は、人工知能(AI)技術を使用して実在する人物の顔や声を非常にリアルに模倣した偽のビデオやオーディオクリップを作成する技術です。Learning(深層学習)」と「Fake(偽物)」という2つの言葉を組み合わせた造語です。ディープフェイク技術は娯楽や芸術の分野でポジティブな用途もありますが、偽ニュースの拡散・政治的な操作・詐欺・プライバシーの侵害など、様々な悪用の可能性も指摘されています。公共の人物の言動を捏造したり、個人の同意なくプライベートな映像を作成するなど、倫理的・法的な問題を引き起こすケースが増えています。Network、生成敵対ネットワーク)と呼ばれる技術が使われています。GANは、2つのAIを競わせることで、非常にリアルな画像やビデオを生成する技術です。一方のAI(生成するAI)は本物そっくりのデータを作り出そうとし、もう一方のAI(監視するAI)はそのデータが本物か偽物かを見分けようとします。この競争を通じて、生成する側のAIは、次第に本物と見分けがつかないほど高品質な偽物を作り出すようになります。ディープフェイクの良い活用事例7つ生成AIやディープフェイクの技術は、上手に活用すれば人々の暮らしをより豊かなものに変えてくれます。ディープフェイクが実生活の場面でどのように使われているのか、具体的な事例を見ていきましょう。今回解説する事例において、弊社がX(旧Twitter)で発見した参考となるツイートを紹介させていただいております。AIアナウンサーディープフェイク技術により、リアルなCGキャラクターがAIアナウンサーとしてニュース原稿を読み上げることも可能です。中国の大型連休である「春節」の期間中、すべてAIアナウンサーによりニュース番組を放送するという試みを行いました。することで、本物のアナウンサーたちが今まで不可能だった大型連休の帰省ができたそうです。※1日本の地上波番組でも、テレビ朝日の先輩アナウンサーの顔や声を基に作られた「花里ゆいな」がニュースを読んでいるのをご存じの方も多いのではないでしょうか。こちらの動画はデビュー当初の映像なので、表情や音声に違和感を抱く人も多いと思います。現在では生成AIの急成長により、AIアナウンサーの表情や身振りはより一層人間味を増して自然なものになっています。2023本物の人間の場合、読み間違いや言い間違い、余計な間投詞が入ることもありますが、AIアナウンサーであればそういった問題もなくなりますね。突発的なニュースにもすぐに対応できたり、24時間ニュースを報道できるようになったりといったメリットもあります。映画・CG制作ディープフェイク技術は、映画制作などエンターテインメント業界でも活用されています。リアルなCGキャラクターの生成、故人の映像の生成、俳優を若返らせるなど、創造的な用途で使用可能です。実際に、マーティン・スコセッシ監督の映画「アイリッシュマン」では、ディープフェイク技術を活用して俳優のロバート・デ・ニーロを若返らせました。ディープフェイクを活用することで、全く違和感なくデ・ニーロが若かりし頃の姿で再現されています。ディープフェイクの技術により、視覚的なリアリズムを追求し、ユーザーに新しい体験を提供することが可能になりました。多言語への吹き替えディープフェイク技術を活用することで、多言語への吹き替えがより自然に行えるようになりました。映像内の人物が実際に異なる言語を話しているかのように口の動きを調整することで、視聴者は映画特有の違和感である「リップシンク(口の動きとセリフ・歌などの音声が、同期している状態)のズレ」を感じることなく、映画や番組を楽しむことができるでしょう。吹き替えによる言語の壁をなくすことができれば、世界中のさまざまな言語話者に向けてコンテンツを発信できます。故人を蘇らせるディープフェイク技術を活用して、亡くなった俳優や有名人を映像の中で蘇らせるという動きも存在します。自動車事故で亡くなった俳優ポール・ウォーカーの、映画「ワイルドスピード」の未完成シーンをディープフェイクで完成させたことは特に有名ですね。ディープフェイクは、人物だけでなく声の再現も可能です。Bourdain」では、故人が手紙の中で残した言葉がディープフェイク技術により本人の音声として再現されています。※2日本では、1989年に亡くなった歌謡界の女王・美空ひばりをデータ上で再現するという取り組みをNHKが行いました。AI技術を用いて本人の歌声を再現し、さらにCGで作成された「AIひばり」も登場。賛否両論はあったものの、映像の中で蘇る美空ひばりの姿にファンからは多くの感動の声が集まりました。※3バーチャル試着ディープフェイク技術は、洋服選びや試着の場面でも活用が進んでいます。バーチャル試着は、「実際に試着できないためにイメージがつかみにくく、購入に至りづらい」というオンラインショッピングの問題点を解決するためのサービスです。このサービスの先駆者である「Zeekit」が登場して以降、多くの企業がバーチャル試着のサービスに参入しています。バーチャル試着の仕組みは、ユーザーがアップロードした自分自身の画像をAIが解析して3Dモデルを構築し、実際の着用時に近いイメージを生成するというものです。この技術により、ユーザーは自分がどのように見えるかをリアルに把握することができ、サイズ間違いをなくすだけでなく、似合うカラーや形状なども第三者目線で把握することができるようになりました。参考:https://zozonext.com/news/20230216_virtualfittingバーチャル試着の導入によって、サイズ違いによる返品率の減少と、購買率がアップするという効果も報告されています。※4、※5オンラインショッピング時の不確実性を減らし、より満足度の高い購入体験を実現できるようになったことで、バーチャル試着はファッション業界においても欠かせない技術となっていますね。AIインフルエンサーAIインフルエンサー(バーチャルインフルエンサー)は、SNSや動画サイトなどで情報を発信するAIで生成されたバーチャルヒューマンのことです。AIインフルエンサーを起用することによって、企業は完全にコントロール可能なインフルエンサーを使って一貫したブランドメッセージを発信できるというメリットがあります。AIインフルエンサーは年中無休で活動できるため、ターゲットオーディエンスと常に接触し続けることができるという点も大きなメリットですね。2023すでに日本でも多くのAIインフルエンサーが活躍しています。AIインフルエンサーの「imma(Instagramフォロワー数39.2万)」は、リアルの有名人とコラボしたり、製品の着用イメージを投稿するなど、様々な活動を行って人気を博しています。患者の声を取り戻すディープフェイク技術は、医学分野でも活用されています。脳卒中やALSなどで声を失った患者のために、合成音声を生成することが可能です。この技術では、既存の音声データをモデルに学習させ、患者の声質に近い音声を生成します。特定の言語や方言にも対応し、より自然な話し方ができる音声を生成することが可能です。過去に録音がない場合でも、個人に合わせた音声を作れるのが大きな魅力ですね。この動画の撮影時点ではまだ不自然な音声ですが、生成AIの進化によって近い将来、より自然な患者本来の声を再現できるようになるでしょう。生成AIの面白い活用事例について詳しく知りたい方は、下記の記事を合わせてご確認ください。今回の記事では...ディープフェイクの悪用事例5つディープフェイクは上手に活用すればとても便利な技術ですが、悪用すれば大きな被害を発生させてしまう可能性もあります。世界ではすでに、ディープフェイクを悪用する事件も出てきているため、悪い活用法も把握して被害を受けないよう気をつけましょう。「オレオレ詐欺」のように事前に知っておくことで、自分の被害を防げる可能性もあります。具体的な事例をご紹介しますので、ぜひ参考にしてください。著名人のフェイクニュースまず懸念されるのが、ディープフェイク技術によって作成されたフェイクニュースです。フェイクニュースの作成に悪用されると、公共の人物が実際には言っていない発言や行動をリアルに見せかけることが可能になり、誤情報が広まって多くの人々に影響を与える可能性も出てくるでしょう。ディープフェイクによるフェイクニュース問題は特に海外が顕著です。2022年3月に出回ったディープフェイクでは、ウクライナのゼレンスキー大統領になりすました人物が、ロシア軍への抵抗をやめるよう国民に呼びかける動画が出回りました。ディープフェイクの技術を使えば影響力のある人物になりすまし、政治的な発言をさせることで混乱を作り出すこともできてしまいます。※6日本でもX(旧Twitter)で、民放のニュース番組を装いアナウンサーが投資を呼びかける動画や、岸田総理大臣が卑わいな内容を話している動画が相次いで投稿され、大きな問題になりました。※7ディープフェイクによるフェイクニュースは数年前から出てきていましたが、生成AIの登場によって、特別な知識や技術がなくても本物と見分けがつかないほど精巧な動画を誰でも簡単に作れるようになってしまいました。フェイクニュースは社会的な混乱を引き起こし人々の信頼や政治的安定性を損なうため、ディープフェイクの技術的な進歩とともに、これに対する警戒と対策が急務とされています。フェイクポルノディープフェイクを用いたフェイクポルノも重大な問題の1つです。ディープフェイク技術を使って、実在する人物の顔を無断でアダルトコンテンツに合成し、インターネット上に拡散する行為がフェイクポルノにあたります。何気なくSNSに上げた思い出の写真や卒業アルバムが、AI技術の悪用で裸の画像に加工されてばらまかれていた、というような事例が世界各地で明らかになり、社会を揺るがせています。フェイクポルノ問題が最も深刻なのは韓国で、次いでアメリカで増加傾向にありますが、日本も例外ではありません。インターネットで出回る盗撮画像などのパトロールを行っている団体「ひいらぎネット」によると、日本でもここ数年、さまざまなSNSで性的なディープフェイクが盛んに投稿されるようになったそうです。※8アメリカのセキュリティー団体が行った2023年度の世界のフェイクポルノの標的となった人の国籍調査では、日本は韓国・アメリカに次いで3番目に多いという結果でした。※8このようなコンテンツは対象者の名誉を傷つけ、精神的な苦痛を引き起こす行為です。社会的な評価を低下させる可能性さえあります。公共の人物や一般人を問わず個人のプライバシー権と尊厳を侵害する深刻な犯罪行為とされ、法的な対策が急務と言えるでしょう。音声なりすまし詐欺イギリスでは、企業のCEOの声をディープフェイクで作成し、22万ユーロ(約2600万円)を騙し取られる事件が発生しました。電話での指示は、AIによる音声技術を利用してCEOになりすました詐欺師からのものだったと考えられており、BBCは、他にも同様の事件が確認されていると報じています。※9他にも、ディープフェイクを用いて声紋・顔認証などの生体認証を不正に突破し、銀行口座を操作してお金を盗んだという事件も発生しています。※103秒間の音声データがあれば高精度で合成できることや、オープンソースの生成AIが増えたことで、誰でも簡単にAI音声の生成ができてしまうようになりました。国内でこれほど認知されているにも関わらず、電話によるオレオレ詐欺の被害額が2023年では前年より41.4億円増えて133.5億円になったことなどを考えると、今後日本でもAI音声による被害は拡大する可能性が高いかもしれません。※11人物なりすまし詐欺ディープフェイク技術の悪用によって、音声だけでなく人物そのものになりすました詐欺も発生しています。攻撃者はディープフェイクを使用して信頼されている人物になりすまし、個人情報の窃取、金銭の詐取、さらには政治的な操作を目的として使用しています。FBI(アメリカ連邦捜査局)は、就職のオンライン面接で別人になりすますなど、ディープフェイク技術の悪用が増えていると発表しました。面接の最中に他人の映像・画像・音声などを自身に重ね合わせているという申し立てが増えているとのことで、著名人だけでなく、一般の人の情報も悪用される恐れが懸念されています。※12また香港では、多国籍企業の財務担当者が、ビデオ会議で同社の最高財務責任者(CFO)になりすましたディープフェイク詐欺師に騙されて、約38億円を詐欺グループに送金した事件があります。このビデオ会議には財務担当者以外の社員も参加していましたが、被害者以外はすべてディープフェイクによる合成でした。※13見分けがつかないほど精巧に作られたコンテンツに騙されて重大な損害が発生する事例は、生成AIの発展とともに増加傾向にあります。このような詐欺やなりすましは、個人のセキュリティだけでなく、社会全体の信頼を損なうため警戒が必要です。実在の著名人を装った偽の広告をSNSなどで表示し、ユーザーを偽のサイトに誘導して金銭をだまし取るケースも発生しています。「SNS型投資詐欺」と言われる詐欺が横行しており、大手SNSのInstagramでは著名人のなりすまし広告が多数表示され、運営元のMetaが対応に追われていました。ZOZO社長の前澤さんが、なりすまし広告に対処する専門チームを立ち上げるなど個人での対策も取られていますが、いまだに被害は出ているそうです。※14ディープフェイクを使用して生成された著名人の音声や動画を本物と見分けることは難しく、このような偽の広告により投資話に勧誘される事例が日本でも多発しています。生成AIによるその他の悪用事例について詳しく知りたい方は、下記の記事を合わせてご確認ください。ChatGPTの登場により、AI技術はかつてないほど身近な存在となり、教育、ビジネス、エンターテイメントなど多岐にわたる分野で革新的な活用が進んでいます。こ...ディープフェイクの問題点ディープフェイク技術は、良い活用をすればクリエイティブな表現の可能性を広げられる、労働を軽減できるといった様々なメリットがあります。一方で、悪用された場合に周囲に与えるリスクが非常に高いことは大きな問題となっています。ディープフェイク技術の発展はめざましく、現在では本物と見分けがつかないほどリアルで精巧です。この技術が悪用された場合、その影響は計り知れません。「ディープフェイクの悪用事例」でもご紹介したように、政治家の発言を捏造したフェイク動画が拡散されれば、選挙や政治に重大な影響を及ぼしかねません。ディープフェイクポルノが拡散したされれば、深刻なプライバシー侵害かつ被害者に計り知れない精神的苦痛を与えます。現実に対する信頼が損なわれる可能性もあるでしょう。生成AIの登場と発展によって私たち人間の利便性が向上すると同時に、ディープフェイクの脅威に対抗するための法的・技術的な対策が急務となっています。ディープフェイクの検知・法整備の現状ディープフェイクの検知や法整備に関しては、まだまだ追いついていないのが現状です。ディープフェイクを検出する技術に関しては各国で研究が進んでいます。)ではディープフェイク検出技術のプロジェクトに資金などの支援を行い、2018年11月の時点で6,800万ドルの資金を投入しています。※15また、アメリカ・カリフォルニア州ではディープフェイクに関する2つの法律(AB-730、AB-602)を、テキサス州では1つの法律(SB-751)をそれぞれ2019年に成立させました。日本においては、現時点でディープフェイク自体を規制する法律はないため、判断が難しいところです。逮捕事例においても、被害者側から「名誉毀損」と「著作権侵害」の罪を告訴後に容疑者2人が摘発されていることからも、まだまだ法整備が追いついていないことを物語っています。悪用される恐れもあるディープフェイクですが、どのように対策すれば良いのでしょうか?ディープフェイクへの対策は、個人での取り組みだけでなく社会的・組織的な対策が不可欠です。代表的な2つの対策を解説します。ブロックチェーンまずディープフェイク対策として有効と考えられるのが、ブロックチェーンです。ブロックチェーン技術は、デジタルコンテンツの作成と動きの履歴を、不変の記録として残します。これにより、画像や動画が元の形で作成された時点からの変更履歴を追跡でき、真正性を証明することが可能になります。ディープフェイクのような偽造コンテンツを識別しやすくなり、信頼できる情報源からのコンテンツであることを保証する手段となります。C2PAC2PAは、オンラインで「誤解を招く情報」のまん延に対処する技術標準化団体です。Adobe・BBC・Intel・Microsoft・ソニー・Googleなどが参画しています。消費者やプラットフォームは、コンテンツが信頼できる情報源から来ているかを判断しやすくなり、ディープフェイクによる偽情報の拡散を防ぐ可能性が高まると期待されています。生成AIのリスク対策について詳しく知りたい方は、下記の記事を合わせてご確認ください。生成AIにはセキュリティリスクが存在し、機密情報の漏洩やプロンプトインジェクション、ハルシネーシ...ディープフェイクを見分ける方法ディープフェイクによる被害に合わないために、今すぐできるディープフェイクを見分ける方法をご紹介します。法規制がまだ整ってない間は、自分自身で対策を取り自衛することが最も大切です。ご紹介するディープフェイクの見分け方をぜひ参考にしてください。常に情報源をチェックするディープフェイクを見分けるためには、常に情報源をチェックすることが最も重要です。その動画や画像がどの情報源から共有されているかを確認しましょう。センセーショナルな内容や驚くような発言が含まれている場合は、公式な報道機関やメディアが取り上げているかを確認することが重要です。1つの情報源だけを信用してはいけません。信頼できると思っている情報源でも、必ず異なるアプローチを用いてクロスチェックする習慣をつけましょう。公式声明や報道があるかも確認できると、コンテンツの信ぴょう性が高まります。ディープフェイクの知識をつけるディープフェイクを見破るためには、ディープフェイクについての知識を身につける必要があります。Deepfake」という自己学習コンテンツです。このコンテンツでは、クイズ形式でディープフェイクを見破るポイントなどを紹介しており、気軽に学ぶことができます。チャレンジしてみてください。ディープフェイク検知ツールを利用するMicrosoft、Sensity、Google、Metaなどがディープフェイク検出の技術開発に乗り出しており、すでに実用化されている検知ツールもあります。detector」を開発しました。※15このプログラムは大量のデータに基づく自動識別手法を採用しており、圧縮やデジタル信号で処理されたフェイク顔映像でも、一定の信頼度を保てると言われています。ImagesやTinEyeなどのツールを利用して、画像や動画の元の文脈を調べることも可能です。メディアが編集したものか、異なる文脈で以前に使用されていたかを確認できるので、こうした検索結果からコンテンツの改ざんの有無や過去の共有状況を知ることができます。​ただし、ディープフェイク技術の発展はめざましく、悪用する側と検出する側のイタチごっこ状態なのが現状です。検知ツールを使えば大丈夫というわけではありませんので、検知ツールはあくまでも補助的な役割として活用し、ソースの確認や精査を怠らないようにしましょう。現在ではアプリやオンラインツールを活用して、簡単にディープフェイクを作成できます。難しい知識やスキルは必要なく誰でも使うことができるので、興味のあるツールがあればぜひ試してみてください。悪用はしないようにご注意くださいね。camera(エクスプレッションカメラ)」は、Zoom会議などで自分の外見をAIで置き換えられるツールです。自分自身の外見をAI(人工知能)で置き換えて、表情や体の動きに応じてリアルタイムにコミュニケーションができます。ZoomやTeams、YouTubeなどあらゆるビデオアプリ上で動作し、好きな画像一枚だけで、その人になりきることができます。DeepSwap「Deepswap」は、顔交換ビデオ・写真・gifを生成するツールです。現在では1.5億人以上のユーザーがfaceswapを作成しています。faceswap技術を提供しており、高品質で理想的な顔を作成することができます。動画制作をよりクリエイティブなものに変えてくれるツールですよ。Labが開発したモバイルアプリです。撮影した写真から、性別・年齢・顔の印象・髪色など細かい部分を変えられたり、メイクもできるなど、手軽に自分の写真を変化させることができます。本格的に利用するなら課金が必要ですが、無料版だけでも様々な機能が使えます。使い方も簡単なので、ディープフェイク初心者の方にもおすすめですよ。Maker」は、オンラインでのみ利用可能なディープフェイク作成ツールです。非常に精度が高く、本物の人間のようなディープフェイク動画を作ることができます。ディープフェイクに必要な処理は全てオンライン上で行われるためスマホからでも利用可能ですし、PCスペックが必要ないというのも大きなメリットです。悪用対策として、作成されたディープフェイク動画には偽物だとわかる透かしが入ります。利用するには1時間3ドルの費用がかかってしまうので注意してください。Reface「Reface」は、顔のみを識別して動画や写真の顔と入れ替えることができるディープフェイクアプリです。自分や友人の顔を切り抜いて、映画の俳優や有名人と入れ替えるということも簡単にできるので、おもしろ動画などを作るのにも使えそうですね。本格的に利用するためには課金が必要ですが、基本的な編集は無料で利用できます。Nostalgia」は、過去の人物を生き返らせたかのように動かすことができるツールです。このツールは非常に精度が高い点が特徴で、まるで故人が蘇ったかのような映像を作り出せます。オンライン上で利用できるアプリですが、一人の顔しか認識しない、被写体の首までしか使えないといった制約があり、実用性は今ひとつかもしれません。それでも、無料で高い技術力を楽しめるツールなので、ぜひ試してみてください。Faceswap「Faceswap」は、オープンソースのディープフェイク作成ツールです。完全無料で高品質なディープフェイク動画を作成できます。ディープフェイク動画の作成には高性能なCPU・GPUを搭載しているハイスペックなPCが必要で、スペックの低いPCでは処理に莫大な時間がかかるというデメリットもあります。使い方を解説しているYouTube動画などもあるので、気になる方はぜひチェックしながら使ってみてください。PCについて詳しく知りたい方は、下記の記事を合わせてご確認ください。WEELメディア事業部リサーチャーのいつきです。その名の通り、AI処理に特化したPCのことで、従来のPCと比べると...ディープフェイクについて理解し、上手に活用しようディープフェイクは、人工知能(AI)技術を使用して、実在する人物の顔や声を非常にリアルに模倣した偽のビデオやオーディオクリップを作成する技術です。ディープフェイクには、以下のような良い活用事例があります。患者の声を取り戻す良い活用事例がある一方で、ディープフェイク技術は悪用されやすく、それによる実害も発生しています。実際に発生している以下のような悪用事例に注意してください。日本では、ディープフェイクに関する法整備はまだ追いついていません。自分自身や身近な人が被害にあわないためにも、ディープフェイクついてしっかりと理解し、自分で自分の身を守ることが大切です。今すぐできる、ディープフェイクを見分ける方法は以下の3つです。常に情報源をチェックするディープフェイクの知識をつけるディープフェイク検知ツールを利用するディープフェイクの良い面・悪い面、被害にあわないための方法などを理解して、最先端の技術を上手に活用しましょう。・自社専用のAIチャットボットの開発などの開発実績がございます。「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。生成AIを社内で活用していきたい方へ「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。セミナー内容や料金については、ご相談ください。サービス紹介資料もご用意しておりますので、併せてご確認ください。AIの登場に大きな衝撃を受けたWebライター。好きなAIツールは、ChatGPTとAdobeFirefly。集計期間:1週間まだデータがありません。高いAIプロフェッショナル集団」を目指して私たちは、AIに関わるすべての人に向けて、透明性の高い適切な情報発信と開発を行います。「WEELは、一番地に足ついたAI情報を教えてくれる」と思っていただけるよう、透明性高い事業運営を行なって参ります。透明性の高い適切な情報発信と開発を行います。透明性高い事業運営を行なって参ります。