Subscribeディープフェイク「安くて簡単なディープフェイク」の登場セキュリティ会社のデータサイエンティスト、フィリップ・タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するために100ドル弱の費用をかけるだけで、画像を作ることができた。調整したソフトウェアを使って、彼はハンクスの顔を作ることは容易だった。read先週のブラックハット・コンピュータ・セキュリティ・カンファレンスで、セキュリティ会社FireEyeのデータサイエンティストであるフィリップ・タリーは、人工知能研究所のオープンソースのソフトウェアがどれだけ簡単に誤報キャンペーンに適応できるかをテストするために、トム・ハンクスのディープフェイクを作成した。彼は「経験の少ない人でも、これらの機械学習モデルを使って、かなり強力なことができる」と主張した。フル解像度で見ると、FireEyeの偽ハンクスの画像には、不自然な首のひだや肌の質感などの欠陥がある。眉毛のしわや、見る者を冷静に見つめる緑灰色の目など、俳優の顔のお馴染みのディテールは正確に再現されている。SNSのサムネイル程度の規模であれば、AIが作った画像は簡単に本物と見間違えるほどだ。タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するために100ドル弱の費用をかけるだけで、画像を作ることができた。調整したソフトウェアを使って、彼はハンクスの顔を作ることは容易だった。StlyeGAN2を微調整することで、インターネット上で自由に入手可能な画像(左下の3枚の画像など)から、好みのターゲットの似顔絵(右の3枚の画像など)を安価にスケールで生成することができる。FireEyeタリーは、他のオープンソースのAIソフトウェアを使用して、3つのYouTubeクリップから俳優の声を模倣することも試みたが、あまり印象的な結果は得られなかったという。微調整することで、インターネット上で録音した音声ファイルや動画ファイルを使って任意のターゲットから携帯電話品質の音声を生成し(左下の3つのサンプルクリップなど)、微調整後にその話者に任意のカスタムテキストを口述させることができる(右の3つの音声サンプルなど)。技術によって拡大される可能性があるという懸念に信憑性をもたせている。これらの技術とその出力は、しばしば「ディープフェイク」と呼ばれている。この呼び方は、2017年後半にハリウッド女優の顔を含むように変更されたポルノ動画を投稿したRedditアカウントの名前から取られた。インターネットの荒野で観察されるディープフェイクのほとんどは低品質で、ポルノや娯楽目的で作成されている。これまでのところ、ディープフェイクの悪質な利用として最も多くの記録が残っているのは、女性への嫌がらせです。企業のプロジェクトやメディア制作では、より大きな予算で、動画を含むより洗練された出力を作成することができる。FireEyeの研究者は、最小限のリソースやAIの専門知識で、誰かが洗練されたAIの研究におんぶに抱っこになる方法を示したかった。タリーのディープフェイク実験は、学術や企業のAI研究グループが最新の進歩を公然と公開し、しばしばコードを公開する方法(オープンソース)を利用したものだ。彼は「ファインチューニング」として知られている技術を使った。これは、大規模なデータセットの例を使って多額の費用をかけて構築された機械学習モデルを、はるかに小さな例のプールを使って特定のタスクに適応させるものだ。偽トム・ハンクスを作るために、タリーは昨年、Nvidiaが公開した顔生成モデルを適応させた。Nvidiaは、強力なグラフィック・プロセッサのクラスタ上で数日かけて数百万の例題の顔を処理することで、そのソフトウェアを作った。タリーは、それをクラウドでレンタルした1台のGPU上で、1日もかからずにハンクス・ジェネレーターに適応させた。別の方法として、彼は自分のラップトップと30秒の音声クリップ3つ、そして大学院生がGoogleの音声合成プロジェクトをオープンソースで再現したものだけを使って、数分でハンクスの声を複製した。AI研究者間の競争がさらなる進歩を促し、それらの結果が共有されると、ディープフェイクの生成コストはもっと低くなる可能性が高い。「このままでは、社会全体に悪影響を及ぼす可能性がある」とタリーはカンファレンスで発言した。タリーは以前、インターンと協力して、AIテキスト生成ソフトウェアが、2016年の大統領選挙を操作しようとしたロシアのインターネット諜報部が作成したものと同じようなコンテンツを作成できることを示したこともある。FireEyeのプロジェクトは、最小限のリソースとオープンソースのAI研究の成果で何が実現できるかを示すことで、実用的な詳細を明らかにしている。Hwangは、こうした情報と、誤情報組織がどのように活動しているかについて知られていることを組み合わせることは、最悪のシナリオを考えるよりも、ディープフェイクの脅威を評価するためのより良い方法だと指摘した。Facebookは最近、10万のディープフェイクのデータセットを公開し、その上で訓練された最も性能の高いディープフェイク検出器に50万ドルを提供した。優勝者は、Facebookのデータセットからディープフェイクを65%検出したが、これでは不十分だ。このオバマはディープフェイクです。実現に向けて」と題した記者説明会を開催し、自治体向けにゼロトラストセキュリティ導入を支援するプログラムを発表した。Premiumなどを導入し、災害時の情報共有の効率化などに成功したようだ。Runを活用し顧客生涯価値(LTV)向上を目指したデータ分析基盤を内製化した事例を紹介。AIによる会話分析、リテールメディア活用などの取り組みを進めている。'24」で、大規模言語モデル「Gemini」を活用したAIエージェントの取り組みを多数発表した。Geminiは、コーディング支援、データ分析、アプリケーション開発など、様々な分野で活用され、業務効率化や新たな価値創出に貢献することが期待されている。Graph」を発表した。この新製品は、ナレッジグラフベースの検索拡張生成(RAG)を実現させ、生成AIを巡る競争に新たな文脈を加えそうだ。Ghostアクシオン|次世代経済メディアアクシオンニュースレター:世界のテクノロジートレンドの高品質な分析Subscribe。