広告マネー目当てに、生成AIを使って作られた「信頼できない」サイトがいくつも立ち上げられているという。ある調査によると、140以上の大手ブランドがそうとは知らずに広告を掲載し、コンテンツファームに資金を提供している。Ryan-Mosley2023.07.0526この記事は米国版ニュースレターを一部再編集したものです。チャットGPT(ChatGPT)をはじめとする大規模言語モデルの時代における人工知能(AI)のリスクについて、私たちは多くのことを耳にしてきた(私もそのことについて語ってきた一人だ)。そのリスクとは、誤情報やデマの氾濫、プライバシーの侵害などを指す。2023年4月、本誌のメリッサ・ヘイッキラ記者は、スパムや詐欺と共にこうした新しいAIモデルがインターネット上に溢れ返るだろうと予測した。6月に掲載した「生成AIで広告収入目的のゴミサイトが急増、1日1200本更新も」という記事では、新たな波はすでに到来しており、その動機づけとなっているのは広告マネーだということについて解説した。MITテクノロジーレビューが独占提供を受けたニュースガード(NewsGuard)の新たな報告書によると、人々はオンラインにだぶついているプログラマティック(データに基づく自動取引)広告の金を手にするために、AIを用いてすばやくジャンクサイトを立ち上げているという。優良広告主や大手ブランドは、おそらくはそうとは知らずに、新たに相次いで誕生しているコンテンツファームに実質的に資金を与えている。Webサイトの質を評価しているニュースガードは、「信頼できない」とみなされるAI生成テキストを用いたサイトに、140以上の大手ブランドが広告を掲載していることを発見した。広告の中には、世界有数の認知度を誇る企業のものも含まれていた。した大手ブランドの広告の90%は、グーグルの広告テクノロジー経由で提供されたものだった。グーグルは自社ポリシーとして、「スパムに類する自動生成コンテンツ」を含むページにグーグル配信の広告の設置を禁じているにもかかわらずである。ジャンクサイト運営者の策略がうまくいくのは、プログラマティック広告では人間の監視無しで、企業がインターネット上で広告スポットを購入するからだ。アルゴリズムがプレースメント(広告を表示する場所)の入札をして、その広告を見る可能性が高そうな、関連性のあるWebページ訪問者の数を最適化する。生成AI(ジェネレーティブAI)の登場以前から、約21%の広告インプレッションが「広告のために作られた(MFAと呼ばれる)」ジャンクサイト上で発生し、年間約130億ドルが無駄になってきた。現在では、生成AIを使って広告収入をもたらすジャンクサイトが作られている。ニュースガードは2023年4月から200以上の「信頼できないAI生成のニュースおよび情報サイト」を追跡しており、その大半は(多くの場合一流企業からの)広告マネーによる収益を目的にしているようだとしている。ニュースガードはAIを用いて、こうしたWebサイトにチャットGPTなどの大規模言語モデルの標準的なエラーメッセージと一致するテキストが含まれているかどうかをチェックし、警告が出たサイトを人間の研究者がレビューしている。したWebサイトの大半は制作者が完全に匿名であり、AIが生成した偽の制作者プロフィールや写真を掲載しているサイトまで存在する。ニュースガードの研究者であるレンゾ・アルバニティスが私に語ったように、インターネットではよくある話の1つにすぎない。悪気のない企業がネットユーザーの関心を引くための競争に熱心になりすぎるあまり、ジャンクな、場合によって、不正確だったり、誤解を招くものだったり、偽物だったりするコンテンツに金を出す羽目になることは度々起こっている(これについては、以前本誌が掲載した良い記事がある)。ここで重要なのは、生成AIがこの策略を大きく後押しするために利用されているということだ。この現象は、「こうした言語モデルがより高度になり、利用しやすくなるにつれて、さらにまん延することになります」とアルバニティスは言う。生成AIがデマ活動をする悪意を持った人間たちに利用されることは予想できる。ドラマ性は低いが、起こりうる可能性は高いであろう生成AIの影響を見過ごしてはならない。莫大な量の金とリソースが無駄になっているということだ。◆テック政策関連の気になるニュース米国議会で上院院内総務を務めるチャック・シューマー上院議員は、6月21日のスピーチでAI規制プランを明らかにし、イノベーションは法案の「軸となる目標」であるべきだと述べた。バイデン大統領は6月20日にサンフランシスコで数人のAI専門家と会談しており、こちらも規制に関する動きが間近に迫っている可能性があることを示唆している(私は期待していないが)。ニューヨーク・タイムズ紙のすばらしい概説記事によると、政治活動に生成AIが利用されているという。同紙は、デマに関する警鐘を鳴らしている。「政治の専門家らは、AIが悪用された場合、民主的プロセスが蝕まれる可能性があると懸念しています」と、ティファニー・スー記者とスティーブン・リー・マイヤーズ記者は書いている。メタの監視委員会(同社のコンテンツモデレーションの課題に関連する決定を下す組織)は6月13日に、戦争に関するコンテンツに対する同社のモデレーションの方法について拘束力のある勧告を出した。メタはコンテンツが放置または削除された理由について追加情報を提供し、人権侵害を立証するものはすべて保存しなければならなくなる。メタは場合に応じて、当局と証拠書類を共有しなければならない。Press)に寄稿した鋭い分析記事で、なぜこれが実際に大きな取り決めなのかを説明している。テック政策関連の注目研究10代の若者にとってのソーシャルメディアと精神的健康(メンタルヘルス)の関係についての科学は、依然として非常に複雑だ。数週間前、アトランティック誌(Atlantic)のケイトリン・ティファニーは非常に詳細な特集記事で、この分野における既存の、場合によっては矛盾する研究について概説している。メンタルヘルスの問題を抱える米国の10代の若者たちが急増しているのは確かであり、ソーシャルメディアが危機の要因とみなされることが多い。科学は私たちが望むほど明確でも啓蒙的でもなく、ソーシャルメディアがいつどのように害をもたらしているのかについての研究において、まだはっきりと確立された答えはない。ティファニーは次のように書いている。「10年間の取り組みと数百の研究からはさまざまな結果が出ています。その理由の1つはさまざまな手法を組み合わせて使っているからであり、1つは捉えどころがなく複雑な何かを得ようとしているからです」。重要なのは、ソーシャルメディアの影響は、それを利用する人に大きく依存しているように思われることであるという。民主主義国家の健全性に与える影響について取材するほか、ポッドキャストやデータ・ジャーナリズムのプロジェクトにも多く参加している。記者になる以前は、MITテクノロジーレビューの研究員としてニュース・ルームで特別調査プロジェクトを担当した。前職は大企業の新興技術戦略に関するコンサルタント。2012年には、ケロッグ国際問題研究所のフェローとして、紛争と戦後復興を専門に研究していた。2024年受賞者決定!授賞式を11/20に開催します。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。2024」の受賞者を発表した。Japan主張:トランプ再選は気候変動対策の悲劇的な敗北だ石油とガスの生産量の増加、電気自動車への支援の廃止、発電所の汚染規制の撤廃、米国のパリ協定からの離脱などを公約していたトランプ次期大統領の就任は、米国の温暖化対策の大きな後退を意味する。Temple脱チャットGPTへ、オープンAIが強化するプラットフォーム戦略オープンAIが開発者向けプラットフォームの強化を打ち出している。音声機能やプロンプト生成機能などを通じて、人間に代わって複雑なタスクを実行できる「AIエージェント」の開発を推進するのが狙いだ。米議会で、AIに関する120以上の法案が提出されている。規制の範囲は教育から核兵器使用まで多岐にわたり、イノベーションを阻害せずに安全性を確保する方法を模索している。多くの法案は成立しないと見られるが、法案の内容からは議員らの関心がうかがえる。父のがんに直面し、私は悲しみをネットで検索した。その行為が呼び寄せたのは慰めではなく、終わりなき苦悩だった。容赦なく表示されるアルゴリズムの「おすすめ」からの脱出を求めてさまよった、個人的な記録。Ryan-Mosley主張:インターネットアーカイブ敗訴、図書館の未来を守れ図書館はこれまで、知識にアクセスする機会をすべての人に平等に与えるという重要な使命を果たしてきた。図書館によるデジタル化を認めない判決を米国の控訴裁判所が下したことで、危機的な状況にある。コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。世界を理解するための知識を獲得していただくためにあります。よって、あるいは口述記録の形態によっても、製品にしたり、公衆向けか個人用かに関わらず送信したり複製したりすることはできません。