modelsGPT-3で号砲、大規模化に明け暮れた2021年のAIシーン驚くべき作文能力を持つオープンAI(OpenAI)の「GPT-3」は、モデルの大規模化を競い合いう人工知能(AI)の新トレンドの始まりだった。2021年は新しい言語モデルの構築に多大な労力が注がれたものの、AIはまだGPT-3の影響から抜け出せていない。Heaven2021.12.2394182021年は、超大型人工知能(AI)モデルの年だった。オープンAI(OpenAI)が2020年6月にリリースしたGPT-3は、驚異的な言語把握力を持っていた。説得力のある文章を生成し、人間と会話し、自動補完コードを生成することさえ可能だった。GPT-3の驚異性はその規模にも見られ、これまでに作られたどのニューラル・ネットワークよりも巨大だった。GPT-3は「大きいことは良いことだ」というAIの新トレンドの火つけ役ともなった。GPT-3には、訓練に使われたオンライン・テキストに内在するバイアスや悪意を模倣する傾向があり、その規模の大きさ故に訓練には持続不可能なほど膨大な計算機能力が必要だ。かかわらず、MITテクノロジーレビューはGPT-3を2020年のブレイクスルー・テクノロジーの1つに選んだ。GPT-3のインパクトは2021年になって、さらに明確になった。2021年は、数々のテクノロジー企業やトップクラスのAI研究機関によって構築された大規模AIモデルが急増し、その多くがGPT-3の規模と能力を超えていた。モデルはどこまで大きくなるのか、そしてそれに伴うコストはいくらになるのだろうか?GPT-3が世界の注目を集めたのは、「何ができるか」だけではなく、「どのようにしてできたのか」という点にもある。性能の目覚ましい飛躍、中でもGPT-3が特別に訓練を受けていない言語タスクにも汎化できる能力は、アルゴリズムの改良ではなく、他ならぬ規模の巨大さから生まれたのだ(ただし、グーグルが2017年に開発したトランスフォーマー(transformer)と呼ばれる新型のニューラル・ネットワークに大きく依存している)。「新しいアイデアが必要だと思っていましたが、規模の大きさだけで切り抜けられました」。オープンAIの研究者で、GPT-3の設計者の1人であるジャレッド・カプラン博士は、12月に開催された主要なAIカンファレンス「ニューリップス(NeurIPS)」のパネルディスカッションで述べた。NLG)モデル」を発表したブログ記事で、「超巨大化によるAIモデルの性能向上は続いていて、一見すると終わりが見えません」と書いている。モデル、すなわち訓練済みのニューラル・ネットワークのサイズは、それが持つパラメーターの数で測られる。パラメーターとは、ネットワーク内に保持される値で、これらは訓練中に何度も調整され、モデルの予測に使用される。...こちらは会員限定の記事です。メールアドレスの登録で続きを読めます。会員登録して読むログインして読む有料会員にはメリットがいっぱい!毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。重要テーマが押さえられる。各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。2024年受賞者決定!授賞式を11/20に開催します。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。2024」の受賞者を発表した。Japan主張:トランプ再選は気候変動対策の悲劇的な敗北だ石油とガスの生産量の増加、電気自動車への支援の廃止、発電所の汚染規制の撤廃、米国のパリ協定からの離脱などを公約していたトランプ次期大統領の就任は、米国の温暖化対策の大きな後退を意味する。Temple脱チャットGPTへ、オープンAIが強化するプラットフォーム戦略オープンAIが開発者向けプラットフォームの強化を打ち出している。音声機能やプロンプト生成機能などを通じて、人間に代わって複雑なタスクを実行できる「AIエージェント」の開発を推進するのが狙いだ。軍事用MRで再起をかける「VRの天才」が描く未来オキュラスVRの創業者として知られるパルマー・ラッキーは今、米陸軍の野心的なMRヘッドセットの開発に取り組んでいる。メタ(旧フェイスブック)退社後、防衛企業アンドゥリルを率いるラッキーが目指すのは、AIで増強された「未来の戦士」の実現だ。O'DonnellチャットGPTに生成AI検索、グーグルの牙城崩せるかオープンAIは、チャットGPTにWeb検索機能を本格搭載した。質問に応じて最新情報を自動で探し出し、文脈を理解した会話形式で提供する。検索市場で90%のシェアを握るグーグルに対し、生成AIを武器に真っ向から挑む。生成AIブームによって大量の電子廃棄物が発生することが新たな研究で試算された。2030年までに最大500万トンの電子廃棄物が生み出される可能性があるという。コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。世界を理解するための知識を獲得していただくためにあります。よって、あるいは口述記録の形態によっても、製品にしたり、公衆向けか個人用かに関わらず送信したり複製したりすることはできません。