上でそのインフラストラクチャを公開したことを発表しました。モデルの訓練のために設計されています。上で新たなスーパーコンピューティングのテクノロジを構築するという昨年発表されたパートナーシップにおける主要なマイルストーンです。モデルとインフラストラクチャの構築に向けた最初のステップでもあります。「これらのモデルの素晴らしい点は幅広い領域で応用できる点です。モデル内の進化に留まるものではありません。自然言語処理やコンピュータービジョンの領域で非常に多くの素晴らしいことが同時に実現可能になることを意味します。これらの認識技術の組み合わせにより、今では想像もできないような新たな応用が可能になるでしょう」と述べています。モデルを訓練してきました。億ページもの文書から学習するモデルによって適切に実現できることを明らかにしました。閲覧によるコードの生成といった複数の作業を効率的に処理できます。プロダクティビティ製品における様々な言語理解機能の向上に活用してきました。研究者に向けて公開しました。能力を活用できるようにすることにあります。「今では、ほとんどの人々が、パーソナルコンピューターがプラットフォームであることを直観的に理解しています。パーソナルコンピューターを買って箱から出した時に、それが実行できることがすべて組み込まれているわけではありません。プラットフォームになりつつあるということと同じです。万人の開発者が利用可能にすることで、創造的な用途を考案してもらうのです」とスコットは述べています。モデルの学習には、高度なスーパーコンピューティングの基盤、すなわち、広帯域のネットワークで接続された最先端のハードウェアのクラスターが必要です。これらの相互接続されたコンピューターを横断してモデルを学習させるためのツールも必要です。ギガビットのネットワークから成る単一のシステムです。サービスへのアクセスといった今日の堅牢なクラウド基盤のあらゆる利点を享受できます。氏は次のように述べています。「必要なものに対する理解を深めるにつれ、そして、スーパーコンピューターを構成する要素の限界を知るにつれ、『夢のシステムを造れるとするなら、それはどのようなものになるか』と言うことができるようになりました。マイクロソフトはそれを造ることができました。テクノロジを開発することにあります。マイクロソフトと共同開発したスーパーコンピューターはそのサイクルを加速するものです。強力なモデルの訓練を行なう上では大規模システムが重要な構成要素となります」と同氏は続けます。アクセラレータとネットワークへのアクセスを提供します。モデルの訓練を行なうためのツールも提供します。学習手順と共にオープンソース化することを発表しました。これにより、開発者は、マイクロソフトが自社製品内での言語理解で活用してきたのと同じモデルにアクセスできるようになります。新バージョンも発表しました。倍高速に訓練することができます。分散学習のサポート追加も発表しました。モデルのハードウェアやオペレーティングシステムを横断したポータビリティを実現するためのオープンソースライブラリです。ライブラリの最適化のサポートが追加されました。倍の性能向上が実現されます。次のように述べています。テクノロジを構築したいと考えています。この大規模なモデルは重要な推進要素になるでしょう。モデルの設計は言語から始まります。言語は人間の意図を理解し、世界中の文書による膨大な知識を把握して、容易にコミュニケーションを行なうためにきわめて重要な要素です。人間の脳の理解に関する研究から生まれたテクノロジであるニューラルネットワークに言語を理解させること自体は新しいものではありません。ディープラーニングのモデルは初期と比較して大幅に高度化しており、急速に規模を拡大しています。億個のパラメーターを使用していました。各パラメーターは脳のシナプスの接続にほぼ相当します。この新たなクラスのモデルの学習方法は、従来の教師付き学習モデルとは異なります。システムが正しく猫の画像を認識できるか、質問に対して正しい答を返しているかなどを学習させてきました。億ページもの文書を閲覧することで、言語を学ぶことができます。Libsゲームのように単語や文章が削除され、モデルはその周辺の単語に基づき、削除された部分を推測します。億回行ない、単語の相互関係の知識を蓄積します。関係などの言語の構成要素が深く理解できるようになります。同じモデルが、文書の理解、質問への回答、対話型ボットの構築など、様々な言語関連作業において学習結果を活用することができます。「これにより小規模なモデルでは実現不可能と思えたことが実現可能になります」と述べています。この機能向上は、小学校の読解レベルを一気に離れてより高度でニュアンスを理解する言語理解へと進むものです。モデルを特定の言語作業に微調整したり、特定の業界や企業に特有のデータで訓練したりすることで、精度をさらに向上することが可能です。「あらゆる組織が独自の語彙を持っているため、ビジネス、医療、法務などの領域の理解における精度をさらに高めることができるでしょう」とバーガスは述べます。モデルの利点の一つは、大量データとスーパーコンピューティングのリソースによる学習を一度だけ行なえばよい点です。企業は「学習済」のモデルを使用して、はるかに少量のデータセットとリソースで、他の作業向けの微調整を行なうことができます。モデルは、昨年に様々なプロダクティビティ製品の機能向上のために社内で活用されてきました。パーセント向上させました。メール返信自動生成機能などを実現しています。このモデルを使用して、顧客とのやり取りに応じた販売者へのアクション提案を行なっています。モデルの研究も進めています。検索の精度を向上したりすることが可能になります。モデルを訓練し、ハードウェアを最大限に利用することが可能になります。モデルを多くの層に分割し、各層を異なるマシン上に分散しなければなりません。これは、並列化と呼ばれるプロセスです。データ並列化というプロセスにより、マイクロソフトの最適化ツールは、大量の訓練データを複数のバッチに分割し、クラスター上のモデルの複数のインスタンスの訓練に使用できるようにします。つのモデルが作られます。モデルの活用が誰にとってもはるかに効率的でコスト効果が高いものになります。ような性能を極限まで追求するプロジェクトが不可欠です。利用されるようになることにたとえています。良いものにしていきます。クラウド全体の価格性能比と柔軟性を高めていきます」とスコットは述べています。本ページのすべての内容は、作成日時点でのものであり、予告なく変更される場合があります。正式な社内承認や各社との契約締結が必要な場合は、それまでは確定されるものではありません。様々な事由・背景により、一部または全部が変更、キャンセル、実現困難となる場合があります。