Model)に焦点を当て、学習の高速化のための技術について解説します。Lawついて紹介します。有名な大規模言語モデルであるGPT-3を例に、大規模言語モデルの学習に必要な3次元の並列化手法を説明します。メモリ使用量削減技術や高速化技術についても触れます。この講演を通じて、大規模言語モデルの分散学習技術について理解を深めることができます。計算機システム・ネットワークの設計では、一般的に高速化と省電力化はトレードオフの関係にあるため、両立させることが難しい。本講演では、「精度(近似)」という軸を導入、調整することで、このトレードオフの解消を目指す近似コンピュータの現状と展望を述べる。近似コンピューティングの本質は、アプリケーションから要求される「正確さ」とシステムが供給する「正確さ」のギャップを埋めてコンピューティングの性能・エネルギー効率化を達成することである。具体的に、コンピュータの構成要素であるプロセッサ、メモリ、ネットワークに関する例(講演者の研究を含)を用いて、計算機システムの高速化と省電力化の可能性を描く。参加方法こちらの参加登録フォームよりお申し込みください学内からの参加は基本的に登録不要です(オンライン参加でURLがわからない場合はご登録ください)第6回広島大学会場の様子(左:本田さん、右:鯉渕先生)現地約20名+オンライン約40名の約60名に参加していただきました。Laboratoryトップに戻る。