参考はじめにこんにちはサイオステクノロジーの小野です。前回はOpenShiftにGPUを追加する方法について解説しました。今回はそのGPUをクラスタ内で利用する設定の方法を解説します。GPUはいくつかの会社が作成していますが、多くのAI開発ライブラリが対応しているNVIDIA製のGPUの設定を行います。オペレータクラスター内のノードのハードウェア機能やカーネル機能を自動的に検出し、それらの機能をラベルとしてノードに追加するオペレータです。これによりノードにGPUがあることを検出できます。GPUオペレータを利用するために必要なオペレータです。GPUを搭載したサーバーでGPUリソースを管理し、活用できるようにするためのオペレータです。オペレータIntelのハードウェア機能をOpenshiftクラスタに認識させるために使用されるオペレータです。IntelのGPUを利用する際はこのオペレータを使用してください。これからAWSに構築したOpenshiftでNVIDIAのGPUを利用する方法を解説します。手順は以下の流れで進んでいきます。OperatorHubでNFDと検索します。Hatと書かれている方を選択して、インストールを押します。Operatorの説明インストール時の設定は何も変更せず、インストールを押します。NFDのインストール設定インストールが完了するまで待ちます。ステータスがSucceededになったらインストール完了です。(NodeFeatureDiscovery)続いてカスタムリソースの設定を行います。インストール済みOperatorの画面からNFDオペレータをクリックします。NFDオペレータの詳細画面に遷移するので、提供されるAPIからNodeFeatureDiscoveryのインスタンスの作成を押します。NFDの詳細NFDの設定は何も変更せず、作成を押します。作成が完了するまで待ちます。Upgradeable」となっていれば作成完了です。Upgradeableなら作成完了NFDオペレータ正常性確認NFDオペレータの導入によって、GPUノードにGPUのラベルが付与されていることを確認します。以下のコマンドを入力します。feature.node.kubernetes.io/pci-1d0f.present=trueNFDオペレータの導入が正常に行われたら、GPUが搭載されたノードに「pci-10de」というラベルが付与されていることが確認できます。オペレータのインストールを行います。OperatorHubでNVIDIAと検索します。Operatorを選択してインストールを押します。Operatorの説明インストール時の設定は何も変更せず、インストールを押します。オペレータのインストール設定インストールが完了するまで待ちます。ステータスがSucceededになったらインストール完了です。(ClusterPolicy)続いてカスタムリソースの設定を行います。オペレータをクリックします。GPUオペレータの詳細画面に遷移するので、提供されるAPIからClusterPolicyのインスタンスの作成を押します。オペレータの詳細ClusterPolicyの設定は何も変更せず、作成を押します。作成が完了するまで待ちます。時間がかかるので注意してください(10分前後)。ready」となっていれば作成完了です。オペレータの正常性確認GPUが動作するかの正常性の確認を行います。今回は2種類の正常性確認を行います。サンプルアプリ実行GPUを利用してベクトルの加算を行うサンプルアプリを実行します。(参考:https://docs.nvidia.com/datacenter/cloud-native/openshift/latest/install-gpu-ocp.html#running-a-sample-gpu-application)以下のコマンドを実行してpodを作成します。createdコンテナのログでサンプルアプリが動作していることを確認します。PASSEDDoneGPUの状態確認GPUの状態を表示するコマンドを実行します。プロジェクトに変更します。"https://api.ocp-test.cpawstest.ps.staging-test.sios.jp:6443".pod名を取得します。<none>取得したpod内でnvidia-smiコマンドを実行します。モニタリング設定GPUの管理に必要なモニタリングの設定方法について説明します(参考:https://docs.nvidia.com/datacenter/cloud-native/openshift/latest/enable-gpu-monitoring-dashboard.html)。ダッシュボードをダウンロードします。19498namespaceにダウンロードしたファイルからconfigmapを作成します。createdconfigmapにラベルをつけて、管理者のコンソールでGPUのダッシュボードを確認できるようにします。labeled同様に開発者のコンソールでGPUのダッシュボードを確認できるようにします。labeled作成されたリソースを表示し、ラベルがつけられていることを確認します。Dashboard」を選択します。GPUの各種情報をコンソール画面でモニタリングできるようになりました。最後にNFDオペレータとNVIDIAオペレータを導入することで、OpenShiftでGPUを取り扱えるようになりました。AIを導入するための準備が完了しました。AIを導入する方法について解説したいと思います。役に立たなかった0人がこの投稿は役に立ったと言っています。小野晴生2024年新卒入社しました。コメントをキャンセルメールアドレスが公開されることはありません。※サイト次回のコメントで使用するためブラウザーに自分の名前、メールアドレス、サイトを保存する。