SageMaker HyperPod での Slurm クラスターでのユーザーの作成

コントローラーノードに接続し、スクリプトをダウンロードします。sudo アクセス許可で実行してください。

$ curl -O https://raw.githubusercontent.com/awslabs/awsome-distributed-training/main/1.architectures/5.sagemaker-hyperpod/LifecycleScripts/base-config/utils/create_users.sh
chmod +x create_users.sh

3 つのモードのいずれかを使用してスクリプトを実行します。このモードは、渡した引数と現在のディレクトリ内のファイルから優先度で選択します。最初にコマンドライン引数、次にユーザーファイル、次にインタラクティブプロンプトです。すべてのモードが同じシーケンスを実行します。現在のノードでユーザーを作成し、共有ファイルシステムで SSH キーペアを設定し、残りのすべてのノード (コンピューティングノードと並列) でユーザーを作成し、コントローラーで Slurm アカウンティングに登録して、 に追加しshared_users.txt、そのファイルを Amazon S3 にアップロードすることを に提案します。

次の例では、3 つのモードについて説明し、それぞれに 2 人のユーザー (user1 と ) を追加しますuser2。

コマンドラインモード

ユーザー名を引数として渡します。スクリプトは UIDsし、新しいユーザーを sudoers にするかどうかをプロンプトします。これは、ユーザーを追加する最も簡単な方法です。

$ sudo ./create_users.sh user1 user2

スクリプトはユーザー名を検証し、sudoer アクセスを求めます。

========================================
 Step 1: User Configuration
========================================
  Users from CLI args: user1 user2
    ✓ user1 — will be created (auto-assign UID)
    ✓ user2 — will be created (auto-assign UID)
  Make these user(s) sudoer(s)? (y/N): n

次に、現在のノードにユーザーを作成し、SSH キーペアを設定し、コンピューティングノードに作成し、コントローラーの Slurm アカウンティングに登録して、 を書き込みshared_users.txt、最後にそのファイルを Amazon S3 にアップロードするよう促します。

ファイルモード

スクリプトと同じディレクトリにユーザーファイルを作成し、引数なしでスクリプトを実行します。このスクリプトは、ユーザー定義を読み取り、検証し (存在しないユーザーのみを作成し、UID 競合をスキップする）、すべてのノードにユーザーを作成します。スクリプトは 2 つのファイル形式を受け入れます。

の場合shared_users.txt、CSV ファイルを 形式で 1 行に 1 人のユーザーで使用しますusername,uid,home_directory。

user1,2001,/fsx/user1
user2,2002,/fsx/user2

または、 の場合はshared_users.yaml、ユーザーまたはグループに分類されたユーザーの簡単なリストを含む YAML ファイルを使用します。この形式を解析するには、ノードで PyYAML が必要です。以下はシンプルなリスト形式です。

users:
  - username: user1
    uid: 2001
  - username: user2
    uid: 2002

両方のファイルが存在する場合、 shared_users.txtが優先されます。引数なしでスクリプトを実行します。

$ sudo ./create_users.sh

このスクリプトは、ファイルエントリを検証し、作成を確認し、sudoer アクセスのプロンプトを表示し、ファイルにないユーザーを追加することを に提案します。次に、 ファイル (2001 および 2002) から UIDs を持つすべてのノードuser1user2で と を作成し、SSH キーペアを設定し、Slurm アカウンティングに登録して、 を更新しますshared_users.txt。

インタラクティブ動画

引数やユーザーファイルなしでスクリプトを実行します。このスクリプトでは、ユーザー名と、オプションで割り当てる UIDsの入力を求められます。

$ sudo ./create_users.sh

========================================
 Step 1: User Configuration
========================================
  No shared_users.txt or shared_users.yaml found.
  Entering interactive mode...

  Enter username(s), comma-separated (e.g. 'sean' or 'sean,alice,bob'): user1,user2
  Specify UIDs? (Enter for auto-assign, or comma-separated UIDs): 2001,2002
  Make these user(s) sudoer(s)? (y/N): n

プロンプトに応答すると、スクリプトは入力した UIDs を持つすべてのノードuser2で user1と を作成し、SSH キーペアを設定し、Slurm アカウンティングに登録して、 を更新しますshared_users.txt。

ユーザーに切り替えてクラスター全体でコマンドを実行して、ユーザーをテストします。

$ sudo su - user1 && ssh $(srun hostname)

add-users ディレクトリの適切なサンプルファイルをコピーし、ユーザーで編集します。

$ cp shared_users_sample.yaml shared_users.yaml

add-users ディレクトリをライフサイクルスクリプト Amazon S3 バケットにアップロードします (バケットパスは で始まる必要がありますs3://sagemaker-)。

$ aws s3 cp add-users/ s3://DOC-EXAMPLE-BUCKET/add-users/ --recursive

OnInitComplete スクリプトadd_users.shとして を使用して、CreateClusterリクエストの LifeCycleConfigブロックで拡張機能を指定します。

"LifeCycleConfig": {
    "OnInitComplete": "add_users.sh",
    "SourceS3Uri": "s3://DOC-EXAMPLE-BUCKET/add-users/"
}

ユーザーファイルを新しいユーザーで更新し (ファイル内の既存のユーザーを保持）、Amazon S3 にアップロードします。

$ aws s3 cp add-users/shared_users.yaml s3://DOC-EXAMPLE-BUCKET/add-users/shared_users.yaml

コントローラーノードに接続し、スクリプトを共有ファイルシステムにプルします。

$ sudo mkdir -p /fsx/cluster-scripts/add-users
sudo aws s3 cp s3://DOC-EXAMPLE-BUCKET/add-users/ /fsx/cluster-scripts/add-users/ --recursive
sudo chmod +x /fsx/cluster-scripts/add-users/*.sh

コントローラーで 拡張機能を実行します。

$ sudo bash /fsx/cluster-scripts/add-users/add_users.sh

を使用してコンピューティングノードで 拡張機能を実行しますsrun。

$ sudo srun --partition=partition-name bash /fsx/cluster-scripts/add-users/add_users.sh

GitHub ウェブサイトから base-config ライフサイクルスクリプトセットをダウンロードします。このオプションでは、 だけでなく、base-config フォルダ全体をライフサイクルスクリプトセットとしてアップロードしますadd_users.sh。

base-config フォルダで、次の形式で という名前shared_users.txtのテキストファイルを作成または編集します。最初の列はユーザー名、2 番目の列は一意のユーザー ID、3 番目の列は Amazon FSx 共有スペースのユーザーディレクトリです。

username1,uid1,/fsx/username1
username2,uid2,/fsx/username2
...

add_users.sh は同じフォルダshared_users.txtから読み取るため、ファイルはスクリプトとともに base-config 内にある必要があります。

ベース設定フォルダ全体を HyperPod ライフサイクルスクリプトの Amazon S3 バケットにアップロードします。クラスターの作成、クラスターの更新、またはクラスターソフトウェアの更新の進行中、ライフサイクルスクリプトランナーは を実行しadd_users.sh、ユーザーとそのホームディレクトリを読み取りshared_users.txt、セットアップします。