Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
# Prerequisiti per l'utilizzo SageMaker HyperPod
Le sezioni seguenti illustrano i prerequisiti prima di iniziare. SageMaker HyperPod
**Topics**
+ [SageMaker HyperPod quote](#sagemaker-hyperpod-prerequisites-quotas)
+ [Configurazione SageMaker HyperPod con un Amazon VPC personalizzato](#sagemaker-hyperpod-prerequisites-optional-vpc)
+ [Configurazione SageMaker HyperPod di cluster su più AZ](#sagemaker-hyperpod-prerequisites-multiple-availability-zones)
+ [Configurazione AWS Systems Manager e Run As per il controllo degli accessi degli utenti del cluster](#sagemaker-hyperpod-prerequisites-ssm)
+ [(Facoltativo) Configurazione SageMaker HyperPod con Amazon FSx for Lustre](#sagemaker-hyperpod-prerequisites-optional-fsx)
## SageMaker HyperPod quote
Puoi creare SageMaker HyperPod cluster in base alle quote di utilizzo dei * cluster * nel tuo account. AWS
**Importante**
Per saperne di più sui SageMaker HyperPod prezzi, consulta [ Amazon [SageMaker HyperPod prezzi](sagemaker-hyperpod-ref.md#sagemaker-hyperpod-ref-pricing) SageMaker Pricing. ](https://aws.amazon.com/sagemaker/pricing/)
### Visualizza le SageMaker HyperPod quote Amazon utilizzando Console di gestione AWS
Cerca i valori predefiniti e applicati di una * quota*, nota anche come * limite*, per l'utilizzo del * cluster*, utilizzato per SageMaker HyperPod.
1. Apri la [Service Quotas console](https://console.aws.amazon.com/servicequotas/).
1. Nel pannello di navigazione a sinistra, scegli **Servizi AWS **.
1. Dall'**elenco dei **AWS servizi, cerca e seleziona ** Amazon SageMaker AI**.
1. Nell'**elenco delle quote di ** servizio, puoi vedere il nome della quota di servizio, il valore applicato (se disponibile), la quota AWS predefinita e se il valore della quota è regolabile.
1. Nella barra di ricerca, digita **utilizzo del cluster**. Vengono mostrate le quote per l’utilizzo del cluster, le quote applicate e le quote predefinite.
**Elenco delle quote di servizio comuni per creare un HyperPod cluster e relativi prerequisiti **
Potresti voler verificare se hai richiesto aumenti del limite delle quote di servizio per le seguenti quote per creare un nuovo HyperPod cluster insieme ai prerequisiti nella console AI. SageMaker Accedi alla ** console ** Service Quota e cerca i seguenti termini.
| No | Nome della quota | Termine di ricerca | Description |
| --- | --- | --- | --- |
| 1 | Numero massimo di istanze consentite per cluster SageMaker HyperPod | In SageMaker AI cerca «Numero massimo di istanze consentite per SageMaker HyperPod cluster» | Il valore della quota a livello di account deve essere superiore al numero di istanze che desideri aggiungere al cluster |
| 2 | Dimensione massima del volume EBS in GB per un'istanza del cluster SageMaker HyperPod | In SageMaker AI cerca «Dimensione massima del volume EBS in GB per un'istanza del HyperPod cluster» | Il valore della tua quota a livello di account deve essere superiore al volume EBS che desideri aggiungere al tuo cluster |
| 3 | Numero totale di istanze consentite tra i cluster SageMaker HyperPod | In SageMaker AI cerca «Numero totale di istanze consentite tra i cluster» SageMaker HyperPod | Il valore della tua quota a livello di account deve essere superiore al totale delle istanze che desideri aggiungere a tutti i cluster del tuo account in forma aggregata |
| 4 | Quote di istanze | In SageMaker AI cerca «ml. per l'utilizzo del cluster» ad esempio: ml.p5.48xlarge per l'utilizzo del cluster | Il valore della quota a livello di account per il particolare tipo di istanza (ad esempio: ml.p5.48xlarge) deve essere maggiore del numero di istanze da aggiungere in totale a tutti i cluster del tuo account. |
| 5 | VPC per regione | In Amazon Virtual Private Cloud (Amazon VPC) cerca «VPC per regione» | Il valore della quota a livello di account deve essere sufficiente per creare un nuovo VPC nell'account durante la configurazione del cluster. HyperPod Verifica se hai già raggiunto questo limite di quota controllando la console VPC. Questo aumento della quota è necessario solo se creerai un nuovo VPC tramite l'opzione di configurazione rapida o personalizzata del cluster nella console. SageMaker HyperPod |
| 6 | Gateway Internet per regione | In Amazon Virtual Private Cloud (Amazon VPC) cerca «Gateway Internet per regione» | Il valore della quota a livello di account deve essere sufficiente per creare un gateway Internet aggiuntivo nell'account durante la configurazione del cluster. SageMaker HyperPod Questo aumento della quota è necessario solo se intendi creare un nuovo VPC tramite l'opzione di configurazione rapida o personalizzata del cluster nella console. SageMaker HyperPod |
| 7 | Interfacce di rete per regione | In Amazon Virtual Private Cloud (Amazon VPC) cerca «Interfacce di rete per regione» | Il valore della quota a livello di account deve contenere un numero sufficiente di interfacce di rete nell'account durante la configurazione del cluster. HyperPod |
| 8 | EC2-VPC IP elastici | In Amazon Elastic Compute Cloud (Amazon EC2) cerca «EC2-VPC Elastic IPs» | Il valore della quota a livello di account deve essere sufficiente per creare un nuovo VPC nell'account durante la configurazione del cluster. HyperPod Verifica se hai già raggiunto questo limite di quota controllando la console VPC. Questo aumento della quota è necessario solo se creerai un nuovo VPC tramite l'opzione di configurazione rapida o personalizzata del cluster nella console. SageMaker HyperPod |
### Richiedi un aumento della SageMaker HyperPod quota Amazon utilizzando Console di gestione AWS
Aumenta le quote a livello di account o di risorsa.
1. Per aumentare la quota delle istanze per *l’utilizzo del cluster*, seleziona la quota da aumentare.
1. Se la quota è regolabile, puoi richiedere un aumento della quota a livello di account o di risorsa in base al valore elencato nella colonna **Regolabilità**.
1. In **Aumenta il valore della quota**, inserisci il nuovo valore. Questo valore deve essere maggiore di quello corrente.
1. Scegli **Richiedi**.
1. Per visualizzare eventuali richieste in sospeso o risolte di recente nella console, vai alla scheda **Cronologia richieste** dalla pagina dei dettagli del servizio o scegli **Dashboard** dal riquadro di navigazione. Per le richieste in sospeso, scegliere lo stato della richiesta per aprire la ricevuta della richiesta. Lo stato iniziale di una richiesta è **Pending** (In attesa). Dopo che lo stato è cambiato in ** Quota richiesta**, viene visualizzato il numero del caso con Supporto AWS. Scegli il numero del caso per aprire il ticket della tua richiesta.
Per ulteriori informazioni generali su come richiedere un aumento della quota, consulta [Requesting a Quota Increase](https://docs.aws.amazon.com/servicequotas/latest/userguide/request-quota-increase.html) in *AWS Service Quotas User Guide*.
## Configurazione SageMaker HyperPod con un Amazon VPC personalizzato
Per configurare un SageMaker HyperPod cluster con un Amazon VPC personalizzato, consulta i seguenti prerequisiti.
**Nota**
La configurazione VPC è obbligatoria per l’orchestrazione Amazon EKS. Per l’orchestrazione Slurm, la configurazione VPC è facoltativa.
+ Convalida la capacità di [ Elastic Network Interface ](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/using-eni.html) (ENI) nel tuo account Account AWS prima di creare un SageMaker HyperPod cluster con un VPC personalizzato. Il limite ENI è controllato da Amazon EC2 e varia in base a. Regione AWS SageMaker HyperPod non può richiedere automaticamente aumenti delle quote.
**Per verificare la tua attuale quota ENI:**
1. Apri la [Service Quotas console](https://console.aws.amazon.com/servicequotas/).
1. Nella ** sezione ** Gestisci le quote, utilizza l'elenco a ** discesa ** AWS Servizi per cercare VPC. ** **
1. Scegli di visualizzare le quote di **Amazon Virtual Private Cloud (Amazon VPC)**.
1. Cerca la Service Quota **Interfacce di rete per Regione** o il **Codice di quota** `L-DF5E4CA3`.
Se il limite ENI attuale non è sufficiente per le esigenze del SageMaker HyperPod cluster, richiedi un aumento della quota. Assicurarsi preventivamente una capacità ENI adeguata aiuta a prevenire gli errori di implementazione dei cluster.
+ Quando utilizzi un VPC personalizzato per connettere un SageMaker HyperPod cluster alle AWS risorse, fornisci il nome, l'ID e gli ID della sottorete e degli ID del gruppo di sicurezza del VPC durante la creazione del cluster. Regione AWS
**Nota**
Quando un Amazon VPC e le sottoreti supportano IPv6 in [`VPCConfig`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateCluster.html#sagemaker-CreateCluster-request-VpcConfig) del cluster o a livello del gruppo di istanze con l’attributo `OverrideVPCConfig` di [`ClusterInstanceGroupSpecification`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_ClusterInstanceGroupSpecification.html), le comunicazioni di rete differiscono in base alla piattaforma di orchestrazione del cluster:
Slurm-orchestrated i cluster configurano automaticamente i nodi con due indirizzi IPv6 e IPv4, consentendo comunicazioni di rete IPv6 immediate. Oltre alle impostazioni IPv6 `VPCConfig`, non sono necessarie ulteriori configurazioni.
Nei EKS-orchestrated cluster, i nodi ricevono un indirizzamento dual-stack, ma i pod possono utilizzare l'IPv6 solo quando il cluster Amazon EKS lo è esplicitamente. IPv6-enabled Devi creare un nuovo cluster Amazon EKS IPv6: i cluster Amazon EKS IPv4 esistenti non possono essere convertiti in IPv6. Per informazioni sull’implementazione di un cluster Amazon EKS IPv6, consulta [Amazon EKS IPv6 Cluster Deployment](https://docs.aws.amazon.com/eks/latest/userguide/deploy-ipv6-cluster.html#_deploy_an_ipv6_cluster_with_eksctl).
Ulteriori risorse per la configurazione IPv6:
Per informazioni sull’aggiunta del supporto IPv6 al tuo VPC, consulta [IPv6 Support for VPC](https://docs.aws.amazon.com/vpc/latest/userguide/vpc-migrate-ipv6.html).
Per informazioni sulla creazione di un nuovo VPC, consulta la Creation Guide. IPv6-compatible [Amazon VPC](https://docs.aws.amazon.com/vpc/latest/userguide/create-vpc.html)
Per la configurazione SageMaker HyperPod con un Amazon VPC personalizzato, consulta [ Configurazione personalizzata di Amazon VPC per. SageMaker HyperPod ](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-hyperpod-prerequisites.html#sagemaker-hyperpod-prerequisites-optional-vpc)
+ Assicurati che tutte le risorse siano distribuite nello Regione AWS stesso cluster. SageMaker HyperPod Configura le regole dei gruppi di sicurezza per consentire la comunicazione tra le risorse all’interno del VPC. Ad esempio, quando crei un VPC in `us-west-2`, alloca le sottoreti su una o più zone di disponibilità (ad esempio `us-west-2a` o `us-west-2b`) e crea un gruppo di sicurezza che consenta il traffico tra i gruppi.
**Nota**
SageMaker HyperPod supporta l'implementazione in più zone di disponibilità. Per ulteriori informazioni, consulta [Configurazione SageMaker HyperPod di cluster su più AZ](#sagemaker-hyperpod-prerequisites-multiple-availability-zones).
+ Stabilisci la connettività Amazon Simple Storage Service (Amazon S3) per i gruppi di VPC-deployed SageMaker HyperPod istanze creando un endpoint VPC. Senza accesso a Internet, i gruppi di istanze non possono archiviare o recuperare gli script del ciclo di vita, i dati di addestramento o gli artefatti del modello. Ti consigliamo di creare una policy IAM personalizzata che limiti l’accesso dei bucket Amazon S3 al VPC privato. Per ulteriori informazioni, consulta [Endpoints for Amazon S3](https://docs.aws.amazon.com/AmazonVPC/latest/UserGuide/vpc-endpoints-s3.html) in *AWS PrivateLink Guide*.
+ Per HyperPod i cluster che utilizzano istanze abilitate per Elastic Fabric Adapter (EFA), configura il gruppo di sicurezza in modo che consenta tutto il traffico in entrata e in uscita da e verso il gruppo di sicurezza stesso. In particolare, evita di utilizzare `0.0.0.0/0` per le regole in uscita, perché potrebbe causare errori nei controlli dell’integrità EFA. Per ulteriori informazioni sulle linee guida per la preparazione dei gruppi di sicurezza EFA, consulta la [ Fase 1: Prepare an EFA-enabled security group ](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/efa-start.html#efa-start-security) nella Amazon EC2 User Guide. * *
+ Valuta attentamente la dimensione del blocco Classless Inter-Domain Routing (CIDR) della tua sottorete prima di creare i cluster. HyperPod
+ La dimensione dell’intervallo CIDR della sottorete non può essere modificata dopo la creazione. Questo aspetto è particolarmente importante quando utilizzi istanze accelerate di grandi dimensioni come P5. Senza una dimensione del blocco sufficiente, in caso di aumento verticale dovrai ricreare i cluster.
+ Quando scegli la dimensione dell’intervallo CIDR della sottorete appropriata, considera questi fattori: i tipi di istanze, il numero previsto di istanze e il numero di indirizzi IP utilizzati da ciascuna istanza.
+ Per Slurm-orchestrated i cluster, ogni istanza P5 può creare 32 indirizzi IP (uno per scheda di rete). Per EKS-orchestrated i cluster, ogni istanza P5 può creare 81 indirizzi IP (50 dalla scheda principale più uno da ciascuna delle 31 schede rimanenti). Per specifiche dettagliate, consulta [Network specifications ](https://docs.aws.amazon.com/ec2/latest/instancetypes/ac.html#ac_network) in *Amazon EC2 Instance Types Developer Guide*.
+ Per esempi di CloudFormation modelli che specificano la dimensione del blocco CIDR della sottorete, consulta il modello [ HyperPod Slurm ](https://github.com/aws-samples/awsome-distributed-training/blob/main/1.architectures/5.sagemaker-hyperpod/sagemaker-hyperpod.yaml) e il modello [ HyperPod Amazon EKS nel repository awsome-distributed-training. ](https://github.com/aws-samples/awsome-distributed-training/blob/main/1.architectures/7.sagemaker-hyperpod-eks/cfn-templates/nested-stacks/private-subnet-stack.yaml) [https://github.com/aws-samples/awsome-distributed-training/tree/main](https://github.com/aws-samples/awsome-distributed-training/tree/main)
## Configurazione SageMaker HyperPod di cluster su più AZ
È possibile configurare SageMaker HyperPod i cluster su più zone di disponibilità (AZ) per migliorare l'affidabilità e la disponibilità.
**Nota**
Il traffico Elastic Fabric Adapter (EFA) non può attraversare AZ o VPC. Questo non si applica al normale traffico IP dal dispositivo ENA di un'interfaccia EFA. Per ulteriori informazioni, consulta [EFA limitations](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/efa.html).
+ **Comportamento predefinito**
HyperPod implementa tutte le istanze del cluster in un'unica zona di disponibilità. La configurazione VPC determina l’AZ di implementazione:
+ Per i Slurm-orchestrated cluster, la configurazione VPC è facoltativa. Quando non viene fornita alcuna configurazione VPC, per HyperPod impostazione predefinita viene utilizzata una sottorete della piattaforma VPC.
+ Per i EKS-orchestrated cluster, è richiesta la configurazione VPC.
+ Sia per gli orchestratori Slurm che EKS, quando [`VpcConfig`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_VpcConfig.html) viene fornito, HyperPod seleziona una sottorete dall'elenco delle sottoreti fornite. `VpcConfig` Tutti i gruppi di istanze ereditano la AZ della sottorete.
**Nota**
Una volta creato un cluster, non è possibile modificarne le impostazioni `VpcConfig`.
Per saperne di più sulla configurazione dei VPC per i cluster, consulta la sezione precedente,. HyperPod [Configurazione SageMaker HyperPod con un Amazon VPC personalizzato](#sagemaker-hyperpod-prerequisites-optional-vpc)
+ ** Multi-AZ configurazione **
È possibile configurare il HyperPod cluster su più AZ durante la creazione di un cluster o quando si aggiunge un nuovo gruppo di istanze a un cluster esistente. Per configurare le implementazioni Multi-AZ, puoi sostituire le impostazioni VPC predefinite del cluster specificando sottoreti e gruppi di sicurezza diversi, possibilmente in diverse zone di disponibilità, per singoli gruppi di istanze all’interno del cluster.
SageMaker HyperPod Gli utenti dell'API possono utilizzare la `OverrideVpcConfig` proprietà all'interno di [ ClusterInstanceGroupSpecification ](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_ClusterInstanceGroupSpecification.html) quando lavorano con le [`UpdateCluster`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateCluster.html) API [`CreateCluster`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateCluster.html) or.
Il campo `OverrideVpcConfig`:
+ Non può essere modificato dopo la creazione del gruppo di istanze.
+ È facoltativo. Se non è specificato, viene utilizzato il livello del cluster [`VpcConfig`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_VpcConfig.html) come impostazione predefinita.
+ Per Slurm-orchestrated i cluster, può essere specificato solo quando viene fornito il livello del `VpcConfig` cluster. Se non è specificato alcun valore `VpcConfig` a livello del cluster, `OverrideVpcConfig` non può essere utilizzato per alcun gruppo di istanze.
+ Contiene due campi obbligatori:
+ `Subnets`: accetta tra 1 e 16 ID di sottorete
+ `SecurityGroupIds`: accetta da 1 a 5 ID di gruppi di sicurezza
Per ulteriori informazioni sulla creazione o l'aggiornamento di un SageMaker HyperPod cluster utilizzando l'interfaccia utente della SageMaker HyperPod console o il AWS CLI:
+ Orchestrazione Slurm: vedere Cluster operativi. [ Slurm-orchestrated HyperPod ](sagemaker-hyperpod-operate-slurm.md)
+ Orchestrazione EKS. [Vedi Cluster operativi. ](sagemaker-hyperpod-eks-operate.md) EKS-orchestrated HyperPod
**Nota**
Quando esegui carichi di lavoro su più AZ, tieni presente che la comunicazione di rete tra AZ introduce una latenza aggiuntiva. Considera questo fattore quando progetti applicazioni sensibili alla latenza.
## Configurazione AWS Systems Manager e Run As per il controllo degli accessi degli utenti del cluster
[SageMaker HyperPod DLAMI](sagemaker-hyperpod-ref.md#sagemaker-hyperpod-ref-hyperpod-ami)viene fornito con [AWS Systems Manager](https://aws.amazon.com/systems-manager/) (SSM) pronto all'uso per aiutarti a gestire l'accesso ai gruppi di istanze SageMaker HyperPod del cluster. Questa sezione descrive come creare utenti del sistema operativo (OS) nei SageMaker HyperPod cluster e associarli a utenti e ruoli IAM. Questa opzione è utile per autenticare le sessioni SSM utilizzando le credenziali dell’account utente del sistema operativo.
**Nota**
La concessione agli utenti dell'accesso ai nodi del HyperPod cluster consente loro di installare e utilizzare software gestito dagli utenti sui nodi. Assicurati di rispettare il principio delle autorizzazioni con privilegio minimo per gli utenti.
### Abilitare Run As nel tuo AWS account
Come amministratore AWS dell'account o amministratore del cloud, puoi gestire l'accesso ai SageMaker HyperPod cluster a livello di ruolo IAM o utente utilizzando la funzionalità [ Run As in ](https://docs.aws.amazon.com/systems-manager/latest/userguide/session-preferences-run-as.html) SSM. Con questa funzionalità puoi avviare ogni sessione SSM utilizzando l’utente del sistema operativo associato al ruolo o all’utente IAM.
Per abilitare Run As nel tuo AWS account, segui i passaggi in [ Attiva il supporto Run As per i nodi gestiti da Linux e macOS. ](https://docs.aws.amazon.com/systems-manager/latest/userguide/session-preferences-run-as.html) Se hai già creato utenti del sistema operativo nel tuo cluster, assicurati di associarli a ruoli o utenti IAM taggandoli come indicato nell’**Opzione 2** della Fase 5 in **To turn on Run As support for Linux and macOS managed nodes**.
## (Facoltativo) Configurazione SageMaker HyperPod con Amazon FSx for Lustre
Per iniziare a utilizzare SageMaker HyperPod e mappare i percorsi di dati tra il cluster e il file system FSx for Lustre, seleziona uno dei formati supportati da. Regioni AWS SageMaker HyperPod Dopo aver scelto Regione AWS quello che preferisci, dovresti anche determinare quale zona di disponibilità (AZ) utilizzare.
Se si utilizzano nodi di SageMaker HyperPod calcolo in AZ diversi dagli AZ in cui è configurato il file system FSx for Lustre all'interno dello stesso Regione AWS, potrebbe verificarsi un sovraccarico di comunicazione e di rete. Ti consigliamo di utilizzare lo stesso AZ fisico dell'account di SageMaker HyperPod servizio per evitare qualsiasi traffico cross-AZ tra i SageMaker HyperPod cluster e il file system FSx for Lustre. Inoltre, assicurati che sia configurato il tuo VPC. Se desideri utilizzare Amazon FSx come file system principale per lo storage, devi configurare i cluster con il tuo VPC. SageMaker HyperPod