Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà. # Framework supportati e Regioni AWS Prima di utilizzare la libreria di parallelismo del SageMaker modello v2 (SMP v2), controlla i framework e i tipi di istanza supportati e determina se ci sono quote sufficienti nel tuo account e. AWS Regione AWS **Nota** Per controllare gli ultimi aggiornamenti e le note di rilascio della libreria, consulta [Note sulla versione per la libreria di parallelismo dei SageMaker modelli](model-parallel-release-notes.md). ## Framework supportati SMP v2 supporta i seguenti framework di deep learning ed è disponibile tramite i container Docker SMP e un canale Conda di SMP. Quando usi la ModelTrainer classe in SageMaker Python SDK e specifichi la configurazione di distribuzione per utilizzare SMP v2, AI preleva automaticamente i contenitori Docker SMP. SageMaker Per utilizzare SMP v2, ti consigliamo di mantenere sempre aggiornato l'SDK SageMaker Python nel tuo ambiente di sviluppo. **PyTorch versioni supportate dalla libreria Model SageMaker Parallelism ** - **v2.5.1** - **SageMaker versione della libreria di parallelismo del modello:** smdistributed-modelparallel==v2.8.0 - **URI dell’immagine Docker di SMP:** 658645717510.dkr.ecr.{{}}.amazonaws.com/smdistributed-modelparallel:2.5.1-gpu-py311-cu124 - **URI dell’immagine Enroot di SMP:** https://sagemaker-distributed-model-parallel.s3.{{}}.amazonaws.com/enroot/2.5.1-gpu-py311-cu124.sqsh - **v2.4.1** - **SageMaker versione della libreria di parallelismo del modello:** smdistributed-modelparallel==v2.7.0 / **URI dell’immagine Enroot di SMP:** https://sagemaker-distributed-model-parallel.s3.{{}}.amazonaws.com/enroot/2.4.1-gpu-py311-cu121.sqsh - **SageMaker versione della libreria di parallelismo del modello:** smdistributed-modelparallel==v2.6.1 / **URI dell’immagine Enroot di SMP:** N/A - **SageMaker versione della libreria di parallelismo del modello:** smdistributed-modelparallel==v2.6.0 / **URI dell’immagine Enroot di SMP:** N/A - **URI dell’immagine Docker di SMP:** 658645717510.dkr.ecr.{{}}.amazonaws.com/smdistributed-modelparallel:2.4.1-gpu-py311-cu121 - **v2.3.1** - **SageMaker versione della libreria di parallelismo del modello:** - smdistributed-modelparallel==v2.5.0 - smdistributed-modelparallel==v2.4.0 - **URI dell’immagine Docker di SMP:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.3.1-gpu-py311-cu121 - **URI dell’immagine Enroot di SMP:** N/A - **v2.2.0** - **SageMaker versione della libreria di parallelismo del modello:** - smdistributed-modelparallel==v2.3.0 - smdistributed-modelparallel==v2.2.0 - **URI dell’immagine Docker di SMP:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.2.0-gpu-py310-cu121 - **URI dell’immagine Enroot di SMP:** N/A - **v2.1.2** - **SageMaker versione della libreria di parallelismo del modello:** smdistributed-modelparallel==v2.1.0 - **URI dell’immagine Docker di SMP:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.1.2-gpu-py310-cu121 - **URI dell’immagine Enroot di SMP:** N/A - **v2.0.1** - **SageMaker versione della libreria di parallelismo del modello:** smdistributed-modelparallel==v2.0.0 - **URI dell’immagine Docker di SMP:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.0.1-gpu-py310-cu121 - **URI dell’immagine Enroot di SMP:** N/A **Canale Conda di SMP** Il seguente bucket Amazon S3 è un canale Conda pubblico ospitato dal team di assistenza SMP. Se desideri installare la libreria SMP v2 in un ambiente come SageMaker HyperPod i cluster, usa questo canale Conda per installare correttamente la libreria SMP. ``` https://sagemaker-distributed-model-parallel.s3.{{us-west-2}}.amazonaws.com/smp-v2/ ``` Per ulteriori informazioni sui canali Conda in generale, consulta [Canali](https://docs.conda.io/projects/conda/en/latest/user-guide/concepts/channels.html) nella *documentazione di Conda*. **Nota** Per trovare le versioni precedenti della libreria SMP v1.x e i DLC preconfezionati, consulta [Framework supportati](distributed-model-parallel-support.md#distributed-model-parallel-supported-frameworks) nella *documentazione di SMP v1*. ### Utilizzo di SMP v2 con librerie open source La libreria SMP v2 funziona con altre librerie PyTorch-based open source come PyTorch Lightning, Hugging Face Transformers e Hugging Face Accelerate, perché SMP v2 è compatibile con le API FSDP. PyTorch Se hai ulteriori domande sull’utilizzo della libreria SMP con altre librerie di terze parti, contatta il team di assistenza SMP all’indirizzo `sm-model-parallel-feedback@amazon.com`. ## Regioni AWS SMP v2 è disponibile nei seguenti formati. Regioni AWS Se desideri utilizzare gli URI dell’immagine Docker o il canale Conda di SMP, controlla il seguente elenco, scegli la tua Regione AWS e aggiorna l’URI dell’immagine o l’URL del canale di conseguenza. + ap-northeast-1 + ap-northeast-2 + ap-northeast-3 + ap-south-1 + ap-southeast-1 + ap-southeast-2 + ca-central-1 + eu-central-1 + eu-north-1 + eu-west-1 + eu-west-2 + eu-west-3 + sa-east-1 + us-east-1 + us-east-2 + us-west-1 + us-west-2 ## Tipi di istanze supportati SMP v2 richiede uno dei seguenti tipi di istanza ML. | Tipo di istanza | | --- | | ml.p4d.24xlarge | | ml.p4de.24xlarge | | ml.p5.48xlarge | | ml.p5e.48xlarge | **Suggerimento** A partire da SMP v2.2.0, è disponibile il supporto per la versione PyTorch 2.2.0 e successive. [Addestramento di precisione misto con FP8 su istanze P5 utilizzando Transformer Engine](model-parallel-core-features-v2-mixed-precision.md#model-parallel-core-features-v2-mixed-precision-fp8-training-on-p5) Per le specifiche dei tipi di istanze di SageMaker machine learning in generale, consulta la ** sezione ** Accelerated Computing nella pagina dei tipi di istanze di Amazon EC2. [https://aws.amazon.com/ec2/instance-types/](https://aws.amazon.com/ec2/instance-types/) Per informazioni sui prezzi delle istanze, consulta [ Amazon SageMaker AI Pricing. ](https://aws.amazon.com/sagemaker/pricing/) Se hai ricevuto un messaggio di errore simile al seguente, applica le istruzioni fornite nella sezione [Richiesta di aumento delle quote](https://docs.aws.amazon.com/servicequotas/latest/userguide/request-quota-increase.html) nella *Guida per l’utente di AWS Service Quotas*. ``` ResourceLimitExceeded: An error occurred (ResourceLimitExceeded) when calling the CreateTrainingJob operation: The account-level service limit 'ml.p3dn.24xlarge for training job usage' is 0 Instances, with current utilization of 0 Instances and a request delta of 1 Instances. Please contact AWS support to request an increase for this limit. ```