Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich. # Unterstützte Frameworks und AWS-Regionen Bevor Sie die SageMaker Model Parallelism Library v2 (SMP v2) verwenden, überprüfen Sie die unterstützten Frameworks und Instanztypen und stellen Sie fest, ob in Ihrem Konto und AWS AWS-Region **Anmerkung** Die neuesten Updates und Versionshinweise der Bibliothek finden Sie unter [Versionshinweise für die SageMaker Modellparallelitätsbibliothek](model-parallel-release-notes.md). ## Unterstützte Frameworks SMP v2 unterstützt die folgenden Deep-Learning-Frameworks und ist über SMP-Docker-Container und einen SMP-Conda-Kanal verfügbar. Wenn Sie die ModelTrainer Klasse im SageMaker Python-SDK verwenden und die Distributionskonfiguration für die Verwendung von SMP v2 angeben, übernimmt SageMaker AI automatisch die SMP-Docker-Container. Um SMP v2 zu verwenden, empfehlen wir, das SageMaker Python-SDK in Ihrer Entwicklungsumgebung immer auf dem neuesten Stand zu halten. **PyTorch Versionen, die die SageMaker Modellparallelismus-Bibliothek unterstützt ** - **v2.5.1** - **SageMaker Version der Modellparallelitätsbibliothek:** smdistributed-modelparallel==v2.8.0 - **SMP Docker-Image-URI:** 658645717510.dkr.ecr.{{}}.amazonaws.com/smdistributed-modelparallel:2.5.1-gpu-py311-cu124 - **SMP Enroot-Image-URI:** https://sagemaker-distributed-model-parallel.s3.{{}}.amazonaws.com/enroot/2.5.1-gpu-py311-cu124.sqsh - **v2.4.1** - **SageMaker Version der Modellparallelitätsbibliothek:** smdistributed-modelparallel==v2.7.0 / **SMP Enroot-Image-URI:** https://sagemaker-distributed-model-parallel.s3.{{}}.amazonaws.com/enroot/2.4.1-gpu-py311-cu121.sqsh - **SageMaker Version der Modellparallelitätsbibliothek:** smdistributed-modelparallel==v2.6.1 / **SMP Enroot-Image-URI:** N/A - **SageMaker Version der Modellparallelitätsbibliothek:** smdistributed-modelparallel==v2.6.0 / **SMP Enroot-Image-URI:** N/A - **SMP Docker-Image-URI:** 658645717510.dkr.ecr.{{}}.amazonaws.com/smdistributed-modelparallel:2.4.1-gpu-py311-cu121 - **v2.3.1** - **SageMaker Version der Modellparallelitätsbibliothek:** - smdistributed-modelparallel==v2.5.0 - smdistributed-modelparallel==v2.4.0 - **SMP Docker-Image-URI:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.3.1-gpu-py311-cu121 - **SMP Enroot-Image-URI:** N/A - **v2.2.0** - **SageMaker Version der Modellparallelitätsbibliothek:** - smdistributed-modelparallel==v2.3.0 - smdistributed-modelparallel==v2.2.0 - **SMP Docker-Image-URI:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.2.0-gpu-py310-cu121 - **SMP Enroot-Image-URI:** N/A - **v2.1.2** - **SageMaker Version der Modellparallelitätsbibliothek:** smdistributed-modelparallel==v2.1.0 - **SMP Docker-Image-URI:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.1.2-gpu-py310-cu121 - **SMP Enroot-Image-URI:** N/A - **v2.0.1** - **SageMaker Version der Modellparallelitätsbibliothek:** smdistributed-modelparallel==v2.0.0 - **SMP Docker-Image-URI:** 658645717510.dkr.ecr.{{us-west-2}}.amazonaws.com/smdistributed-modelparallel:2.0.1-gpu-py310-cu121 - **SMP Enroot-Image-URI:** N/A **SMP-Conda-Kanal** Der folgende Amazon-S3-Bucket ist ein öffentlicher Conda-Kanal, der vom SMP-Serviceteam gehostet wird. Wenn Sie die SMP v2-Bibliothek in einer Umgebung wie SageMaker HyperPod Clustern installieren möchten, verwenden Sie diesen Conda-Kanal, um die SMP-Bibliothek ordnungsgemäß zu installieren. ``` https://sagemaker-distributed-model-parallel.s3.{{us-west-2}}.amazonaws.com/smp-v2/ ``` Weitere Informationen zu Conda-Kanälen im Allgemeinen finden Sie unter [Kanäle](https://docs.conda.io/projects/conda/en/latest/user-guide/concepts/channels.html) in der *Conda-Dokumentation*. **Anmerkung** Frühere Versionen der SMP-Bibliothek v1.x und vorkonfigurierte DLCs finden Sie unter [Unterstützte Frameworks](distributed-model-parallel-support.md#distributed-model-parallel-supported-frameworks) in der *SMP-v1-Dokumentation*. ### SMP v2 mit Open-Source-Bibliotheken verwenden Die SMP v2-Bibliothek funktioniert mit anderen PyTorch-based Open-Source-Bibliotheken wie PyTorch Lightning, Hugging Face Transformers und Hugging Face Accelerate, da SMP v2 mit den FSDP-APIs kompatibel ist. PyTorch Wenn Sie weitere Fragen zur Verwendung der SMP-Bibliothek mit anderen Bibliotheken von Drittanbietern haben, wenden Sie sich an das SMP-Serviceteam unter `sm-model-parallel-feedback@amazon.com`. ## AWS-Regionen SMP v2 ist im Folgenden verfügbar. AWS-Regionen Wenn Sie die SMP Docker Image URIs oder den SMP-Conda-Kanal verwenden möchten, wählen Sie aus der folgenden Liste die passende AWS-Region aus und aktualisieren Sie den Image-URI oder die Kanal-URL entsprechend. + ap-northeast-1 + ap-northeast-2 + ap-northeast-3 + ap-south-1 + ap-southeast-1 + ap-southeast-2 + ca-central-1 + eu-central-1 + eu-north-1 + eu-west-1 + eu-west-2 + eu-west-3 + sa-east-1 + us-east-1 + us-east-2 + us-west-1 + us-west-2 ## Unterstützte Instance-Typen SMP v2 erfordert einen der folgenden ML-Instance-Typen. | Instance-Typ | | --- | | ml.p4d.24xlarge | | ml.p4de.24xlarge | | ml.p5.48xlarge | | ml.p5e.48xlarge | **Tipp** Ab SMP v2.2.0 ist Unterstützung für v2.2.0 und PyTorch höher verfügbar. [Training mit gemischter Präzision mit FP8 auf P5-Instances mithilfe der Transformer Engine](model-parallel-core-features-v2-mixed-precision.md#model-parallel-core-features-v2-mixed-precision-fp8-training-on-p5) Allgemeine Spezifikationen der Instance-Typen für SageMaker maschinelles Lernen finden Sie im ** Abschnitt ** Accelerated Computing auf der Seite [ Amazon EC2-Instance-Typen. ](https://aws.amazon.com/ec2/instance-types/) Informationen zur Preisgestaltung für Instances finden Sie unter [ Amazon SageMaker AI-Preise](https://aws.amazon.com/sagemaker/pricing/). Wenn Sie auf eine Fehlermeldung gestoßen sind, die der folgenden ähnelt, folgen Sie den Anweisungen unter [Beantragen einer Kontingenterhöhung](https://docs.aws.amazon.com/servicequotas/latest/userguide/request-quota-increase.html) im *AWS Service Quotas – Benutzerhandbuch*. ``` ResourceLimitExceeded: An error occurred (ResourceLimitExceeded) when calling the CreateTrainingJob operation: The account-level service limit 'ml.p3dn.24xlarge for training job usage' is 0 Instances, with current utilization of 0 Instances and a request delta of 1 Instances. Please contact AWS support to request an increase for this limit. ```