Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Algoritma, kerangka kerja, dan instance yang didukung untuk titik akhir multi-model
<a name="multi-model-support"></a>

Untuk informasi tentang algoritma, kerangka kerja, dan jenis instans yang dapat Anda gunakan dengan titik akhir multi-model, lihat bagian berikut.

## Algoritma, kerangka kerja, dan instans yang didukung untuk titik akhir multi-model menggunakan instans yang didukung CPU
<a name="multi-model-support-cpu"></a>

Wadah inferensi untuk algoritma dan kerangka kerja berikut mendukung titik akhir multi-model:
+ [Algoritma XGBoost dengan Amazon AI SageMaker](xgboost.md)
+ [K-Nearest Algoritma Tetangga (k-NN)](k-nearest-neighbors.md)
+ [Algoritma Pembelajar Linear](linear-learner.md)
+ [Algoritma Random Cut Forest (RCF)](randomcutforest.md)
+ [Sumber daya untuk digunakan TensorFlow dengan Amazon SageMaker AI](tf.md)
+ [Sumber daya untuk digunakan Scikit-learn dengan Amazon SageMaker AI](sklearn.md)
+ [Sumber daya untuk menggunakan Apache MxNet dengan Amazon AI SageMaker](mxnet.md)
+ [Sumber daya untuk digunakan PyTorch dengan Amazon SageMaker AI](pytorch.md)

Untuk menggunakan kerangka kerja atau algoritma lain, gunakan toolkit inferensi SageMaker AI untuk membangun wadah yang mendukung titik akhir multi-model. Untuk informasi, lihat [Bangun Wadah Anda Sendiri untuk Titik SageMaker Ak Multi-Model hir AI](build-multi-model-build-container.md).

Multi-model Endpoint mendukung semua jenis instance CPU.

## Algoritma, kerangka kerja, dan instans yang didukung untuk titik akhir multi-model menggunakan instans yang didukung GPU
<a name="multi-model-support-gpu"></a>

Hosting beberapa model yang didukung GPU pada titik akhir multi-model didukung melalui server [ SageMaker AI Triton Inference. ](https://docs.aws.amazon.com/sagemaker/latest/dg/triton.html) Ini mendukung semua kerangka inferensi utama seperti NVIDIA® TensorRT™,, MXnet, Python, ONNX PyTorch, XGBoost, scikit-learn,, OpenVINO, Custom C\+\+, dan banyak lagi. RandomForest

Untuk menggunakan kerangka kerja atau algoritma lain, Anda dapat menggunakan backend Triton untuk Python atau C \+\+ untuk menulis logika model Anda dan melayani model khusus apa pun. Setelah server siap, Anda dapat mulai menerapkan 100-an model Deep Learning di belakang satu titik akhir.

Multi-model titik akhir mendukung jenis instance GPU berikut:


| Keluarga instans | Tipe instans | vCPUs | GiB memori per vCPU | GPU | Memori GPU | 
| --- | --- | --- | --- | --- | --- | 
| P2 | ml.p2.xlarge | 4 | 15.25 | 1 | 12 | 
| p3 | ml.p3.2xlarge | 8 | 7.62 | 1 | 16 | 
| g5 | ml.g5.xbesar | 4 | 4 | 1 | 24 | 
| g5 | ml.g5.2xbesar | 8 | 4 | 1 | 24 | 
| g5 | ml.g5.4xbesar | 16 | 4 | 1 | 24 | 
| g5 | ml.g5.8xbesar | 32 | 4 | 1 | 24 | 
| g5 | ml.g5.16xbesar | 64 | 4 | 1 | 24 | 
| g4dn | ml.g4dn.xlarge | 4 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.2xbesar | 8 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.4xbesar | 16 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.8xbesar | 32 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.16xbesar | 64 | 4 | 1 | 16 |