

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

# Algoritmos, marcos e instancias compatibles con puntos de conexión multimodelo
<a name="multi-model-support"></a>

Para obtener información sobre algoritmos, marcos y tipos de instancias que puedes usar con puntos de conexión multimodelo, consulte las siguientes secciones.

## Algoritmos, marcos e instancias compatibles para puntos de conexión multimodelo que utilizan instancias respaldadas por CPU
<a name="multi-model-support-cpu"></a>

Los contenedores de inferencia de los siguientes algoritmos y marcos admiten puntos de conexión multimodelo:
+ [Algoritmo XGBoost con Amazon AI SageMaker](xgboost.md)
+ [K-Nearest Algoritmo de vecinos (k-NN)](k-nearest-neighbors.md)
+ [Algoritmo de aprendizaje lineal](linear-learner.md)
+ [Algoritmo de bosque de corte aleatorio (RCF)](randomcutforest.md)
+ [Recursos para usar TensorFlow con Amazon SageMaker AI](tf.md)
+ [Recursos para usar Scikit-learn con Amazon SageMaker AI](sklearn.md)
+ [Recursos para usar Apache MXNet con Amazon AI SageMaker](mxnet.md)
+ [Recursos para usar PyTorch con Amazon SageMaker AI](pytorch.md)

Para utilizar cualquier otro marco o algoritmo, utilice el kit de herramientas de inferencia de SageMaker IA para crear un contenedor que admita puntos finales multimodelo. Para obtener información, consulte [Construya su propio contenedor para terminales de SageMaker IA Multi-Model](build-multi-model-build-container.md).

Multi-model Los puntos finales admiten todos los tipos de instancias de CPU.

## Algoritmos, marcos e instancias compatibles para puntos de conexión multimodelo que utilizan instancias respaldadas por GPU
<a name="multi-model-support-gpu"></a>

El servidor [Triton Inference de SageMaker AI](https://docs.aws.amazon.com/sagemaker/latest/dg/triton.html) permite alojar varios modelos respaldados por GPU en puntos finales multimodelo. Esto es compatible con los principales marcos de inferencia, como NVIDIA® TensorRT™, PyTorch MXNet, Python, ONNX, XGBoost, RandomForest scikit-learn, OpenVINO, C\+\+ personalizado y más.

Para usar cualquier otro marco o algoritmo, puede usar el backend Triton para Python o C\+\+ para escribir la lógica de su modelo y servir cualquier modelo personalizado. Una vez que tenga el servidor listo, puede empezar a implementar cientos de modelos de aprendizaje profundo en un punto de conexión.

Multi-model Los puntos finales admiten los siguientes tipos de instancias de GPU:


| Familia de instancias | Tipo de instancia | vCPUs | GiB de memoria por vCPU | GPU | Memoria de GPU | 
| --- | --- | --- | --- | --- | --- | 
| p2 | ml.p2.xlarge | 4 | 15.25 | 1 | 12 | 
| p3 | ml.p3.2xlarge | 8 | 7.62 | 1 | 16 | 
| g5 | ml.g5.xlarge | 4 | 4 | 1 | 24 | 
| g5 | ml.g5.2xlarge | 8 | 4 | 1 | 24 | 
| g5 | ml.g5.4xlarge | 16 | 4 | 1 | 24 | 
| g5 | ml.g5.8xlarge | 32 | 4 | 1 | 24 | 
| g5 | ml.g5.16xlarge | 64 | 4 | 1 | 24 | 
| g4dn | ml.g4dn.xlarge | 4 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.2xlarge | 8 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.4xlarge | 16 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.8xlarge | 32 | 4 | 1 | 16 | 
| g4dn | ml.g4dn.16xlarge | 64 | 4 | 1 | 16 | 