

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

# Déploiement de modèles de fondation accessibles au public à l’aide de la classe `JumpStartModel`
<a name="jumpstart-foundation-models-use-python-sdk-model-class"></a>

Vous pouvez déployer un algorithme intégré ou un modèle pré-entraîné sur un terminal d' SageMaker IA en quelques lignes de code à l'aide du SageMaker Python SDK.

1. Tout d'abord, recherchez l'ID du modèle de votre choix dans le tableau [ Built-in ](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html) des algorithmes avec des modèles pré-entraînés.

1. À l'aide de l'ID du modèle, définissez votre modèle en tant que JumpStart modèle.

   ```
   from sagemaker.serve import ModelBuilder
   from sagemaker.core.jumpstart.configs import JumpStartConfig
   
   jumpstart_config = JumpStartConfig(model_id={{"huggingface-text2text-flan-t5-xl"}})
   model_builder = ModelBuilder.from_jumpstart_config(jumpstart_config=jumpstart_config)
   ```

1. Utilisez la méthode `deploy` pour déployer automatiquement votre modèle à des fins d’inférence. Dans cet exemple, nous utilisons le modèle FLAN-T5 XL deHugging Face.

   ```
   model = model_builder.build()
   endpoint = model_builder.deploy()
   ```

1. Vous pouvez ensuite exécuter l’inférence avec le modèle déployé, à l’aide de la méthode `predict`.

   ```
   question = {{"What is Southern California often abbreviated as?"}}
   response = predictor.predict(question)
   print(response)
   ```

**Note**  
Cet exemple utilise le modèle de base FLAN-T5 XL, qui convient à un large éventail de cas d'utilisation de génération de texte, notamment la réponse à des questions, la synthèse, la création de chatbots, etc. Pour plus d’informations sur les cas d’utilisation d’un modèle, consultez [Modèles de fondation disponibles](jumpstart-foundation-models-latest.md).

Pour plus d'informations sur la `JumpStartModel ` classe et ses paramètres, consultez [ JumpStartModel](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.model.JumpStartModel).

## Vérification de types d’instance par défaut
<a name="jumpstart-foundation-models-use-python-sdk-model-class-instance-types"></a>

Vous pouvez éventuellement inclure des versions de modèle ou des types d’instances spécifiques lorsque vous déployez un modèle pré-entraîné à l’aide de la classe `JumpStartModel`. Tous les JumpStart modèles possèdent un type d'instance par défaut. Extrayez le type d’instance de déploiement par défaut à l’aide du code suivant :

```
from sagemaker import instance_types

instance_type = instance_types.retrieve_default(
    model_id=model_id,
    model_version=model_version,
    scope={{"inference"}})
print(instance_type)
```

Consultez tous les types d'instances pris en charge pour un JumpStart modèle donné à l'aide de la `instance_types.retrieve()` méthode.

## Utilisation de composants d’inférence pour déployer plusieurs modèles vers un point de terminaison partagé
<a name="jumpstart-foundation-models-use-python-sdk-model-class-endpoint-types"></a>

Un composant d'inférence est un objet d'hébergement d' SageMaker IA que vous pouvez utiliser pour déployer un ou plusieurs modèles sur un terminal afin d'améliorer la flexibilité et l'évolutivité. Vous devez modifier le paramètre `endpoint_type` pour que votre JumpStart modèle soit basé sur des composants d'inférence plutôt que le point de terminaison par défaut basé sur le modèle. 

```
predictor = my_model.deploy(
    endpoint_name = {{'jumpstart-model-id-123456789012'}}, 
    endpoint_type = {{EndpointType.INFERENCE_COMPONENT_BASED}}
)
```

Pour plus d'informations sur la création de points de terminaison avec des composants d'inférence et le déploiement de modèles d' SageMaker IA, consultez. [Utilisation partagée des ressources avec plusieurs modèles](realtime-endpoints-deploy-models.md#deployed-shared-utilization)

## Vérification des formats d’inférence d’entrée et de sortie valides
<a name="jumpstart-foundation-models-use-python-sdk-model-class-input-output"></a>

Pour vérifier les formats d’entrée et de sortie de données valides à des fins d’inférence, vous pouvez utiliser la méthode `retrieve_options()` des classes `Serializers` et `Deserializers`.

```
print(sagemaker.serializers.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.deserializers.retrieve_options(model_id=model_id, model_version=model_version))
```

## Vérification du contenu pris en charge et des types d’acceptations
<a name="jumpstart-foundation-models-use-python-sdk-model-class-content-types"></a>

De même, vous pouvez utiliser la méthode `retrieve_options()` pour vérifier le contenu pris en charge et les types d’acceptations pour un modèle.

```
print(sagemaker.content_types.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.accept_types.retrieve_options(model_id=model_id, model_version=model_version))
```

Pour plus d’informations sur les utilitaires, consultez [API d’utilitaire](https://sagemaker.readthedocs.io/en/stable/api/utility/index.html).