

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

# Implementazione dei modelli di fondazione disponibili al pubblico con la classe `JumpStartModel`
<a name="jumpstart-foundation-models-use-python-sdk-model-class"></a>

Puoi implementare un algoritmo integrato o un modello preaddestrato su un endpoint SageMaker AI in poche righe di codice utilizzando l'SDK. SageMaker Python

1. Innanzitutto, trova l'ID del modello di tua scelta nella Tabella degli [ Built-in algoritmi con modelli pre-addestrati. ](https://sagemaker.readthedocs.io/en/stable/doc_utils/pretrainedmodels.html)

1. Utilizzando l'ID del modello, definisci il tuo modello come modello. JumpStart 

   ```
   from sagemaker.serve import ModelBuilder
   from sagemaker.core.jumpstart.configs import JumpStartConfig
   
   jumpstart_config = JumpStartConfig(model_id={{"huggingface-text2text-flan-t5-xl"}})
   model_builder = ModelBuilder.from_jumpstart_config(jumpstart_config=jumpstart_config)
   ```

1. Utilizza il metodo `deploy` per implementare automaticamente il modello per l’inferenza. In questo esempio, utilizziamo il modello FLAN-T5 XL diHugging Face.

   ```
   model = model_builder.build()
   endpoint = model_builder.deploy()
   ```

1. È quindi possibile eseguire l’inferenza con il modello implementato utilizzando il metodo `predict`.

   ```
   question = {{"What is Southern California often abbreviated as?"}}
   response = predictor.predict(question)
   print(response)
   ```

**Nota**  
Questo esempio utilizza il modello base FLAN-T5 XL, adatto per un'ampia gamma di casi d'uso della generazione di testo, tra cui la risposta alle domande, il riepilogo, la creazione di chatbot e altro ancora. Per ulteriori informazioni sui casi d’uso dei modelli, consulta [Modelli di fondazione disponibili](jumpstart-foundation-models-latest.md).

Per ulteriori informazioni sulla `JumpStartModel ` classe e sui relativi parametri, vedere. [ JumpStartModel ](https://sagemaker.readthedocs.io/en/stable/api/inference/model.html#sagemaker.jumpstart.model.JumpStartModel)

## Controllo dei tipi di istanza predefiniti
<a name="jumpstart-foundation-models-use-python-sdk-model-class-instance-types"></a>

Se lo desideri, durante l’implementazione di un modello preaddestrato puoi includere versioni di modello o tipi di istanza specifici utilizzando la classe `JumpStartModel`. Tutti i JumpStart modelli hanno un tipo di istanza predefinito. Recupera il tipo di istanza di implementazione predefinita utilizzando il seguente codice:

```
from sagemaker import instance_types

instance_type = instance_types.retrieve_default(
    model_id=model_id,
    model_version=model_version,
    scope={{"inference"}})
print(instance_type)
```

Visualizza tutti i tipi di istanza supportati per un determinato JumpStart modello con il `instance_types.retrieve()` metodo.

## Utilizzo dei componenti di inferenza per implementare più modelli su un endpoint condiviso
<a name="jumpstart-foundation-models-use-python-sdk-model-class-endpoint-types"></a>

Un componente di inferenza è un oggetto di hosting SageMaker AI che puoi utilizzare per distribuire uno o più modelli su un endpoint per una maggiore flessibilità e scalabilità. È necessario modificarlo `endpoint_type` affinché il JumpStart modello sia basato su componenti di inferenza anziché sull'endpoint predefinito basato sul modello. 

```
predictor = my_model.deploy(
    endpoint_name = {{'jumpstart-model-id-123456789012'}}, 
    endpoint_type = {{EndpointType.INFERENCE_COMPONENT_BASED}}
)
```

Per ulteriori informazioni sulla creazione di endpoint con componenti di inferenza e sull'implementazione di modelli AI, consulta. SageMaker [Utilizzo condiviso delle risorse con più modelli](realtime-endpoints-deploy-models.md#deployed-shared-utilization)

## Verifica dei formati di inferenza di input e output validi
<a name="jumpstart-foundation-models-use-python-sdk-model-class-input-output"></a>

Per verificare i formati di input e output dei dati validi per l’inferenza, puoi utilizzare il metodo `retrieve_options()` delle classi `Serializers` e `Deserializers`.

```
print(sagemaker.serializers.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.deserializers.retrieve_options(model_id=model_id, model_version=model_version))
```

## Verifica dei contenuti supportati e dei tipi di accettazione
<a name="jumpstart-foundation-models-use-python-sdk-model-class-content-types"></a>

Allo stesso modo, è possibile utilizzare il metodo `retrieve_options()` per verificare i contenuti supportati e i tipi di accettazione per un modello.

```
print(sagemaker.content_types.retrieve_options(model_id=model_id, model_version=model_version))
print(sagemaker.accept_types.retrieve_options(model_id=model_id, model_version=model_version))
```

Per ulteriori informazioni sulle utility, consulta [API Utility](https://sagemaker.readthedocs.io/en/stable/api/utility/index.html).