Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

# Pipeline di inferenza in Amazon AI SageMaker
<a name="inference-pipelines"></a>

Una pipeline di * inferenza * è un modello Amazon SageMaker AI composto da una sequenza lineare da due a quindici contenitori che elaborano richieste di inferenza sui dati. Utilizzi una pipeline di inferenza per definire e implementare qualsiasi combinazione di algoritmi di SageMaker intelligenza artificiale preaddestrati e algoritmi personalizzati confezionati in contenitori Docker. Puoi utilizzare una pipeline di inferenza per combinare attività data science di pre-elaborazione, previsioni e post-elaborazione. Le pipeline di inferenza sono completamente gestite.

Puoi aggiungere contenitori SageMaker AI Spark ML Serving e scikit-learn che riutilizzano i trasformatori di dati sviluppati per i modelli di addestramento. L'intera pipeline di inferenza assemblata può essere considerata un modello di SageMaker intelligenza artificiale che puoi utilizzare per fare previsioni in tempo reale o per elaborare trasformazioni batch direttamente senza alcuna preelaborazione esterna. 

All'interno di un modello di pipeline di inferenza, l' SageMaker IA gestisce le chiamate come una sequenza di richieste HTTP. Il primo contenitore della pipeline gestisce la richiesta iniziale, quindi la risposta intermedia viene inviata come richiesta al secondo contenitore e così via per ogni contenitore nella pipeline. SageMaker L'intelligenza artificiale restituisce la risposta finale al client. 

Quando si distribuisce il modello di pipeline, l' SageMaker IA installa ed esegue tutti i contenitori su ogni istanza di Amazon Elastic Compute Cloud (Amazon EC2) nell'endpoint o nel job di trasformazione. Elaborazione delle caratteristiche e inferenze vengono eseguite con bassa latenza perché i container si trovano nelle stesse istanze EC2. Definisci i container per un modello di pipeline utilizzando l'operazione [`CreateModel`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateModel.html) o dalla console. Invece di impostare un `PrimaryContainer`, utilizza il parametro `Containers` per impostare i container che compongono la pipeline. Specifica anche l’ordine di esecuzione dei container. 

Un modello di pipeline è non modificabile, ma puoi aggiornare una pipeline di inferenza distribuendone una nuova utilizzando l'operazione [`UpdateEndpoint`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html). Questa modularità supporta una maggiore flessibilità durante la sperimentazione. 

Per informazioni su come creare una pipeline di inferenza con il Model Registry, consulta. SageMaker [Implementazione della registrazione del modello con il registro dei modelli](model-registry.md)

Questa caratteristica non comporta costi supplementari. Paghi solo per le istanze in esecuzione su un endpoint.

**Topics**
+ [Notebook di esempio per pipeline di inferenza](#inference-pipeline-sample-notebooks)
+ [Elaborazione delle funzionalità con Spark ML e Scikit-learn](inference-pipeline-mleap-scikit-learn-containers.md)
+ [Creazione di un modello di pipeline](inference-pipeline-create-console.md)
+ [Esegui Real-time previsioni con una pipeline di inferenza](inference-pipeline-real-time.md)
+ [Trasformazioni in batch con pipeline di inferenza](inference-pipeline-batch.md)
+ [Log e parametri della pipeline di inferenza](inference-pipeline-logs-metrics.md)
+ [Risoluzione dei problemi delle pipeline di inferenza](inference-pipeline-troubleshoot.md)

## Notebook di esempio per pipeline di inferenza
<a name="inference-pipeline-sample-notebooks"></a>

Per un esempio che mostra come creare e distribuire pipeline di inferenza, consultate il taccuino di esempio Inference Pipeline with and [ Linear Learner. Scikit-learn ](https://github.com/aws/amazon-sagemaker-examples/tree/main/sagemaker-python-sdk/scikit_learn_inference_pipeline) Per istruzioni sulla creazione e l'accesso alle istanze del notebook Jupyter che puoi utilizzare per eseguire l'esempio in AI, consulta. SageMaker [Istanze di notebook Amazon SageMaker](nbi.md) 

Per visualizzare un elenco di tutti gli esempi di SageMaker intelligenza artificiale, dopo aver creato e aperto un'istanza del notebook, scegli la ** SageMaker scheda Esempi di intelligenza artificiale. ** Esistono tre notebook sulle pipeline di inferenza. I primi due notebook sulle pipeline di inferenza appena descritti si trovano nella cartella `advanced_functionality`, mentre il terzo si trova nella cartella `sagemaker-python-sdk`. Per aprire un notebook, seleziona la relativa scheda **Utilizza**, quindi scegli **Crea copia**.