Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Saluran inferensi di Amazon AI SageMaker
<a name="inference-pipelines"></a>

Pipeline * inferensi * adalah model SageMaker AI Amazon yang terdiri dari urutan linier dua hingga lima belas wadah yang memproses permintaan untuk kesimpulan pada data. Anda menggunakan pipeline inferensi untuk menentukan dan menerapkan kombinasi algoritma bawaan SageMaker AI yang telah dilatih sebelumnya dan algoritme khusus Anda sendiri yang dikemas dalam wadah Docker. Anda dapat menggunakan pipeline inferensi untuk menggabungkan tugas ilmu data pra-pemrosesan, prediksi, dan pasca-pemrosesan. Pipeline inferensi dikelola sepenuhnya.

Anda dapat menambahkan SageMaker AI Spark ML Serving dan wadah scikit-learn yang menggunakan kembali transformer data yang dikembangkan untuk model pelatihan. Seluruh pipeline inferensi yang dirakit dapat dianggap sebagai model SageMaker AI yang dapat Anda gunakan untuk membuat prediksi real-time atau memproses transformasi batch secara langsung tanpa prapemrosesan eksternal. 

Dalam model pipeline inferensi, SageMaker AI menangani pemanggilan sebagai urutan permintaan HTTP. Wadah pertama dalam pipa menangani permintaan awal, kemudian respons perantara dikirim sebagai permintaan ke wadah kedua, dan seterusnya, untuk setiap wadah dalam pipa. SageMaker AI mengembalikan respons akhir ke klien. 

Saat Anda menerapkan model pipeline, SageMaker AI menginstal dan menjalankan semua container di setiap instans Amazon Elastic Compute Cloud (Amazon EC2) di titik akhir atau pekerjaan transformasi. Pemrosesan fitur dan kesimpulan berjalan dengan latensi rendah karena wadah ditempatkan bersama pada instans EC2 yang sama. Anda menentukan wadah untuk model pipa menggunakan [`CreateModel`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateModel.html) operasi atau dari konsol. Alih-alih mengatur satu`PrimaryContainer`, Anda menggunakan `Containers` parameter untuk mengatur wadah yang membentuk pipa. Anda juga menentukan urutan di mana wadah dieksekusi. 

Model pipeline tidak dapat diubah, tetapi Anda dapat memperbarui pipeline inferensi dengan menerapkan yang baru menggunakan operasi. [`UpdateEndpoint`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) Modularitas ini mendukung fleksibilitas yang lebih besar selama eksperimen. 

Untuk informasi tentang cara membuat pipeline inferensi dengan SageMaker Model Registry, lihat[Penerapan Registrasi Model dengan Model Registry](model-registry.md).

Tidak ada biaya tambahan untuk menggunakan fitur ini. Anda hanya membayar untuk instans yang berjalan di titik akhir.

**Topics**
+ [Contoh Notebook untuk Saluran Saluran Inferensi](#inference-pipeline-sample-notebooks)
+ [Pemrosesan Fitur dengan Spark ML dan Scikit-learn](inference-pipeline-mleap-scikit-learn-containers.md)
+ [Buat Model Pipeline](inference-pipeline-create-console.md)
+ [Jalankan Real-time Prediksi dengan Pipeline Inferensi](inference-pipeline-real-time.md)
+ [Transformasi batch dengan pipeline inferensi](inference-pipeline-batch.md)
+ [Log dan Metrik Pipeline Inferensi](inference-pipeline-logs-metrics.md)
+ [Memecahkan Masalah Saluran Inferensi](inference-pipeline-troubleshoot.md)

## Contoh Notebook untuk Saluran Saluran Inferensi
<a name="inference-pipeline-sample-notebooks"></a>

Untuk contoh yang menunjukkan cara membuat dan menerapkan pipeline [ inferensi, lihat buku catatan sampel Inferensi Pipeline dengan Scikit-learn dan Linear Learner](https://github.com/aws/amazon-sagemaker-examples/tree/main/sagemaker-python-sdk/scikit_learn_inference_pipeline). Untuk petunjuk tentang membuat dan mengakses instance notebook Jupyter yang dapat Anda gunakan untuk menjalankan contoh di SageMaker AI, lihat. [Instans SageMaker notebook Amazon](nbi.md) 

Untuk melihat daftar semua sampel SageMaker AI, setelah membuat dan membuka instance notebook, pilih ** tab Contoh ** SageMaker AI. Ada tiga notebook pipeline inferensi. Dua buku catatan pipeline inferensi pertama yang baru saja dijelaskan terletak di `advanced_functionality` folder dan notebook ketiga ada di `sagemaker-python-sdk` folder. Untuk membuka buku catatan, pilih ** tab ** Gunakan, lalu pilih ** Buat salinan**.