Mengkompilasi Model (Amazon SageMaker AI Console)

Anda dapat membuat pekerjaan kompilasi Amazon SageMaker Neo di konsol Amazon SageMaker AI.

Di konsol Amazon SageMaker AI, pilih Pekerjaan kompilasi, lalu pilih Buat pekerjaan kompilasi.
Pada halaman Buat pekerjaan kompilasi, di bawah Nama pekerjaan, masukkan nama. Kemudian pilih peran IAM.
Jika Anda tidak memiliki peran IAM, pilih Buat peran baru.
Pada halaman Buat peran IAM, pilih Bucket S3 Any, dan pilih Buat peran.
Non PyTorch Frameworks

Di bagian Konfigurasi masukan, masukkan jalur lengkap URI bucket Amazon S3 yang berisi artefak model Anda di bidang input Lokasi artefak model. Artefak model Anda harus dalam format file tarball terkompresi (.tar.gz).

Untuk bidang konfigurasi input data, masukkan string JSON yang menentukan bentuk data input.

Untuk kerangka kerja pembelajaran mesin, pilih kerangka kerja pilihan Anda.

Untuk menemukan contoh string JSON dari bentuk data input tergantung pada kerangka kerja, lihat Bentuk data input apa yang diharapkan Neo.

PyTorch Framework
Instruksi serupa berlaku untuk menyusun PyTorch model. Namun, jika Anda berlatih dengan PyTorch dan mencoba mengkompilasi model untuk ml_* (kecualiml_inf) target, Anda dapat secara opsional menentukan versi yang PyTorch Anda gunakan.

Untuk menemukan contoh string JSON dari bentuk data input tergantung pada kerangka kerja, lihat Bentuk data input apa yang diharapkan Neo.
Catatan

Jika Anda menyimpan model dengan menggunakan PyTorch versi 2.0 atau yang lebih baru, bidang Konfigurasi input data bersifat opsional. SageMaker Neo mendapatkan konfigurasi input dari file definisi model yang Anda buat PyTorch. Untuk informasi selengkapnya tentang cara membuat file definisi, lihat PyTorch bagian di bawah Meny impan Model untuk SageMaker AI Neo.

Saat mengkompilasi untuk ml_* instance menggunakan PyTorch kerangka kerja, gunakan kolom opsi Compiler di Konfigurasi Output untuk memberikan tipe data (dtype) yang benar dari input model. Default diatur ke "float32".
Awas
Jika Anda menentukan jalur URI bucket Amazon S3 yang mengarah ke .pth file, Anda akan menerima kesalahan berikut setelah memulai kompilasi: ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
Pergi ke bagian konfigurasi keluaran. Pilih tempat Anda ingin menerapkan model Anda. Anda dapat menerapkan model Anda ke perangkat Target atau platform Target. Perangkat target termasuk perangkat cloud dan edge. Platform target mengacu pada OS, arsitektur, dan akselerator tertentu yang Anda inginkan untuk dijalankan model Anda.

Untuk lokasi Output S3, masukkan jalur ke bucket S3 tempat Anda ingin menyimpan model. Anda dapat secara opsional menambahkan opsi kompiler dalam format JSON di bawah bagian Opsi kompiler.
Periksa status pekerjaan kompilasi saat dimulai. Status pekerjaan ini dapat ditemukan di bagian atas halaman Pekerjaan Kompilasi, seperti yang ditunjukkan pada tangkapan layar berikut. Anda juga dapat memeriksa statusnya di kolom Status.
Periksa status pekerjaan kompilasi setelah selesai. Anda dapat memeriksa status di kolom Status seperti yang ditunjukkan pada tangkapan layar berikut.