SageMaker Profiler Amazon - Amazon SageMaker AI

View a markdown version of this page

SageMaker Profiler Amazon - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

SageMaker Profiler Amazon

catatan

Pemberitahuan akhir dukungan: Pada 30 Juni 2027, dukungan untuk Amazon SageMaker Profiler AWS akan berakhir. Setelah 30 Juni 2027, Anda tidak akan lagi dapat mengakses konsol Profiler atau sumber daya Profiler. Untuk informasi selengkapnya, lihat Perubahan ketersediaan profiler.

Amazon SageMaker Profiler saat ini dalam rilis pratinjau dan tersedia tanpa biaya didukung Wilayah AWS. Versi Amazon SageMaker Profiler yang tersedia secara umum (jika ada) mungkin menyertakan fitur dan harga yang berbeda dari yang ditawarkan dalam pratinjau.

Amazon SageMaker Profiler adalah kemampuan Amazon SageMaker AI yang menyediakan tampilan terperinci ke dalam sumber daya AWS komputasi yang disediakan selama melatih model pembelajaran mendalam tentang AI. SageMaker Ini berfokus pada pembuatan profil penggunaan CPU dan GPU, kernel berjalan pada GPU, peluncuran kernel pada CPU, operasi sinkronisasi, operasi memori di seluruh CPU dan GPU, latensi antara peluncuran kernel dan proses yang sesuai, dan transfer data antara CPU dan GPU. SageMaker Profiler juga menawarkan antarmuka pengguna (UI) yang memvisualisasikan profil, ringkasan statistik peristiwa yang diprofilkan, dan garis waktu pekerjaan pelatihan untuk melacak dan memahami hubungan waktu peristiwa antara GPU dan CPU.

catatan

SageMaker Profiler mendukung PyTorch dan TensorFlow dan tersedia di AWS Deep Learning Containers untuk SageMaker AI. Untuk mempelajari selengkapnya, lihat Gambar kerangka kerja yang didukung, Wilayah AWS, dan jenis instance.

Untuk ilmuwan data

Melatih model pembelajaran mendalam pada cluster komputasi besar sering memiliki masalah pengoptimalan komputasi, seperti hambatan, latensi peluncuran kernel, batas memori, dan pemanfaatan sumber daya yang rendah.

Untuk mengidentifikasi masalah kinerja komputasi tersebut, Anda perlu membuat profil lebih dalam ke sumber daya komputasi untuk memahami kernel mana yang memperkenalkan latensi dan operasi mana yang menyebabkan hambatan. Ilmuwan data dapat mengambil manfaat dari menggunakan UI SageMaker Profiler untuk memvisualisasikan profil rinci pekerjaan pelatihan. UI menyediakan dasbor dilengkapi dengan bagan ringkasan dan antarmuka timeline untuk melacak setiap peristiwa pada sumber daya komputasi. Ilmuwan data juga dapat menambahkan anotasi khusus untuk melacak bagian-bagian tertentu dari pekerjaan pelatihan menggunakan modul SageMaker Profiler Python.

Untuk administrator

Melalui halaman arahan Profiler di konsol SageMaker SageMaker AI atau domain AI, Anda dapat mengelola pengguna aplikasi Profiler jika Anda adalah administrator AWS akun atau domain SageMaker AI. Setiap pengguna domain dapat mengakses aplikasi Profiler mereka sendiri dengan izin yang diberikan. Sebagai administrator domain SageMaker AI dan pengguna domain, Anda dapat membuat dan menghapus aplikasi Profiler dengan tingkat izin yang Anda miliki.