AWS pengaya - Amazon EKS

View a markdown version of this page

AWS pengaya - Amazon EKS

Bantu meningkatkan halaman ini

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Untuk berkontribusi pada panduan pengguna ini, pilih GitHub tautan Edit halaman ini di yang terletak di panel kanan setiap halaman.

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

AWS pengaya

Add-on Amazon EKS berikut tersedia untuk dibuat di cluster Anda. Anda dapat melihat daftar terbaru dari add-on yang tersedia menggunakaneksctl, Konsol Manajemen AWS, atau AWS CLI. Untuk melihat semua add-on yang tersedia atau untuk menginstal add-on, lihatBuat add-on Amazon EKS. Jika add-on memerlukan izin IAM, maka Anda harus memiliki penyedia IAM OpenID Connect (OIDC) untuk cluster Anda. Untuk menentukan apakah Anda memilikinya, atau untuk membuatnya, lihatBuat penyedia IAM OIDC untuk klaster Anda. Anda dapat membuat atau menghapus add-on setelah Anda menginstalnya. Untuk informasi selengkapnya, lihat Memperbarui add-on Amazon EKS atau Menghapus add-on Amazon EKS dari cluster. Untuk informasi selengkapnya tentang pertimbangan khusus untuk menjalankan add-on EKS dengan Amazon EKS Hybrid Nodes, lihatKonfigurasikan add-on untuk node hybrid.

Anda dapat menggunakan salah satu add-on Amazon EKS berikut.

Deskripsi Pelajari selengkapnya Jenis komputasi yang kompatibel

Menyediakan jaringan VPC asli untuk cluster Anda

Plugin Amazon VPC CNI untuk Kubernetes

EC2

Server DNS yang fleksibel dan dapat diperluas yang dapat berfungsi sebagai DNS cluster Kubernetes

CoreDNS

EC2, Fargate, Mode Otomatis EKS, Node Hibrida EKS

Pertahankan aturan jaringan pada setiap node Amazon EC2

Kube-proxy

EC2, Node Hibrida EKS

Menyediakan penyimpanan Amazon EBS untuk cluster Anda

Driver CSI Amazon EBS

EC2

Menyediakan penyimpanan instans Amazon EC2 untuk cluster Anda

Driver CSI Toko Instans Amazon EC2

EC2

Menyediakan penyimpanan Amazon EFS untuk cluster Anda

Driver Amazon EFS CSI

EC2, Mode Otomatis EKS

Menyediakan penyimpanan File Amazon S3 untuk cluster Anda

Driver Amazon EFS CSI

EC2, Mode Otomatis EKS

Menyediakan Amazon FSx untuk penyimpanan Lustre untuk cluster Anda

Driver Amazon FSx CSI

EC2, Mode Otomatis EKS

Menyediakan penyimpanan Amazon S3 untuk cluster Anda

Mountpoint untuk Driver Amazon S3 CSI

EC2, Mode Otomatis EKS

Mendeteksi masalah kesehatan node tambahan

Agen pemantauan simpul

EC2, Node Hibrida EKS

Aktifkan penggunaan fungsionalitas snapshot di driver CSI yang kompatibel, seperti driver Amazon EBS CSI

Pengontrol snapshot CSI

EC2, Fargate, Mode Otomatis EKS, Node Hibrida EKS

SageMaker HyperPod tata kelola tugas mengoptimalkan alokasi dan penggunaan sumber daya komputasi di seluruh tim di cluster Amazon EKS, mengatasi inefisiensi dalam prioritas tugas dan berbagi sumber daya.

Tata kelola SageMaker HyperPod tugas Amazon

EC2, Mode Otomatis EKS

Amazon SageMaker HyperPod Observability AddOn menyediakan kemampuan pemantauan dan pengamatan yang komprehensif untuk HyperPod cluster.

Pengamatan SageMaker HyperPod Amazon Add-on

EC2, Mode Otomatis EKS

Operator SageMaker HyperPod pelatihan Amazon memungkinkan pelatihan terdistribusi yang efisien pada cluster Amazon EKS dengan kemampuan penjadwalan dan manajemen sumber daya tingkat lanjut.

Operator SageMaker HyperPod pelatihan Amazon

EC2, Mode Otomatis EKS

Operator SageMaker HyperPod inferensi Amazon memungkinkan penerapan dan pengelolaan beban kerja inferensi AI berkinerja tinggi dengan pemanfaatan sumber daya dan efisiensi biaya yang dioptimalkan.

Operator SageMaker HyperPod inferensi Amazon

EC2, Mode Otomatis EKS

Agen Kubernetes yang mengumpulkan dan melaporkan data aliran jaringan ke Amazon CloudWatch, memungkinkan pemantauan komprehensif koneksi TCP di seluruh node cluster.

AWS Agen Monitor Aliran Jaringan

EC2, Mode Otomatis EKS

Distribusi proyek yang aman, siap produksi, dan AWS didukung OpenTelemetry

AWS Distro untuk OpenTelemetry

EC2, Fargate, Mode Otomatis EKS, Node Hibrida EKS

Layanan pemantauan keamanan yang menganalisis dan memproses sumber data dasar termasuk peristiwa AWS CloudTrail manajemen dan log aliran Amazon VPC. Amazon GuardDuty juga memproses fitur, seperti log audit Kubernetes dan pemantauan runtime

GuardDuty Agen Amazon

EC2, Mode Otomatis EKS

Layanan pemantauan dan observabilitas yang disediakan oleh AWS. Add-on ini menginstal CloudWatch Agen dan mengaktifkan Sinyal CloudWatch Aplikasi dan CloudWatch Wawasan Kontainer dengan pengamatan yang ditingkatkan untuk Amazon EKS

Agen CloudWatch Pengamatan Amazon

EC2, Mode Otomatis EKS, Node Hibrida EKS

Kemampuan untuk mengelola kredenSIAL untuk aplikasi Anda, mirip dengan cara profil instans EC2 memberikan kredenSIAL ke instans EC2

Agen Identitas Pod EKS

EC2, Node Hibrida EKS

Aktifkan cert-manager untuk mengeluarkan X.509 sertifikat dari CA Pri AWS badi. Membutuhkan manajer sertifikat.

AWS Konektor CA Pribadi untuk Kubernetes

EC2, Fargate, Mode Otomatis EKS, Node Hibrida EKS

Hasilkan metrik Prometheus tentang kinerja perangkat jaringan SR-IOV

SR-IOV Eksportir Metrik Jaringan

EC2

Ambil rahasia dari AWS Secrets Manager dan parameter dari AWS System Manager Parameter Store dan pasang sebagai file di pod Kubernetes.

AWS Penyedia Driver CSI Secrets Store

EC2, Mode Otomatis EKS, Node Hibrida EKS

Dengan Spaces, Anda dapat membuat JupyterLab dan mengelola aplikasi Editor Kode untuk menjalankan beban kerja ML interaktif.

SageMaker Ruang Amazon

Hiperpoda

Plugin Amazon VPC CNI untuk Kubernetes

Plugin Amazon VPC CNI untuk Kubernetes Amazon EKS add-on adalah plugin antarmuka jaringan wadah (CNI) Kubernetes yang menyediakan jaringan VPC asli untuk cluster Anda. Tipe pengaya yang dikelola sendiri atau dikelola diinstal pada setiap node Amazon EC2, secara default. Untuk informasi selengkapnya, lihat plugin antarmuka jaringan kontainer (CNI) Kubernetes.

catatan

Anda tidak perlu menginstal add-on ini di cluster Mode Otomatis Amazon EKS. Untuk informasi selengkapnya, lihat Pertimbangan untuk Mode Otomatis Amazon EKS.

Nama add-on Amazon EKS adalahvpc-cni.

Izin IAM yang diperlukan

Add-on ini menggunakan peran IAM untuk kemampuan akun layanan Amazon EKS. Untuk informasi selengkapnya, lihat Peran IAM untuk akun layanan.

Jika cluster Anda menggunakan IPv4 keluarga, izin di Amazoneks_C NI_Policy diperlukan. Jika cluster Anda menggunakan IPv6 keluarga, Anda harus membuat kebijakan IAM dengan izin dalam mode IPv6. Anda dapat membuat peran IAM, melampirkan salah satu kebijakan ke dalamnya, dan membuat anotasi akun layanan Kubernetes yang digunakan oleh add-on dengan perintah berikut.

Ganti my-cluster dengan nama cluster Anda dan AmazonEKSVPCCNIRole dengan nama untuk peran Anda. Jika cluster Anda menggunakan IPv6 keluarga, gan AmazonEKS_CNI_Policy tilah dengan nama kebijakan yang Anda buat. Perintah ini mengharuskan Anda menginstal eksctl di perangkat Anda. Jika Anda perlu menggunakan alat lain untuk membuat peran, lampirkan kebijakan ke dalamnya, dan beri anotasi pada akun layanan Kubernetes, lihat. Tetapkan peran IAM ke akun layanan Kubernetes

eksctl create iamserviceaccount --name aws-node --namespace kube-system --cluster my-cluster --role-name AmazonEKSVPCCNIRole \ --role-only --attach-policy-arn arn:aws: iam::aws:policy/AmazonEKS_CNI_Policy --approve

Perbarui informasi

Anda hanya dapat memperbarui satu versi minor pada satu waktu. Misalnya, jika versi Anda saat ini adalah 1.28.x-eksbuild.y dan Anda ingin memperbaruinya1.30.x-eksbuild.y , maka Anda harus memperbarui versi Anda saat ini 1.29.x-eksbuild.y dan kemudian memperbaruinya lagi ke1.30.x-eksbuild.y . Untuk informasi selengkapnya tentang memperbarui add-on, lihatPerbarui Amazon VPC CNI (add-on Amazon EKS).

CoreDNS

Add-on CoreDNS Amazon EKS adalah server DNS yang fleksibel dan dapat diperluas yang dapat berfungsi sebagai DNS cluster Kubernetes. Jenis pengaya yang dikelola sendiri atau dikelola telah diinstal, secara default, saat Anda membuat cluster. Saat Anda meluncurkan klaster Amazon EKS dengan setidaknya satu simpul, dua replika citra CoreDNS di-deploy secara default, terlepas dari jumlah simpul yang di-deploy di klaster Anda. Pod-pod CoreDNS menyediakan resolusi nama untuk semua Pod di dalam klaster. Anda dapat menerapkan Pod CoreDNS ke node Fargate jika cluster Anda menyertakan profil Fargate dengan namespace yang cocok dengan namespace untuk penerapan CoreDNS. Untuk informasi selengkapnya, lihat Tentukan Pod mana yang menggunakan AWS Fargate saat diluncurkan.

catatan

Anda tidak perlu menginstal add-on ini di cluster Mode Otomatis Amazon EKS. Untuk informasi selengkapnya, lihat Pertimbangan untuk Mode Otomatis Amazon EKS.

Nama add-on Amazon EKS adalahcoredns.

Izin IAM yang diperlukan

Add-on ini tidak memerlukan izin apa pun.

Informasi tambahan

Untuk mempelajari selengkapnya tentang CoreDNS, lihat Menggunakan CoreDNS untuk Penemuan Layanan dan Menyesuaikan Layanan DNS dalam dokumentasi Kubernetes.

Kube-proxy

Add-on Kube-proxy Amazon EKS mempertahankan aturan jaringan pada setiap node Amazon EC2. Ini memungkinkan komunikasi jaringan ke Pod Anda. Tipe pengaya yang dikelola sendiri atau dikelola diinstal pada setiap node Amazon EC2 di cluster Anda, secara default.

catatan

Anda tidak perlu menginstal add-on ini di cluster Mode Otomatis Amazon EKS. Untuk informasi selengkapnya, lihat Pertimbangan untuk Mode Otomatis Amazon EKS.

Nama add-on Amazon EKS adalahkube-proxy.

Izin IAM yang diperlukan

Add-on ini tidak memerlukan izin apa pun.

Perbarui informasi

Sebelum memperbarui versi Anda saat ini, pertimbangkan persyaratan berikut:

Informasi tambahan

Untuk mempelajari selengkapnyakube-proxy, lihat kube-proxy di dokumentasi Kubernetes.

Driver CSI Amazon EBS

Pengaya Amazon EKS driver EBS CSI adalah plugin Kubernetes Container Storage Interface (CSI) yang menyediakan penyimpanan Amazon EBS untuk cluster Anda.

catatan

Anda tidak perlu menginstal add-on ini di cluster Mode Otomatis Amazon EKS. Mode Otomatis mencakup kemampuan penyimpanan blok. Untuk informasi selengkapnya, lihat Menerapkan contoh beban kerja stateful ke Mode Otomatis EKS.

Nama add-on Amazon EKS adalahaws-ebs-csi-driver.

Izin IAM yang diperlukan

Add-on ini menggunakan peran IAM untuk kemampuan akun layanan Amazon EKS. Untuk informasi selengkapnya, lihat Peran IAM untuk akun layanan. Add-on ini memerlukan salah satu kebijakan terkel AWS ola berikut: AmazonEBSCSIDriverPolicyV2 untuk pelingkupan berbasis tag, AmazonEBSCSIDriverEKSClusterScopedPolicy untuk isolasi bercakupan cluster, atau AmazonEBSCSIDriverPolicy jika Anda tidak menginginkan pembatasan berbasis tag. Anda dapat membuat peran IAM dan melampirkan kebijakan terkelola dengan perintah berikut. Ganti my-cluster dengan nama cluster Anda dan AmazonEKS_EBS_CSI_DriverRole dengan nama untuk peran Anda. Perintah ini mengharuskan Anda menginstal eksctl di perangkat Anda. Jika Anda perlu menggunakan alat yang berbeda atau Anda perlu menggunakan kunci KMS khusus untuk enkripsi, lihatLangkah 1: Buat peran IAM.

Jika bermigrasi dariAmazonEBSCSIDriverPolicy, silakan lihat Migrasi kebijakan Driver EBS CSI.

eksctl create iamserviceaccount \ --name ebs-csi-controller-sa \ --namespace kube-system \ --cluster my-cluster \ --role-name AmazonEKS_EBS_CSI_DriverRole \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/service-role/AmazonEBSCSIDriverPolicyV2 \ --approve

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihatGunakan penyimpanan volume Kubernetes dengan Amazon EBS.

Driver CSI Toko Instans Amazon EC2

Driver CSI Amazon EC2 Instance Store Add-on Amazon EKS adalah plugin Kubernetes Container Storage Interface (CSI) yang menyediakan penyimpanan NVMe penyimpanan instans Amazon EC2 untuk cluster Anda.

Nama add-on Amazon EKS adalahaws-ec2-local-instance-store-csi-driver.

Izin IAM yang diperlukan

Add-on ini tidak memerlukan izin apa pun. Driver berinteraksi dengan perangkat NVMe backend melalui operasi Linux lokal dan tidak melakukan panggilan AWS API.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihatPenyimpanan instans Amazon EC2 untuk penyimpanan volume Kubernetes.

Driver Amazon EFS CSI

Driver Amazon EFS CSI add-on Amazon EKS adalah plugin Kubernetes Container Storage Interface (CSI) yang menyediakan penyimpanan Amazon EFS dan Amazon S3 Files untuk cluster Anda.

Nama add-on Amazon EKS adalahaws-efs-csi-driver.

Izin IAM yang diperlukan

Add-on ini menggunakan peran IAM untuk kemampuan akun layanan Amazon EKS. Untuk informasi selengkapnya, lihat Peran IAM untuk akun layanan.

Kebijakan ter AWS kelola spesifik yang Anda perlukan tergantung pada jenis sistem file yang ingin Anda gunakan:

  • Hanya untuk sistem file Amazon EFS: Lampirkan kebijakan AmazonEFSCSIDriverPolicy terkelola.

  • Hanya untuk sistem file Amazon S3: Lampirkan kebijakan ter AmazonS3FilesCSIDriverPolicy kelola.

  • Untuk sistem file Amazon EFS dan Amazon S3: Lampirkan kebijakan AmazonEFSCSIDriverPolicy dan kebijakan yang AmazonS3FilesCSIDriverPolicy dikelola.

Anda dapat membuat peran IAM dan melampirkan kebijakan terkelola dengan perintah berikut. Ganti my-cluster dengan nama cluster Anda dan AmazonEKS_EFS_CSI_DriverRole dengan nama untuk peran Anda. Contoh berikut melampirkan AmazonEFSCSIDriverPolicy untuk sistem file Amazon EFS. Jika Anda menggunakan sistem file Amazon S3, ganti kebijakan ARN dengan arn:aws: iam::aws:policy/service-role/AmazonS3FilesCSIDriverPolicy. Jika Anda menggunakan kedua jenis sistem file, tambahkan tanda tambahan --attach-policy-arn dengan kebijakan kedua ARN. Perintah ini mengharuskan Anda menginstal eksctl di perangkat Anda. Jika Anda perlu menggunakan alat lain, lihat Langkah 1: Buat peran IAM untuk Amazon EFS atau Langkah 1: Buat peran IAM untuk File Amazon S3.

export cluster_name=my-cluster export role_name=AmazonEKS_EFS_CSI_DriverRole eksctl create iamserviceaccount \ --name efs-csi-controller-sa \ --namespace kube-system \ --cluster $cluster_name \ --role-name $role_name \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/service-role/AmazonEFSCSIDriverPolicy \ --approve TRUST_POLICY=$(aws iam get-role --output json --role-name $role_name --query 'Role.AssumeRolePolicyDocument' | \ sed -e 's/efs-csi-controller-sa/efs-csi-*/' -e 's/StringEquals/StringLike/') aws iam update-assume-role-policy --role-name $role_name --policy-document "$TRUST_POLICY"
catatan

Contoh di atas hanya mengkonfigurasi. efs-csi-controller-sa Jika Anda menggunakan sistem file Amazon S3, Anda juga perlu mengkonfigurasiefs-csi-node-sa. Lihat Langkah 1: Buat peran IAM untuk pengaturan IAM File S3 lengkap.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihatGunakan penyimpanan sistem file elastis dengan Amazon EFS.

Driver Amazon FSx CSI

Pengaya Amazon EKS driver CSI Amazon FSx adalah plugin Kubernetes Container Storage Interface (CSI) yang menyediakan Amazon FSx untuk penyimpanan Lustre untuk cluster Anda.

Nama add-on Amazon EKS adalahaws-fsx-csi-driver.

catatan
  • Pre-existing Instalasi driver Amazon FSx CSI di cluster dapat menyebabkan kegagalan penginstalan add-on. Saat Anda mencoba menginstal versi add-on Amazon EKS saat Driver FSx CSI non-EKS ada, penginstalan akan gagal karena konflik sumber daya. Gunakan ben OVERWRITE dera selama instalasi untuk mengatasi masalah ini:

    aws eks create-addon --addon-name aws-fsx-csi-driver --cluster-name my-cluster --resolve-conflicts OVERWRITE
  • Add-on EKS Driver CSI Amazon FSx mendukung otentikasi melalui EKS Pod Identity atau Peran IAM untuk Akun Layanan (IRSA). Untuk menggunakan EKS Pod Identity, instal agen Pod Identity sebelum atau setelah menerapkan add-on Driver FSx CSI. Untuk informasi selengkapnya, lihat Siapkan Agen Identitas Amazon EKS Pod. Untuk menggunakan IRSA sebagai gantinya, lihatBuat penyedia IAM OIDC untuk klaster Anda.

Izin IAM yang diperlukan

Add-on ini menggunakan peran IAM untuk kemampuan akun layanan Amazon EKS. Untuk informasi selengkapnya, lihat Peran IAM untuk akun layanan. Izin dalam kebijakan AmazonFSxFullAccess AWS terkelola diperlukan. Anda dapat membuat peran IAM dan melampirkan kebijakan terkelola dengan perintah berikut. Ganti my-cluster dengan nama cluster Anda dan AmazonEKS_FSx_CSI_DriverRole dengan nama untuk peran Anda. Perintah ini mengharuskan Anda menginstal eksctl di perangkat Anda.

eksctl create iamserviceaccount \ --name fsx-csi-controller-sa \ --namespace kube-system \ --cluster my-cluster \ --role-name AmazonEKS_FSx_CSI_DriverRole \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/AmazonFSxFullAccess \ --approve

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihatGunakan penyimpanan aplikasi berkinerja tinggi dengan Amazon FSx untuk Lustre.

Mountpoint untuk Driver Amazon S3 CSI

Pengaya Mountpoint untuk Amazon S3 CSI Driver Amazon EKS adalah plugin Kubernetes Container Storage Interface (CSI) yang menyediakan penyimpanan Amazon S3 untuk cluster Anda.

Nama add-on Amazon EKS adalahaws-mountpoint-s3-csi-driver.

Izin IAM yang diperlukan

Add-on ini menggunakan peran IAM untuk kemampuan akun layanan Amazon EKS. Untuk informasi selengkapnya, lihat Peran IAM untuk akun layanan.

Peran IAM yang dibuat akan memerlukan kebijakan yang memberikan akses ke S3. Ikuti rekomendasi izin Mountpoint IAM saat membuat kebijakan. Atau, Anda dapat menggunakan kebijakan terkel AWS ola AmazonS3FullAccess, tetapi kebijakan terkelola ini memberikan lebih banyak izin daripada yang diperlukan untuk Mountpoint.

Anda dapat membuat peran IAM dan melampirkan kebijakan dengan perintah berikut. Ganti my-cluster dengan nama cluster Anda, region-code dengan kode Wil AWS ayah yang benar, AmazonEKS_S3_CSI_DriverRole dengan nama untuk peran Anda, dan AmazonEKS_S3_CSI_DriverRole_ARN dengan peran ARN. Perintah ini mengharuskan Anda menginstal eksctl di perangkat Anda. Untuk petunjuk penggunaan konsol IAM atau AWS CLI, lihat. Langkah 2: Buat peran IAM

CLUSTER_NAME=my-cluster REGION=region-code ROLE_NAME=AmazonEKS_S3_CSI_DriverRole POLICY_ARN=AmazonEKS_S3_CSI_DriverRole_ARN eksctl create iamserviceaccount \ --name s3-csi-driver-sa \ --namespace kube-system \ --cluster $CLUSTER_NAME \ --attach-policy-arn $POLICY_ARN \ --approve \ --role-name $ROLE_NAME \ --region $REGION \ --role-only

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihatAkses objek Amazon S3 dengan Mountpoint untuk driver Amazon S3 CSI.

Pengontrol snapshot CSI

Pengontrol snapshot Container Storage Interface (CSI) memungkinkan penggunaan fungsionalitas snapshot dalam driver CSI yang kompatibel, seperti driver Amazon EBS CSI.

Nama add-on Amazon EKS adalahsnapshot-controller.

Izin IAM yang diperlukan

Add-on ini tidak memerlukan izin apa pun.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihatAktifkan fungsionalitas snapshot untuk volume CSI.

Tata kelola SageMaker HyperPod tugas Amazon

SageMaker HyperPod tata kelola tugas adalah sistem manajemen yang kuat yang dirancang untuk merampingkan alokasi sumber daya dan memastikan pemanfaatan sumber daya komputasi yang efisien di seluruh tim dan proyek untuk cluster Amazon EKS Anda. Ini memberi administrator kemampuan untuk mengatur:

  • Tingkat prioritas untuk berbagai tugas

  • Hitung alokasi untuk setiap tim

  • Bagaimana setiap tim meminjamkan dan meminjam komputasi kosong

  • Jika tim mendahului tugas mereka sendiri

HyperPod tata kelola tugas juga menyediakan Pengamatan cluster Amazon EKS, menawarkan visibilitas real-time ke dalam kapasitas cluster. Ini termasuk ketersediaan dan penggunaan komputasi, alokasi dan pemanfaatan tim, serta informasi waktu tunggu dan proses tugas, menyiapkan Anda untuk pengambilan keputusan yang tepat dan manajemen sumber daya proaktif.

Nama add-on Amazon EKS adalahamazon-sagemaker-hyperpod-taskgovernance.

Izin IAM yang diperlukan

Add-on ini tidak memerlukan izin apa pun.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihat tata kelola SageMaker HyperPod tugas

Pengamatan SageMaker HyperPod Amazon Add-on

Amazon SageMaker HyperPod Observability Add-on menyediakan kemampuan pemantauan dan pengamatan yang komprehensif untuk HyperPod cluster. Add-on ini secara otomatis menerapkan dan mengelola komponen pemantauan penting termasuk eksportir node, eksportir DCGM, kube-state-metrics, dan eksportir EFA. Ini mengumpulkan dan meneruskan metrik ke instans Amazon Managed Prometheus (AMP) yang ditunjuk pelanggan dan mengekspos titik akhir OTLP untuk metrik khusus dan penyerapan peristiwa dari pekerjaan pelatihan pelanggan.

Add-on terintegrasi dengan HyperPod ekosistem yang lebih luas dengan mengikis metrik dari berbagai komponen termasuk add-on T HyperPod ask Governance, Tra HyperPod ining Operator, Kubeflow, dan KEDA. Semua metrik yang dikumpulkan terpusat di Amazon Managed Prometheus, memungkinkan pelanggan mencapai tampilan pengamatan terpadu melalui dasbor Amazon Managed Grafana. Ini memberikan visibilitas menyeluruh ke dalam kesehatan cluster, pemanfaatan sumber daya, dan kinerja pekerjaan pelatihan di seluruh HyperPod lingkungan.

Nama add-on Amazon EKS adalahamazon-sagemaker-hyperpod-observability.

Izin IAM yang diperlukan

Add-on ini menggunakan peran IAM untuk kemampuan akun layanan Amazon EKS. Untuk informasi selengkapnya, lihat Peran IAM untuk akun layanan. Kebijakan terkelola berikut ini diperlukan:

  • AmazonPrometheusRemoteWriteAccess- untuk metrik penulisan jarak jauh dari cluster ke AMP

  • CloudWatchAgentServerPolicy- untuk menulis log jarak jauh dari cluster ke CloudWatch

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on dan kemampuannya, lihat Peng SageMaker HyperPod amatan.

Operator SageMaker HyperPod pelatihan Amazon

Operator SageMaker HyperPod pelatihan Amazon membantu Anda mempercepat pengembangan model AI generatif dengan mengelola pelatihan terdistribusi secara efisien di seluruh cluster GPU besar. Ini memperkenalkan pemulihan kesalahan cerdas, deteksi pekerjaan gantung, dan kemampuan manajemen tingkat proses yang meminimalkan gangguan pelatihan dan mengurangi biaya. Tidak seperti infrastruktur pelatihan tradisional yang membutuhkan restart pekerjaan lengkap ketika kegagalan terjadi, operator ini menerapkan pemulihan proses bedah untuk menjaga pekerjaan pelatihan Anda berjalan dengan lancar.

Operator juga bekerja dengan HyperPod fungsi pemantauan kesehatan dan pengamatan, memberikan visibilitas real-time ke dalam pelaksanaan pelatihan dan pemantauan otomatis metrik penting seperti lonjakan kerugian dan degradasi throughput. Anda dapat menentukan kebijakan pemulihan melalui konfigurasi YAML sederhana tanpa perubahan kode, sehingga Anda dapat merespons dan memulihkan status pelatihan yang tidak dapat dipulihkan dengan cepat. Kemampuan pemantauan dan pemulihan ini bekerja sama untuk mempertahankan kinerja pelatihan yang optimal sambil meminimalkan overhead operasional.

Nama add-on Amazon EKS adalahamazon-sagemaker-hyperpod-training-operator.

Untuk informasi selengkapnya, lihat Menggunakan operator HyperPod pelatihan di Panduan SageMaker Pengembang Amazon.

Izin IAM yang diperlukan

Add-on ini memerlukan izin IAM, dan menggunakan EKS Pod Identity.

AWS menyarankan kebijakan yang AmazonSageMakerHyperPodTrainingOperatorAccess dikelola.

Untuk informasi selengkapnya, lihat Meng instal operator pelatihan di Panduan SageMaker Pengembang Amazon.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihat operator SageMaker HyperPod pelatihan.

Operator SageMaker HyperPod inferensi Amazon

Amazon SageMaker HyperPod menawarkan pengalaman end-to-end yang mendukung siklus hidup penuh pengembangan AI mulai dari eksperimen dan pelatihan interaktif hingga inferensi dan alur kerja pasca pelatihan. Sekarang menyediakan platform inferensi komprehensif yang menggabungkan fleksibilitas Kubernetes dengan keunggulan operasional dari pengalaman terkelola. Terapkan, skalakan, dan optimalkan model GenAI Anda dengan keandalan tingkat perusahaan menggunakan HyperPod komputasi yang sama di seluruh siklus hidup model.

Amazon SageMaker HyperPod menawarkan antarmuka penerapan fleksibel yang memungkinkan Anda menerapkan model melalui beberapa metode termasuk kubectl, Python SDK, Amazon SageMaker Studio UI, atau HyperPod CLI. Kemampuan ini menyediakan kemampuan penskalaan otomatis tingkat lanjut dengan alokasi sumber daya dinamis yang secara otomatis menyesuaikan berdasarkan permintaan. Layanan ini juga menyertakan fitur observabilitas dan pemantauan komprehensif yang melacak metrik penting seperti waktu hingga token pertama, latensi, dan penggunaan GPU untuk membantu Anda mengoptimalkan performa.

Nama add-on Amazon EKS adalahamazon-sagemaker-hyperpod-inference.

Metode instalasi

Anda dapat menginstal add-on ini menggunakan salah satu metode berikut:

  • SageMaker Konsol (Direkomendasikan): Memberikan pengalaman instalasi yang efisien dengan konfigurasi terpandu.

  • EKS Add-ons Console atau CLI: Memerlukan instalasi manual add-on dependensi sebelum menginstal operator inferensi. Lihat bagian prasyarat di bawah untuk dependensi yang diperlukan.

Prasyarat

Sebelum menginstal add-on operator inferensi melalui Kon Add-ons sol EKS atau CLI, pastikan dependensi berikut diinstal.

Pengaya EKS yang diperlukan:

  • Driver Amazon S3 Mountpoint CSI (versi minimum: v1.14.1-eksbuild.1)

  • Metrics Server (versi minimum: v0.7.2-eksbuild.4)

  • Driver Amazon FSx CSI (versi minimum: v1.6.0-eksbuild.1)

  • Manajer sertifikat (versi minimum: v1.18.2-eksbuild.2)

Untuk petunjuk instalasi terperinci untuk setiap ketergantungan, lihat Menginstal operator inferensi.

Izin IAM yang diperlukan

Add-on ini memerlukan izin IAM, dan penggunaan OIDC/IRSA.

Kebijakan terkelola berikut direkomendasikan karena memberikan izin cakupan minimum:

  • AmazonSageMakerHyperPodInferenceAccess- menyediakan hak istimewa admin yang diperlukan untuk mengatur operator inferensi

  • AmazonSageMakerHyperPodGatedModelAccess- menyediakan SageMaker HyperPod akses ke model terjaga keamanannya di SageMaker Jumpstart (misalnya, Meta Llama,) GPT-Neo

Untuk informasi selengkapnya, lihat Menginstal operator inferensi.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang operator SageMaker HyperPod inferensi Amazon, lihat operator SageMaker HyperPod inferensi.

Untuk informasi pemecahan masalah, lihat Pem ecahan SageMaker HyperPod masalah penerapan model.

AWS Agen Monitor Aliran Jaringan

Amazon CloudWatch Network Flow Monitor Agent adalah aplikasi Kubernetes yang mengumpulkan statistik koneksi TCP dari semua node dalam cluster dan menerbitkan laporan aliran jaringan ke Amazon CloudWatch Network Flow Monitor Ingestion API.

Nama add-on Amazon EKS adalahaws-network-flow-monitoring-agent.

Izin IAM yang diperlukan

Add-on ini memang memerlukan izin IAM.

Anda perlu melampirkan kebijakan CloudWatchNetworkFlowMonitorAgentPublishPolicy terkelola ke add-on.

Untuk informasi selengkapnya tentang pengaturan IAM yang diperlukan, lihat Kebijakan IAM di repo Agen GitHub Monitor CloudWatch Aliran Jaringan Amazon.

Untuk informasi selengkapnya tentang kebijakan terkelola, lihat CloudWatchNetworkFlowMonitorAgentPublishPolicy di Panduan CloudWatch Pengguna Amazon.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on, lihat GitHub repo Agen Monitor Aliran CloudWatch Jaringan Amazon.

Agen pemantauan simpul

Agen pemantauan simpul Amazon EKS add-on dapat mendeteksi masalah kesehatan node tambahan. Sinyal kesehatan ekstra ini juga dapat dimanfaatkan oleh fitur perbaikan otomatis node opsional untuk secara otomatis mengganti node sesuai kebutuhan.

catatan

Anda tidak perlu menginstal add-on ini di cluster Mode Otomatis Amazon EKS. Untuk informasi selengkapnya, lihat Pertimbangan untuk Mode Otomatis Amazon EKS.

Nama add-on Amazon EKS adalaheks-node-monitoring-agent.

Izin IAM yang diperlukan

Add-on ini tidak memerlukan izin tambahan.

Informasi tambahan

Untuk informasi selengkapnya, lihat Mendeteksi masalah kesehatan node dan mengaktifkan perbaikan node otomatis.

AWS Distro untuk OpenTelemetry

Add-on AWS Distro for OpenTelemetry Amazon EKS adalah distribusi proyek yang aman, siap produksi, AWS dan didukung. OpenTelemetry Untuk informasi lebih lanjut, lihat AWS Distro untuk selengkapnya OpenTelemetry. GitHub

Nama add-on Amazon EKS adalahadot.

Izin IAM yang diperlukan

Add-on ini hanya memerlukan izin IAM jika Anda menggunakan salah satu sumber daya khusus yang telah dikonfigurasi sebelumnya yang dapat dipilih melalui konfigurasi lanjutan.

Informasi tambahan

Untuk informasi selengkapnya, lihat Mem ulai dengan AWS Distro untuk OpenTelemetry menggunakan EKS Add-Ons di AWS Distro untuk OpenTelemetry dokumentasi.

ADOT mengharuskan cert-manager add-on digunakan pada cluster sebagai prasyarat, jika tidak, add-on ini tidak akan berfungsi jika diterapkan secara langsung menggunakan https://registry.terraform.io/modules/terraform-aws-modules/eks/aws/latest cluster_addons properti. Untuk persyaratan lebih lanjut, lihat Persyaratan untuk Memulai dengan AWS Distro untuk OpenTelemetry menggunakan EKS Add-Ons di AWS Distro untuk OpenTelemetry dokumentasi.

GuardDuty Agen Amazon

GuardDuty Agen Amazon Amazon EKS add-on mengumpulkan peristiwa runtime (akses file, eksekusi proses, koneksi jaringan) dari node cluster EKS Anda untuk dianalisis oleh GuardDuty Runtime Monitoring. GuardDuty itu sendiri (bukan agen) adalah layanan pemantauan keamanan yang menganalisis dan memproses sumber data dasar termasuk peristiwa AWS CloudTrail manajemen dan log aliran Amazon VPC, serta fitur, seperti log audit Kubernetes dan pemantauan runtime.

Nama add-on Amazon EKS adalahaws-guardduty-agent.

Izin IAM yang diperlukan

Add-on ini tidak memerlukan izin apa pun.

Informasi tambahan

Untuk informasi selengkapnya, lihat Pemantauan Runtime untuk cluster Amazon EKS di Amazon GuardDuty.

  • Untuk mendeteksi potensi ancaman keamanan di cluster Amazon EKS Anda, aktifkan pemantauan GuardDuty runtime Amazon dan terap GuardDuty kan agen keamanan ke cluster Amazon EKS Anda.

Agen CloudWatch Pengamatan Amazon

Agen Peng CloudWatch amatan Amazon Add-on Amazon EKS adalah layanan pemantauan dan pengamatan yang disediakan oleh. AWS Add-on ini menginstal CloudWatch Agen dan mengaktifkan Sinyal CloudWatch Aplikasi dan CloudWatch Wawasan Kontainer dengan pengamatan yang ditingkatkan untuk Amazon EKS. Untuk informasi selengkapnya, lihat CloudWatch Agen Amazon.

Nama add-on Amazon EKS adalahamazon-cloudwatch-observability.

Izin IAM yang diperlukan

Add-on ini menggunakan peran IAM untuk kemampuan akun layanan Amazon EKS. Untuk informasi selengkapnya, lihat Peran IAM untuk akun layanan. Izin dalam kebijakan AWSXrayWriteOnlyAccess dan kebijakan CloudWatchAgentServerPolicy AWS yang dikelola diperlukan. Anda dapat membuat peran IAM, melampirkan kebijakan terkelola ke dalamnya, dan membuat anotasi akun layanan Kubernetes yang digunakan oleh add-on dengan perintah berikut. Ganti my-cluster dengan nama cluster Anda dan AmazonEKS_Observability_role dengan nama untuk peran Anda. Perintah ini mengharuskan Anda menginstal eksctl di perangkat Anda. Jika Anda perlu menggunakan alat lain untuk membuat peran, lampirkan kebijakan ke dalamnya, dan beri anotasi pada akun layanan Kubernetes, lihat. Tetapkan peran IAM ke akun layanan Kubernetes

eksctl create iamserviceaccount \ --name cloudwatch-agent \ --namespace amazon-cloudwatch \ --cluster my-cluster \ --role-name AmazonEKS_Observability_Role \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/AWSXrayWriteOnlyAccess \ --attach-policy-arn arn:aws: iam::aws:policy/CloudWatchAgentServerPolicy \ --approve

Informasi tambahan

Untuk informasi selengkapnya, lihat Meng instal CloudWatch agen.

AWS Konektor CA Pribadi untuk Kubernetes

Konektor CA Pri AWS badi untuk Kubernetes adalah add-on untuk manajer sertifikat yang memungkinkan pengguna memperoleh Sertifikat dari Otoritas Sertifikat Pribadi (CA AWS Pribadi).AWS

  • Nama add-on Amazon EKS adalahaws-privateca-connector-for-kubernetes.

  • Namespace add-on adalahaws-privateca-issuer.

Add-on ini membutuhkancert-manager. cert-managertersedia di Amazon EKS sebagai add-on komunitas. Untuk informasi selengkapnya tentang add-on ini, lihatManajer sertifikat. Untuk informasi selengkapnya tentang menginstal add-on, lihatBuat add-on Amazon EKS.

Izin IAM yang diperlukan

Add-on ini memerlukan izin IAM.

Gunakan EKS Pod Identities untuk melampirkan Kebijakan AWSPrivateCAConnectorForKubernetesPolicy IAM ke Akun Layanan aws-privateca-issuer Kubernetes. Untuk informasi selengkapnya, lihat Menggunakan Identitas Pod untuk menetapkan peran IAM ke add-on Amazon EKS.

Untuk informasi tentang izin yang diperlukan, lihat AWSPrivateCAConnectorForKubernetesPolicy di Referensi Kebijakan AWS Terkelola.

Informasi tambahan

Untuk informasi selengkapnya, lihat Pri AWS badi Penerbit CA untuk repositori Kubernetes GitHub .

Untuk informasi selengkapnya tentang mengkonfigurasi add-on, lihat values.yaml di repo. aws-privateca-issuer GitHub Konfirmasikan versi values.yaml cocok dengan versi add-on yang diinstal pada cluster Anda.

Add-on ini mentoler CriticalAddonsOnly ir noda yang digunakan oleh Mode Otomatis EKS. system NodePool Untuk informasi selengkapnya, lihat Jalankan add-on penting pada instance khusus.

Agen Identitas Pod EKS

Amazon EKS Pod Identity Agent Add-on Amazon EKS menyediakan kemampuan untuk mengelola kredenSIAL untuk aplikasi Anda, mirip dengan cara profil instans EC2 memberikan kredenSIAL ke instans EC2.

catatan

Anda tidak perlu menginstal add-on ini di cluster Mode Otomatis Amazon EKS. Mode Otomatis Amazon EKS terintegrasi dengan EKS Pod Identity. Untuk informasi selengkapnya, lihat Pertimbangan untuk Mode Otomatis Amazon EKS.

Nama add-on Amazon EKS adalaheks-pod-identity-agent.

Izin IAM yang diperlukan

Add-on Pod Identity Agent itu sendiri tidak memerlukan peran IAM. Ini menggunakan izin dari peran IAM simpul Amazon EKS untuk berfungsi, tetapi tidak memerlukan peran IAM khusus untuk add-on.

Perbarui informasi

Anda hanya dapat memperbarui satu versi minor pada satu waktu. Misalnya, jika versi Anda saat ini adalah 1.28.x-eksbuild.y dan Anda ingin memperbaruinya1.30.x-eksbuild.y, maka Anda harus memperbarui versi Anda saat ini 1.29.x-eksbuild.y dan kemudian memperbaruinya lagi ke1.30.x-eksbuild.y. Untuk informasi selengkapnya tentang memperbarui add-on, lihatMemperbarui add-on Amazon EKS.

SR-IOV Eksportir Metrik Jaringan

Pengaya SR-IOV Eksportir Metrik Jaringan Amazon EKS mengumpulkan dan mengekspos metrik tentang perangkat SR-IOV jaringan dalam format Prometheus. Ini memungkinkan pemantauan kinerja SR-IOV jaringan pada node logam kosong EKS. Eksportir berjalan sebagai node DaemonSet on dengan antarmuka SR-IOV-capable jaringan dan metrik ekspor yang dapat dikikis oleh Prometheus.

catatan

Add-on ini membutuhkan node dengan antarmuka SR-IOV-capable jaringan.

Properti Nilai

Add-on nama

sriov-network-metrics-exporter

Namespace

monitoring

Dokumentasi

SR-IOV GitHub repo Eksportir Metrik Jaringan

Nama akun layanan

Tidak ada

Kebijakan IAM terkelola

Tidak ada

Izin IAM khusus

Tidak ada

AWS Penyedia Driver CSI Secrets Store

AWS Penyedia untuk Driver CSI Secrets Store adalah add-on yang memungkinkan pengambilan AWS rahasia dari Secrets Manager dan parameter dari System Manager Parameter Store dan memasangnya sebagai file di pod Kubernetes. AWS

Izin IAM yang diperlukan

Add-on tidak memerlukan izin IAM. Namun, pod aplikasi akan memerlukan izin IAM untuk mengambil rahasia dari AWS Secrets Manager dan parameter dari AWS System Manager Parameter Store. Setelah menginstal add-on, akses harus dikonfigurasi melalui Peran IAM untuk Akun Layanan (IRSA) atau EKS Pod Identity. Untuk menggunakan IRSA, silakan merujuk ke dokumentasi penyiapan Secrets Manager IRSA. Untuk menggunakan EKS Pod Identity, silakan lihat dokumentasi pengaturan Secrets Manager Pod Identity.

AWS menyarankan kebijakan yang AWSSecretsManagerClientReadOnlyAccess dikelola.

Untuk informasi selengkapnya tentang izin yang diperlukan, lihat AWSSecretsManagerClientReadOnlyAccess di Referensi AWS Kebijakan Terkelola.

Informasi tambahan

Untuk informasi lebih lanjut, silakan lihat repositori secrets-sto GitHub re-csi-driver-provider-aws.

Untuk mempelajari lebih lanjut tentang add-on, silakan merujuk ke dokumentasi Manajer AWS Rahasia untuk add-on tersebut.

SageMaker Ruang Amazon

Amazon Sp SageMaker aces Add-on menyediakan kemampuan untuk menjalankan IDE dan Notebook di EKS atau HyperPod-EKS cluster. Administrator dapat menggunakan EKS Console untuk menginstal add-on pada cluster mereka, dan menentukan konfigurasi ruang default seperti gambar, sumber daya komputasi, penyimpanan lokal untuk pengaturan notebook (penyimpanan tambahan untuk dilampirkan ke ruang mereka), sistem file, dan skrip inisialisasi.

Pengembang AI dapat menggunakan kubectl untuk membuat, memperbarui, dan menghapus spasi. Mereka memiliki fleksibilitas untuk menggunakan konfigurasi default yang disediakan oleh admin atau menyesuaikan pengaturan. Pengembang AI dapat mengakses ruang mereka di EKS atau HyperPod-EKS menggunakan IDE Kode VS lokal mereka, browser web and/or mereka yang meng-host CodeEditor IDE mereka JupyterLab pada domain DNS khusus yang dikonfigurasi oleh admin mereka. Mereka juga dapat menggunakan fitur port forwarding kubernetes untuk mengakses ruang di browser web mereka.

Nama add-on Amazon EKS adalahamazon-sagemaker-spaces.

Izin IAM yang diperlukan

Add-on ini memerlukan izin IAM. Untuk informasi selengkapnya tentang pengaturan IAM yang diperlukan, lihat Pengaturan Izin IAM di Panduan Peng SageMaker embang Amazon.

Informasi tambahan

Untuk mempelajari lebih lanjut tentang add-on dan kemampuannya, lihat Notebook SageMaker AI HyperPod di Panduan SageMaker Pengembang Amazon.