AWS componenti aggiuntivi - Amazon EKS

View a markdown version of this page

AWS componenti aggiuntivi - Amazon EKS

Contribuisci a migliorare questa pagina

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Per contribuire a questa guida per l'utente, scegli il GitHub link Modifica questa pagina su che si trova nel riquadro destro di ogni pagina.

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

AWS componenti aggiuntivi

Nel tuo cluster puoi creare i seguenti componenti aggiuntivi di Amazon EKS. Puoi visualizzare l'elenco più aggiornato dei componenti aggiuntivi disponibili utilizzandoeksctl, il Console di gestione AWS, o la CLI AWS . Per visualizzare tutti i componenti aggiuntivi disponibili o per installare un componente aggiuntivo, consulta la pagina Creare un componente aggiuntivo Amazon EKS. Se un componente aggiuntivo richiede autorizzazioni IAM, è necessario disporre di un provider OpenID Connect (OIDC) IAM per il cluster. Per stabilire se ne possiedi uno o per crearne uno, consulta Per creare un provider di identità IAM OIDC per il cluster. È possibile creare o eliminare un componente aggiuntivo dopo averlo installato. Per ulteriori informazioni, consulta Aggiornamento di un componente aggiuntivo di Amazon EKS o Rimozione di un componente aggiuntivo Amazon EKS da un cluster. Per ulteriori informazioni su considerazioni specifiche in merito all’esecuzione di componenti aggiuntivi EKS con Amazon EKS Hybrid Nodes, consulta Configurare componenti aggiuntivi per nodi ibridi.

È possibile utilizzare uno dei seguenti componenti aggiuntivi di Amazon EKS.

Description Ulteriori informazioni Tipi di elaborazione compatibili

Fornire una rete VPC nativa per il tuo cluster

Plug-in della CNI di Amazon VPC per Kubernetes

EC2

Un server DNS flessibile ed estensibile che può fungere da cluster DNS Kubernetes

CoreDNS

EC2, Fargate, modalità automatica EKS, nodi ibridi EKS

Mantenere le regole di rete su ciascun nodo Amazon EC2

Kube-proxy

Nodi ibridi EC2, EKS

Fornisci l’archiviazione Amazon EBS per il cluster

Driver CSI per Amazon EBS

EC2

Fornisci lo storage di istanze Amazon EC2 per il tuo cluster

Driver CSI di Amazon EC2 Instance Store

EC2

Fornire l’archiviazione Amazon EBS per il cluster

Driver CSI per Amazon EFS

EC2, modalità automatica EKS

Fornisci lo storage di Amazon S3 Files per il tuo cluster

Driver CSI per Amazon EFS

EC2, modalità automatica EKS

Fornire l’archiviazione di Amazon FSx per Lustre per il cluster

Driver CSI per Amazon FSx

EC2, modalità automatica EKS

Fornire l’archiviazione Amazon S3 per il cluster

Driver CSI di Mountpoint per Amazon S3

EC2, modalità automatica EKS

Rilevare ulteriori problemi di integrità dei nodi

Agente di monitoraggio del nodo

Nodi ibridi EC2, EKS

Abilitare l’utilizzo della funzionalità snapshot nei driver CSI compatibili, come il driver CSI per Amazon EBS.

Controller di snapshot CSI

EC2, Fargate, modalità automatica EKS, nodi ibridi EKS

SageMaker HyperPod la governance delle attività ottimizza l'allocazione e l'utilizzo delle risorse di calcolo tra i team nei cluster Amazon EKS, risolvendo le inefficienze nella definizione delle priorità delle attività e nella condivisione delle risorse.

Governance delle SageMaker HyperPod attività di Amazon

EC2, modalità automatica EKS

Amazon SageMaker HyperPod Observability fornisce funzionalità complete di monitoraggio e osservabilità AddOn per i cluster. HyperPod

Amazon Observability SageMaker HyperPod Add-on

EC2, modalità automatica EKS

L'operatore SageMaker HyperPod di formazione Amazon consente una formazione distribuita efficiente sui cluster Amazon EKS con funzionalità avanzate di pianificazione e gestione delle risorse.

Operatore di formazione Amazon SageMaker HyperPod

EC2, modalità automatica EKS

Amazon SageMaker HyperPod Inference Operator consente l'implementazione e la gestione di carichi di lavoro di inferenza AI ad alte prestazioni con utilizzo ottimizzato delle risorse ed efficienza dei costi.

Operatore di SageMaker HyperPod inferenza Amazon

EC2, modalità automatica EKS

Un agente Kubernetes che raccoglie e riporta i dati del flusso di rete ad Amazon CloudWatch, consentendo un monitoraggio completo delle connessioni TCP tra i nodi del cluster.

AWS Network Flow Monitor Agent

EC2, modalità automatica EKS

Distribuzione sicura, pronta per la produzione e supportata del progetto AWS OpenTelemetry

AWS Distro per OpenTelemetry

EC2, Fargate, modalità automatica EKS, nodi ibridi EKS

Servizio di monitoraggio della sicurezza che analizza ed elabora le fonti di dati fondamentali, inclusi gli eventi di AWS CloudTrail gestione e i log di flusso di Amazon VPC. Amazon elabora GuardDuty anche funzionalità, come i log di controllo di Kubernetes e il monitoraggio del runtime

Agente Amazon GuardDuty

EC2, modalità automatica EKS

Servizio di monitoraggio e osservabilità fornito da AWS. Questo componente aggiuntivo installa l' CloudWatch agente e abilita sia CloudWatch Application Signals che CloudWatch Container Insights con una migliore osservabilità per Amazon EKS

Agente Amazon Observability CloudWatch

EC2, modalità automatica EKS, nodi ibridi EKS

Possibilità di gestire le credenziali per le applicazioni, analogamente al modo in cui i profili dell’istanza EC2 forniscono le credenziali alle istanze EC2

EKS Pod Identity Agent

Nodi ibridi EC2, EKS

Abilita cert-manager per emettere certificati da Private CA X.509 . AWS Richiede cert-manager.

AWS Connettore CA privato per Kubernetes

EC2, Fargate, modalità automatica EKS, nodi ibridi EKS

Genera metriche Prometheus sulle prestazioni dei dispositivi di rete SR-IOV

SR-IOV Network Metrics Exporter

EC2

Recupera i AWS segreti da Secrets Manager e i parametri da AWS Systems Manager Parameter Store e montali come file nei pod Kubernetes.

AWS Fornitore di driver CSI Secrets Store

EC2, modalità automatica EKS, nodi ibridi EKS

Con Spaces, puoi creare JupyterLab e gestire applicazioni Code Editor per eseguire carichi di lavoro ML interattivi.

Amazon Spaces SageMaker

Hyperpod

Plug-in della CNI di Amazon VPC per Kubernetes

Il componente aggiuntivo Amazon EKS del plugin CNI di Amazon VPC per Kubernetes è un plugin di interfaccia di rete container (CNI) Kubernetes che fornisce una rete VPC nativa per il cluster. Il tipo autogestito o gestito di questo componente aggiuntivo è installato su ogni nodo Amazon EC2 per impostazione predefinita. Per ulteriori informazioni, consulta Plugin di interfaccia di rete container (CNI) Kubernetes.

Nota

Non è necessario installare questo componente aggiuntivo sui cluster in modalità automatica EKS di Amazon. Per ulteriori informazioni, consulta Considerazioni per la modalità automatica di Amazon EKS.

Il nome del componente aggiuntivo di Amazon EKS è vpc-cni.

Autorizzazioni IAM richieste

Questo componente aggiuntivo utilizza i ruoli IAM per gli account di servizio di Amazon EKS. Per ulteriori informazioni, consulta Ruoli IAM per gli account di servizio.

Se il cluster utilizza la famiglia IPv4, sono necessarie le autorizzazioni in AmazonEKS_CNI_Policy. Se il cluster utilizza la famiglia IPv6, è necessario creare una policy IAM con le autorizzazioni in modalità IPv6. È possibile creare un ruolo IAM, collegare una delle policy e annotare l’account del servizio Kubernetes utilizzato dal componente aggiuntivo con il comando seguente.

Sostituisci my-cluster con il nome del cluster e AmazonEKSVPCCNIRole con il nome del ruolo. Se il tuo cluster utilizza la famiglia IPv6, sostituisci AmazonEKS_CNI_Policy con il nome della policy che hai creato. Questo comando richiede che eksctl sia installato sul tuo dispositivo. Se devi utilizzare uno strumento diverso per creare il ruolo, collegarvi la policy e annotare l’account del servizio Kubernetes, consulta Assegnare ruoli IAM agli account di servizio Kubernetes.

eksctl create iamserviceaccount --name aws-node --namespace kube-system --cluster my-cluster --role-name AmazonEKSVPCCNIRole \ --role-only --attach-policy-arn arn:aws: iam::aws:policy/AmazonEKS_CNI_Policy --approve

Aggiornare le informazioni

Puoi aggiornare solo una versione secondaria alla volta. Ad esempio, se la versione corrente è 1.28.x-eksbuild.y e desideri aggiornarla a 1.30.x-eksbuild.y , devi prima eseguire l'aggiornamento a 1.29.x-eksbuild.y e quindi l'aggiornamento a 1.30.x-eksbuild.y . Per ulteriori informazioni sull'aggiornamento del componente aggiuntivo, consulta Aggiornamento di CNI di Amazon VPC (componente aggiuntivo Amazon EKS).

CoreDNS

Il componente aggiuntivo CoreDNS per Amazon EKS è un server DNS flessibile ed estensibile che può fungere da DNS del cluster di Kubernetes. Il tipo autogestito o gestito di questo componente aggiuntivo è stato installato, per impostazione predefinita, al momento della creazione del cluster. Quando si avvia un cluster Amazon EKS con almeno un nodo, due repliche dell’immagine CoreDNS vengono distribuite per impostazione predefinita, indipendentemente dal numero di nodi distribuiti nel cluster. I contenitori CoreDNS forniscono la risoluzione dei nomi per tutti i pod del cluster. È possibile implementare i pod CoreDNS ai nodi Fargate se il cluster include un profilo Fargate con uno namespace che corrisponde al namespace per l’implementazione di CoreDNS. Per ulteriori informazioni, consulta Definisci quali pod utilizzano AWS Fargate durante l’avvio.

Nota

Non è necessario installare questo componente aggiuntivo sui cluster in modalità automatica EKS di Amazon. Per ulteriori informazioni, consulta Considerazioni per la modalità automatica di Amazon EKS.

Il nome del componente aggiuntivo di Amazon EKS è coredns.

Autorizzazioni IAM richieste

Questo componente aggiuntivo non richiede alcuna autorizzazione.

Informazioni aggiuntive

Per ulteriori informazioni su CoreDNS, consulta Utilizzo di CoreDNS per il rilevamento servizi e Personalizzazione del servizio DNS nella documentazione di Kubernetes.

Kube-proxy

Il componente aggiuntivo di Amazon EKS Kube-proxy mantiene le regole di rete su ciascun nodo Amazon EC2. Consente la comunicazione di rete con i tuoi pod. Il tipo autogestito o gestito di questo componente aggiuntivo è installato su ogni nodo Amazon EC2 nel cluster per impostazione predefinita.

Nota

Non è necessario installare questo componente aggiuntivo sui cluster in modalità automatica EKS di Amazon. Per ulteriori informazioni, consulta Considerazioni per la modalità automatica di Amazon EKS.

Il nome del componente aggiuntivo di Amazon EKS è kube-proxy.

Autorizzazioni IAM richieste

Questo componente aggiuntivo non richiede alcuna autorizzazione.

Aggiornare le informazioni

Prima di aggiornare la versione corrente, considera i seguenti requisiti:

Informazioni aggiuntive

Per ulteriori informazioni su kube-proxy, consulta kube-proxy nella documentazione Kubernetes.

Driver CSI per Amazon EBS

Il componente aggiuntivo di Amazon EKS per il driver CSI per Amazon EBS è un plugin di interfaccia di archiviazione del container (CSI) Kubernetes che fornisce archiviazione Amazon EBS per il cluster.

Nota

Non è necessario installare questo componente aggiuntivo sui cluster in modalità automatica EKS di Amazon. La modalità automatica include una funzionalità di archiviazione a blocchi. Per ulteriori informazioni, consulta Implementazione di un carico di lavoro stateful esemplificativo in modalità automatica EKS.

Il nome del componente aggiuntivo di Amazon EKS è aws-ebs-csi-driver.

Autorizzazioni IAM richieste

Questo componente aggiuntivo usa i ruoli IAM per gli account di servizio di Amazon EKS. Per ulteriori informazioni, consulta Ruoli IAM per gli account di servizio. Questo componente aggiuntivo richiede una delle seguenti politiche AWS gestite: AmazonEBSCSIDriverPolicyV2 per l'ambito basato su tag, AmazonEBSCSIDriverEKSClusterScopedPolicy per l'isolamento con ambito di cluster o AmazonEBSCSIDriverPolicy se non desideri alcuna restrizione basata sui tag. Puoi creare un ruolo IAM e collegarvi la policy gestita con il seguente comando. Sostituisci my-cluster con il nome del cluster e AmazonEKS_EBS_CSI_DriverRole con il nome del ruolo. Questo comando richiede che eksctl sia installato sul tuo dispositivo. Se hai la necessità di utilizzare uno strumento diverso o una chiave KMS personalizzata per la crittografia, consulta la sezione Passaggio 1: Creazione di un ruolo IAM.

In caso di migrazione da, consulta la sezione EBS CSI Driver policy AmazonEBSCSIDriverPolicy migration. https://github.com/kubernetes-sigs/aws-ebs-csi-driver/issues/2918

eksctl create iamserviceaccount \ --name ebs-csi-controller-sa \ --namespace kube-system \ --cluster my-cluster \ --role-name AmazonEKS_EBS_CSI_DriverRole \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/service-role/AmazonEBSCSIDriverPolicyV2 \ --approve

Informazioni aggiuntive

Per ulteriori informazioni sul componente aggiuntivo, consulta Utilizzare il volume di archiviazione Kubernetes con Amazon EBS.

Driver CSI di Amazon EC2 Instance Store

Il driver Amazon EKS per il driver Amazon EC2 Instance Store CSI è un plug-in Kubernetes Container Storage Interface (CSI) che fornisce lo storage NVMe dell'Instance Store di Amazon EC2 per il tuo cluster.

Il nome del componente aggiuntivo di Amazon EKS è aws-ec2-local-instance-store-csi-driver.

Autorizzazioni IAM richieste

Questo componente aggiuntivo non richiede alcuna autorizzazione. Il driver interagisce con i dispositivi NVMe di backend tramite operazioni Linux locali e non effettua chiamate API. AWS

Informazioni aggiuntive

Per ulteriori informazioni sul componente aggiuntivo, consulta Instance Store Amazon EC2 per lo storage di volumi Kubernetes.

Driver CSI per Amazon EFS

Il driver Amazon EFS CSI (componente aggiuntivo Amazon EKS) è un plug-in Kubernetes Container Storage Interface (CSI) che fornisce lo storage di file Amazon EFS e Amazon S3 per il tuo cluster.

Il nome del componente aggiuntivo di Amazon EKS è aws-efs-csi-driver.

Autorizzazioni IAM richieste

Questo componente aggiuntivo usa i ruoli IAM per gli account di servizio di Amazon EKS. Per ulteriori informazioni, consulta Ruoli IAM per gli account di servizio.

La policy AWS gestita specifica di cui hai bisogno dipende dal tipo di file system che desideri utilizzare:

  • Solo per i file system Amazon EFS: AmazonEFSCSIDriverPolicy allega la policy gestita.

  • Solo per i file system Amazon S3: allega la policy AmazonS3FilesCSIDriverPolicy gestita.

  • Sia per i file system Amazon EFS che Amazon S3: allega sia le policy gestite che quelle AmazonEFSCSIDriverPolicy AmazonS3FilesCSIDriverPolicy gestite.

Puoi creare un ruolo IAM e collegarvi la policy gestita con i seguenti comandi. Sostituisci my-cluster con il nome del cluster e AmazonEKS_EFS_CSI_DriverRole con il nome del ruolo. L'esempio seguente allega i file system AmazonEFSCSIDriverPolicy per Amazon EFS. Se utilizzi un file system Amazon S3, sostituisci la policy ARN con. arn:aws: iam::aws:policy/service-role/AmazonS3FilesCSIDriverPolicy Se utilizzi entrambi i tipi di file system, aggiungi un --attach-policy-arn flag aggiuntivo con la seconda policy ARN. Questi comandi richiedono l’installazione di eksctl sul tuo dispositivo. Se devi usare uno strumento diverso, consulta Passaggio 1: Creazione di un ruolo IAM per Amazon EFS o Fase 1: Creare ruoli IAM per Amazon S3 Files.

export cluster_name=my-cluster export role_name=AmazonEKS_EFS_CSI_DriverRole eksctl create iamserviceaccount \ --name efs-csi-controller-sa \ --namespace kube-system \ --cluster $cluster_name \ --role-name $role_name \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/service-role/AmazonEFSCSIDriverPolicy \ --approve TRUST_POLICY=$(aws iam get-role --output json --role-name $role_name --query 'Role.AssumeRolePolicyDocument' | \ sed -e 's/efs-csi-controller-sa/efs-csi-*/' -e 's/StringEquals/StringLike/') aws iam update-assume-role-policy --role-name $role_name --policy-document "$TRUST_POLICY"
Nota

L'esempio precedente configura efs-csi-controller-sa solo. Se utilizzi i file system Amazon S3, devi anche configurare. efs-csi-node-sa Consulta Fase 1: Creare ruoli IAM la configurazione completa di S3 Files IAM.

Informazioni aggiuntive

Per ulteriori informazioni sul componente aggiuntivo, consulta Utilizzo dell’archiviazione di file system elastici con Amazon EFS.

Driver CSI per Amazon FSx

Il componente aggiuntivo di Amazon EKS per il driver CSI per Amazon FSx è un plugin di interfaccia di archiviazione del container (CSI) Kubernetes che fornisce archiviazione Amazon FSx per Lustre per il cluster.

Il nome del componente aggiuntivo di Amazon EKS è aws-fsx-csi-driver.

Nota
  • Pre-existing Le installazioni dei driver Amazon FSx CSI nel cluster possono causare errori di installazione dei componenti aggiuntivi. Quando tenti di installare la versione del componente aggiuntivo Amazon EKS mentre esiste un driver CSI FSx non EKS, l’installazione avrà esito negativo a causa di conflitti di risorse. Usa il flag OVERWRITE durante l’installazione per risolvere il problema:

    aws eks create-addon --addon-name aws-fsx-csi-driver --cluster-name my-cluster --resolve-conflicts OVERWRITE
  • Il componente aggiuntivo Amazon FSx CSI Driver EKS supporta l'autenticazione tramite EKS Pod Identity o IAM Roles for Service Accounts (IRSA). Per utilizzare EKS Pod Identity, installa l'agente Pod Identity prima o dopo l'implementazione del componente aggiuntivo FSx CSI Driver. Per ulteriori informazioni, consulta Configurazione dell’agente Amazon EKS Pod Identity. Per utilizzare invece IRSA, vedere. Per creare un provider di identità IAM OIDC per il cluster

Autorizzazioni IAM richieste

Questo componente aggiuntivo usa i ruoli IAM per gli account di servizio di Amazon EKS. Per ulteriori informazioni, consulta Ruoli IAM per gli account di servizio. Le autorizzazioni nella policy AmazonFSxFullAccess AWS gestita sono obbligatorie. Puoi creare un ruolo IAM e collegarvi la policy gestita con il seguente comando. Sostituisci my-cluster con il nome del cluster e AmazonEKS_FSx_CSI_DriverRole con il nome del ruolo. Questo comando richiede che eksctl sia installato sul tuo dispositivo.

eksctl create iamserviceaccount \ --name fsx-csi-controller-sa \ --namespace kube-system \ --cluster my-cluster \ --role-name AmazonEKS_FSx_CSI_DriverRole \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/AmazonFSxFullAccess \ --approve

Informazioni aggiuntive

Per ulteriori informazioni sul componente aggiuntivo, consulta Usa l’archiviazione delle app ad alte prestazioni con Amazon FSx per Lustre.

Driver CSI di Mountpoint per Amazon S3

Il componente aggiuntivo Mountpoint per Amazon S3 di Amazon EKS per il driver CSI è un plugin di interfaccia di archiviazione del container (CSI) Kubernetes che fornisce archiviazione Amazon S3 per il cluster.

Il nome del componente aggiuntivo di Amazon EKS è aws-mountpoint-s3-csi-driver.

Autorizzazioni IAM richieste

Questo componente aggiuntivo utilizza i ruoli IAM per gli account di servizio di Amazon EKS. Per ulteriori informazioni, consulta Ruoli IAM per gli account di servizio.

Il ruolo IAM creato richiederà una policy che fornisca l'accesso a S3. Segui i Suggerimenti sulle autorizzazioni IAM di Mountpoint durante la creazione della policy. In alternativa, è possibile utilizzare la policy AWS gestita AmazonS3FullAccess, ma questa policy gestita concede più autorizzazioni di quelle necessarie per Mountpoint.

Puoi creare un ruolo IAM e collegarvi la policy gestita con i seguenti comandi. Sostituiscila my-cluster con il nome del tuo cluster, region-code con il codice AWS regionale corretto, AmazonEKS_S3_CSI_DriverRole con il nome del tuo ruolo e AmazonEKS_S3_CSI_DriverRole_ARN con il ruolo ARN. Questi comandi richiedono l’installazione di eksctl sul tuo dispositivo. Per istruzioni sull'uso della console IAM o della AWS CLI, consulta. Fase 2: creazione di un ruolo IAM

CLUSTER_NAME=my-cluster REGION=region-code ROLE_NAME=AmazonEKS_S3_CSI_DriverRole POLICY_ARN=AmazonEKS_S3_CSI_DriverRole_ARN eksctl create iamserviceaccount \ --name s3-csi-driver-sa \ --namespace kube-system \ --cluster $CLUSTER_NAME \ --attach-policy-arn $POLICY_ARN \ --approve \ --role-name $ROLE_NAME \ --region $REGION \ --role-only

Informazioni aggiuntive

Per ulteriori informazioni sul componente aggiuntivo, consulta Accedere agli oggetti Amazon S3 con il driver CSI Mountpoint per Amazon S3.

Controller di snapshot CSI

Il controller di snapshot dell’interfaccia di archiviazione di container (CSI) consente l’uso della funzionalità snapshot nei driver CSI compatibili, come il driver CSI di Amazon EBS.

Il nome del componente aggiuntivo di Amazon EKS è snapshot-controller.

Autorizzazioni IAM richieste

Questo componente aggiuntivo non richiede alcuna autorizzazione.

Informazioni aggiuntive

Per ulteriori informazioni sul componente aggiuntivo, consulta Abilitare la funzionalità snapshot per i volumi CSI.

Governance delle SageMaker HyperPod attività di Amazon

SageMaker HyperPod la governance delle attività è un solido sistema di gestione progettato per semplificare l'allocazione delle risorse e garantire un utilizzo efficiente delle risorse di calcolo tra team e progetti per i tuoi cluster Amazon EKS. Questa funzionalità offre agli amministratori la possibilità di impostare:

  • Livelli di priorità per varie attività

  • Allocazione delle risorse di calcolo per ogni team

  • In che modo ogni team presta e prende in prestito risorse di calcolo inattive

  • Se un team rende prerilasciabili le proprie attività

HyperPod la governance delle attività fornisce anche Amazon EKS Cluster Observability, che offre visibilità in tempo reale sulla capacità del cluster. Ciò include la disponibilità e l’utilizzo delle risorse di calcolo, l’allocazione e l’utilizzo del team e le informazioni sull’esecuzione delle attività e sui tempi di attesa, per consentirti di prendere decisioni informate e gestire in modo proattivo le risorse.

Il nome del componente aggiuntivo di Amazon EKS è amazon-sagemaker-hyperpod-taskgovernance.

Autorizzazioni IAM richieste

Questo componente aggiuntivo non richiede alcuna autorizzazione.

Informazioni aggiuntive

Per saperne di più sull'add-on, consulta SageMaker HyperPod la sezione Task Governance

Amazon Observability SageMaker HyperPod Add-on

Amazon SageMaker HyperPod Observability Add-on fornisce funzionalità complete di monitoraggio e osservabilità per i cluster. HyperPod Questo componente aggiuntivo implementa e gestisce automaticamente i componenti di monitoraggio essenziali, tra cui node exporter, DCGM exporter, kube-state-metrics ed EFA exporter. Raccoglie e inoltra i parametri a un’istanza Prometheus gestita da Amazon (AMP) designata dal cliente ed espone un endpoint OTLP per metriche personalizzate e acquisizione di eventi dai job di addestramento dei clienti.

L'add-on si integra con l' HyperPod ecosistema più ampio estrapolando le metriche da vari componenti, tra cui il componente aggiuntivo HyperPod Task Governance, Training Operator, Kubeflow e KEDA. HyperPod Tutte le metriche raccolte sono centralizzate in Prometheus gestito da Amazon, che consente ai clienti di ottenere una visione unificata dell’osservabilità tramite i dashboard di Grafana gestito da Amazon. Ciò fornisce una visibilità end-to-end sullo stato del cluster, sull'utilizzo delle risorse e sulle prestazioni dei lavori di formazione nell'intero ambiente. HyperPod

Il nome del componente aggiuntivo di Amazon EKS è amazon-sagemaker-hyperpod-observability.

Autorizzazioni IAM richieste

Questo componente aggiuntivo utilizza i ruoli IAM per gli account di servizio di Amazon EKS. Per ulteriori informazioni, consulta Ruoli IAM per gli account di servizio. Di seguito sono elencate le policy gestite richieste:

  • AmazonPrometheusRemoteWriteAccess: per la scrittura remota delle metriche a partire dal cluster fino ad AMP

  • CloudWatchAgentServerPolicy- per la scrittura remota dei log dal cluster a CloudWatch

Informazioni aggiuntive

Per saperne di più sull'add-on e sulle sue funzionalità, vedi SageMaker HyperPod Observability.

Operatore di formazione Amazon SageMaker HyperPod

L'operatore di SageMaker HyperPod formazione Amazon ti aiuta ad accelerare lo sviluppo di modelli di intelligenza artificiale generativi gestendo in modo efficiente la formazione distribuita su cluster di GPU di grandi dimensioni. Introduce funzionalità intelligenti di ripristino dai guasti, rilevamento delle interruzioni e gestione a livello di processo che riducono al minimo le interruzioni dell’addestramento e riducono i costi. A differenza dell’infrastruttura di addestramento tradizionale che richiede il riavvio completo del processo in caso di guasto, questo operatore implementa un ripristino chirurgico del processo per garantire il corretto funzionamento dei job di addestramento.

L'operatore collabora anche con le funzioni HyperPod di monitoraggio e osservabilità dello stato di salute, fornendo visibilità in tempo reale sull'esecuzione della formazione e il monitoraggio automatico di metriche critiche come i picchi di perdita e il degrado della produttività. Puoi definire le policy di ripristino tramite semplici configurazioni YAML senza modifiche al codice, che consentono di rispondere rapidamente e ripristinare gli stati irreversibili dell’addestramento. Queste funzionalità di monitoraggio e ripristino interagiscono per garantire prestazioni di addestramento ottimali riducendo al minimo il sovraccarico operativo.

Il nome del componente aggiuntivo di Amazon EKS è amazon-sagemaker-hyperpod-training-operator.

Per ulteriori informazioni, consulta Using the HyperPod training operator nella Amazon Developer Guide. SageMaker

Autorizzazioni IAM richieste

Questo componente aggiuntivo richiede le autorizzazioni IAM e utilizza EKS Pod Identity.

AWS suggerisce la policy AmazonSageMakerHyperPodTrainingOperatorAccess gestita.

Per ulteriori informazioni, consulta Installing the training operator nella Amazon SageMaker Developer Guide.

Informazioni aggiuntive

Per saperne di più sul componente aggiuntivo, consulta SageMaker HyperPod Training operator.

Operatore di SageMaker HyperPod inferenza Amazon

Amazon SageMaker HyperPod offre un'esperienza end-to-end che supporta l'intero ciclo di vita dello sviluppo dell'IA, dalla sperimentazione e formazione interattive ai flussi di lavoro di inferenza e post-formazione. Ora fornisce una piattaforma di inferenza completa che combina la flessibilità di Kubernetes con l'eccellenza operativa di un'esperienza gestita. Implementa, scala e ottimizza i tuoi modelli GenAI con un'affidabilità di livello aziendale utilizzando lo stesso calcolo per l'intero ciclo di vita del modello. HyperPod

Amazon SageMaker HyperPod offre interfacce di distribuzione flessibili che consentono di distribuire modelli tramite diversi metodi, tra cui kubectl, Python SDK, Amazon Studio UI o CLI. SageMaker HyperPod La funzionalità offre funzionalità avanzate di scalabilità automatica con allocazione dinamica delle risorse che si adatta automaticamente in base alla domanda. Inoltre, include funzionalità complete di osservabilità e monitoraggio che tengono traccia di metriche critiche come il tempo al primo token (Time To First Token), la latenza e l’utilizzo della GPU per aiutarti a ottimizzare le prestazioni.

Il nome del componente aggiuntivo di Amazon EKS è amazon-sagemaker-hyperpod-inference.

Metodi di installazione

È possibile installare questo componente aggiuntivo utilizzando uno dei seguenti metodi:

  • SageMaker Console (consigliata): fornisce un'esperienza di installazione semplificata con configurazione guidata.

  • Add-ons Console o CLI EKS: richiede l'installazione manuale dei componenti aggiuntivi di dipendenza prima di installare l'operatore di inferenza. Consulta la sezione sui prerequisiti di seguito per le dipendenze richieste.

Prerequisiti

Prima di installare il componente aggiuntivo per gli operatori di inferenza tramite la Add-ons console EKS o la CLI, assicurati che siano installate le seguenti dipendenze.

Componenti aggiuntivi EKS richiesti:

  • Driver CSI Amazon S3 Mountpoint (versione minima: v1.14.1-eksbuild.1)

  • Metrics Server (versione minima: v0.7.2-eksbuild.4)

  • Driver Amazon FSx CSI (versione minima: v1.6.0-eksbuild.1)

  • Cert Manager (versione minima: v1.18.2-eksbuild.2)

Per istruzioni dettagliate sull'installazione per ciascuna dipendenza, vedere Installazione dell'operatore di inferenza. https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-hyperpod-model-deployment-setup.html

Autorizzazioni IAM richieste

Questo componente aggiuntivo richiede le autorizzazioni IAM e utilizza. OIDC/IRSA

Le seguenti policy gestite sono consigliate in quanto forniscono le autorizzazioni minime con ambito di applicazione:

  • AmazonSageMakerHyperPodInferenceAccess- fornisce i privilegi di amministratore necessari per configurare l'operatore di inferenza

  • AmazonSageMakerHyperPodGatedModelAccess- fornisce SageMaker HyperPod l'accesso ai modelli controllati in SageMaker Jumpstart (ad esempio, Meta Llama,) GPT-Neo

Per ulteriori informazioni, vedere Installazione dell'operatore di inferenza.

Informazioni aggiuntive

Per saperne di più sull'operatore di SageMaker HyperPod inferenza Amazon, consulta operatore di SageMaker HyperPod inferenza.

Per informazioni sulla risoluzione dei problemi, consulta SageMaker HyperPod Troubleshooting model deployment.

AWS Network Flow Monitor Agent

Amazon CloudWatch Network Flow Monitor Agent è un'applicazione Kubernetes che raccoglie le statistiche di connessione TCP da tutti i nodi di un cluster e pubblica report sui flussi di rete nelle API di Amazon CloudWatch Network Flow Monitor Ingestion.

Il nome del componente aggiuntivo di Amazon EKS è aws-network-flow-monitoring-agent.

Autorizzazioni IAM richieste

Questo componente aggiuntivo richiede autorizzazioni IAM.

Quindi, è necessario aggiungere la policy gestita da CloudWatchNetworkFlowMonitorAgentPublishPolicy a tale componente aggiuntivo.

Per ulteriori informazioni sulla configurazione IAM richiesta, consulta IAM Policy nel repository Amazon Network Flow Monitor Agent. CloudWatch GitHub

Per ulteriori informazioni sulla policy gestita, consulta CloudWatchNetworkFlowMonitorAgentPublishPolicy la Amazon CloudWatch User Guide.

Informazioni aggiuntive

Per ulteriori informazioni sul componente aggiuntivo, consulta il repository Amazon CloudWatch Network Flow Monitor GitHub Agent.

Agente di monitoraggio del nodo

Il componente aggiuntivo Amazon EKS dell’agente di monitoraggio dei nodi è in grado di rilevare ulteriori problemi di integrità dei nodi. Questi segnali di integrità aggiuntivi possono essere sfruttati anche dalla funzione opzionale di riparazione automatica dei nodi per sostituire automaticamente i nodi secondo necessità.

Nota

Non è necessario installare questo componente aggiuntivo sui cluster in modalità automatica EKS di Amazon. Per ulteriori informazioni, consulta Considerazioni per la modalità automatica di Amazon EKS.

Il nome del componente aggiuntivo di Amazon EKS è eks-node-monitoring-agent.

Autorizzazioni IAM richieste

Questo componente aggiuntivo non richiede alcuna autorizzazione supplementare.

Informazioni aggiuntive

Per ulteriori informazioni, consulta Rileva i problemi di integrità dei nodi e abilita la riparazione automatica dei nodi.

AWS Distro per OpenTelemetry

Il componente aggiuntivo AWS Distro for OpenTelemetry Amazon EKS è una distribuzione sicura, pronta per la produzione e supportata del progetto. AWS OpenTelemetry Per ulteriori informazioni, consulta AWS Distro for on. OpenTelemetry GitHub

Il nome del componente aggiuntivo di Amazon EKS è adot.

Autorizzazioni IAM richieste

Questo componente aggiuntivo richiede le autorizzazioni IAM solo se si utilizza una delle risorse personalizzate preconfigurate a cui è possibile accedere tramite la configurazione avanzata.

Informazioni aggiuntive

Per ulteriori informazioni, vedi Guida introduttiva a AWS Distro per OpenTelemetry l'utilizzo di EKS Add-Ons nella AWS Distro per la documentazione. OpenTelemetry

ADOT richiede che il cert-manager componente aggiuntivo sia distribuito nel cluster come prerequisito, altrimenti questo componente aggiuntivo non funzionerà se distribuito direttamente utilizzando la proprietà. https://registry.terraform.io/modules/terraform-aws-modules/eks/aws/latest cluster_addons Per ulteriori requisiti, consulta Requisiti per iniziare con AWS Distro per OpenTelemetry l'utilizzo di EKS Add-Ons nella AWS distribuzione per OpenTelemetry la documentazione.

Agente Amazon GuardDuty

Il componente aggiuntivo Amazon GuardDuty Agent Amazon EKS raccoglie gli eventi di runtime (accesso ai file, esecuzione di processi, connessioni di rete) dai nodi del cluster EKS per l'analisi mediante GuardDuty Runtime Monitoring. GuardDuty di per sé (non l'agente) è il servizio di monitoraggio della sicurezza che analizza ed elabora le fonti di dati fondamentali, tra cui eventi di AWS CloudTrail gestione e log di flusso di Amazon VPC, oltre a funzionalità come i log di audit di Kubernetes e il monitoraggio del runtime.

Il nome del componente aggiuntivo di Amazon EKS è aws-guardduty-agent.

Autorizzazioni IAM richieste

Questo componente aggiuntivo non richiede alcuna autorizzazione.

Informazioni aggiuntive

Per ulteriori informazioni, consulta Runtime Monitoring for Amazon EKS cluster in Amazon. GuardDuty

  • Per rilevare potenziali minacce alla sicurezza nei tuoi cluster Amazon EKS, abilita il monitoraggio del GuardDuty runtime di Amazon e distribuisci l'agente di GuardDuty sicurezza nei tuoi cluster Amazon EKS.

Agente Amazon Observability CloudWatch

Il componente aggiuntivo Amazon EKS dell'agente Amazon CloudWatch Observability è il servizio di monitoraggio e osservabilità fornito da. AWS Questo componente aggiuntivo installa l' CloudWatch agente e abilita sia CloudWatch Application Signals che CloudWatch Container Insights con una migliore osservabilità per Amazon EKS. Per ulteriori informazioni, consulta Amazon Agent. CloudWatch

Il nome del componente aggiuntivo di Amazon EKS è amazon-cloudwatch-observability.

Autorizzazioni IAM richieste

Questo componente aggiuntivo utilizza i ruoli IAM per gli account di servizio di Amazon EKS. Per ulteriori informazioni, consulta Ruoli IAM per gli account di servizio. Le autorizzazioni nelle policy AWSXrayWriteOnlyAccess CloudWatchAgentServerPolicy AWS gestite sono obbligatorie. È possibile creare un ruolo IAM, collegarvi una delle policy gestite e annotare l’account del servizio Kubernetes utilizzato dal componente aggiuntivo con il comando seguente. Sostituisci my-cluster con il nome del cluster e AmazonEKS_Observability_role con il nome del ruolo. Questo comando richiede che eksctl sia installato sul tuo dispositivo. Se devi utilizzare uno strumento diverso per creare il ruolo, collegarvi la policy e annotare l’account del servizio Kubernetes, consulta Assegnare ruoli IAM agli account di servizio Kubernetes.

eksctl create iamserviceaccount \ --name cloudwatch-agent \ --namespace amazon-cloudwatch \ --cluster my-cluster \ --role-name AmazonEKS_Observability_Role \ --role-only \ --attach-policy-arn arn:aws: iam::aws:policy/AWSXrayWriteOnlyAccess \ --attach-policy-arn arn:aws: iam::aws:policy/CloudWatchAgentServerPolicy \ --approve

Informazioni aggiuntive

Per ulteriori informazioni, vedere Installare l' CloudWatch agente.

AWS Connettore CA privato per Kubernetes

Il AWS Private CA Connector for Kubernetes è un componente aggiuntivo per cert-manager che consente agli utenti di ottenere certificati da Private Certificate Authority (Private CA). AWS AWS

  • Il nome del componente aggiuntivo di Amazon EKS è aws-privateca-connector-for-kubernetes.

  • Il namespace del componente aggiuntivo è aws-privateca-issuer.

Questo componente aggiuntivo richiede cert-manager. cert-manager è disponibile su Amazon EKS come componente aggiuntivo della community. Per ulteriori informazioni su questo componente aggiuntivo, consulta Gestione certificati. Per ulteriori informazioni sui componenti aggiuntivi di installazione, consulta Creare un componente aggiuntivo Amazon EKS.

Autorizzazioni IAM richieste

Questo componente aggiuntivo richiede autorizzazioni IAM.

Usa EKS Pod Identity per collegare la policy IAM AWSPrivateCAConnectorForKubernetesPolicy all’account del servizio Kubernetes aws-privateca-issuer. Per ulteriori informazioni, consulta Utilizzo di Pod Identity per assegnare un ruolo IAM a un componente aggiuntivo Amazon EKS.

Per informazioni sulle autorizzazioni richieste, consulta il Managed Policy Reference. AWSPrivateCAConnectorForKubernetesPolicy AWS

Informazioni aggiuntive

Per ulteriori informazioni, consulta il repository AWS Private CA Issuer for GitHub Kubernetes.

Per ulteriori informazioni sulla configurazione del componente aggiuntivo, consulta values.yaml nel repository. https://github.com/cert-manager/aws-privateca-issuer/blob/main/charts/aws-pca-issuer/values.yaml aws-privateca-issuer GitHub Verifica che la versione di values.yaml corrisponda alla versione del componente aggiuntivo installato sul cluster.

Questo componente aggiuntivo tollera la macchia utilizzata dalla modalità EKS AutoCriticalAddonsOnly. system NodePool Per ulteriori informazioni, consulta Eseguire componenti aggiuntivi critici su istanze dedicate.

EKS Pod Identity Agent

Il componente aggiuntivo di Amazon EKS dell’agente Pod Identity fornisce la possibilità di gestire le credenziali per le applicazioni, analogamente al modo in cui i profili dell’istanza Amazon EC2 forniscono le credenziali alle istanze Amazon EC2.

Nota

Non è necessario installare questo componente aggiuntivo sui cluster in modalità automatica EKS di Amazon. La modalità automatica EKS di Amazon si integra con Pod Identity EKS. Per ulteriori informazioni, consulta Considerazioni per la modalità automatica di Amazon EKS.

Il nome del componente aggiuntivo di Amazon EKS è eks-pod-identity-agent.

Autorizzazioni IAM richieste

Il componente aggiuntivo dell’agente Pod Identity di per sé non richiede un ruolo IAM. Utilizza le autorizzazioni del ruolo IAM del nodo Amazon EKS per funzionare, ma non necessita di un ruolo IAM dedicato per il componente aggiuntivo.

Aggiornare le informazioni

Puoi aggiornare solo una versione secondaria alla volta. Ad esempio, se la versione corrente è 1.28.x-eksbuild.y e desideri aggiornarla a 1.30.x-eksbuild.y, devi prima eseguire l'aggiornamento a 1.29.x-eksbuild.y e quindi l'aggiornamento a 1.30.x-eksbuild.y. Per ulteriori informazioni sull'aggiornamento del componente aggiuntivo, consulta Aggiornamento di un componente aggiuntivo di Amazon EKS.

SR-IOV Network Metrics Exporter

Il componente aggiuntivo SR-IOV Network Metrics Exporter Amazon EKS raccoglie ed espone le metriche sui dispositivi di rete in formato Prometheus. SR-IOV Consente il monitoraggio delle prestazioni di rete sui nodi bare metal EKS. SR-IOV L'esportatore funziona come DaemonSet su nodi con interfacce di SR-IOV-capable rete ed esporta metriche che possono essere analizzate da Prometheus.

Nota

Questo componente aggiuntivo richiede nodi con interfacce di rete. SR-IOV-capable

Proprietà Valore

Add-on nome

sriov-network-metrics-exporter

Namespace

monitoring

Documentazione

SR-IOV repository Network Metrics Exporter GitHub

Nome account del servizio

Nessuno

Policy gestite da IAM

Nessuno

Autorizzazioni IAM personalizzate

Nessuno

AWS Fornitore di driver CSI Secrets Store

Il AWS provider del driver CSI Secrets Store è un componente aggiuntivo che consente di recuperare i AWS segreti da Secrets Manager e i parametri da AWS Systems Manager Parameter Store e di montarli come file nei pod Kubernetes.

Autorizzazioni IAM richieste

L'add-on non richiede autorizzazioni IAM. Tuttavia, i pod applicativi richiederanno le autorizzazioni IAM per recuperare i AWS segreti da Secrets Manager e i parametri da Systems Manager Parameter Store. AWS Dopo aver installato il componente aggiuntivo, l'accesso deve essere configurato tramite IAM Roles for Service Accounts (IRSA) o EKS Pod Identity. Per utilizzare IRSA, consulta la documentazione di configurazione IRSA di Secrets Manager. Per utilizzare EKS Pod Identity, consulta la documentazione di configurazione di Secrets Manager Pod Identity.

AWS suggerisce la policy AWSSecretsManagerClientReadOnlyAccess gestita.

Per ulteriori informazioni sulle autorizzazioni richieste, consulta AWSSecretsManagerClientReadOnlyAccess il AWS Managed Policy Reference.

Informazioni aggiuntive

Per ulteriori informazioni, consulta il repository GitHub secrets-store-csi-driver-provider-aws.

Per saperne di più sul componente aggiuntivo, consulta la documentazione di Secrets Manager relativa al componente aggiuntivo. AWS

Amazon Spaces SageMaker

Amazon SageMaker Spaces Add-on offre la possibilità di eseguire IDE e notebook su EKS o cluster. HyperPod-EKS Gli amministratori possono utilizzare la console EKS per installare l'add-on sul proprio cluster e definire configurazioni di spazio predefinite come immagini, risorse di calcolo, archiviazione locale per le impostazioni del notebook (storage aggiuntivo da collegare ai relativi spazi), file system e script di inizializzazione.

Gli sviluppatori di intelligenza artificiale possono usare kubectl per creare, aggiornare ed eliminare spazi. Hanno la flessibilità di utilizzare le configurazioni predefinite fornite dagli amministratori o personalizzare le impostazioni. Gli sviluppatori di intelligenza artificiale possono accedere ai propri spazi su EKS o HyperPod-EKS utilizzando i loro IDE VS Code locali, and/or il browser web che ospita il loro JupyterLab CodeEditor IDE su un dominio DNS personalizzato configurato dai loro amministratori. Possono anche utilizzare la funzionalità di port forwarding di Kubernetes per accedere agli spazi nei loro browser web.

Il nome del componente aggiuntivo di Amazon EKS è amazon-sagemaker-spaces.

Autorizzazioni IAM richieste

Questo componente aggiuntivo richiede autorizzazioni IAM. Per ulteriori informazioni sulla configurazione IAM richiesta, consulta IAM Permissions Setup nella Amazon Developer Guide. SageMaker

Informazioni aggiuntive

Per saperne di più sull'add-on e sulle sue funzionalità, consulta SageMaker AI Notebooks on HyperPod nella Amazon Developer Guide. SageMaker