Quota di Amazon MSK - Amazon Managed Streaming per Apache Kafka

View a markdown version of this page

Quota di Amazon MSK - Amazon Managed Streaming per Apache Kafka

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Quota di Amazon MSK

Le tue Account AWS sono quote predefinite per Amazon MSK. Salvo diversa indicazione, ogni quota per account rientra nella tua. Region-specific Account AWS

Richiesta di aumento della quota in Amazon MSK

Puoi richiedere un aumento della quota per ogni regione utilizzando la console Service Quotas o una richiesta di assistenza. AWS CLI Se una quota regolabile non è disponibile nella console Service Quotas, utilizza il caso AWS Support Center Console per creare un aumento della quota di servizio.

L'assistenza potrebbe approvare, rifiutare o approvare parzialmente le richieste di aumento delle quote. Gli aumenti non vengono concessi immediatamente e possono essere necessari alcuni giorni per renderli effettivi.

Per richiedere un aumento utilizzando la console Service Quotas
  1. Apri la console Service Quotas all'indirizzo https://console.aws.amazon.com/servicequotas/.

  2. Nella barra di navigazione, selezionare una regione.

  3. Nel riquadro di navigazione a sinistra, scegliere Servizi AWS.

  4. Nella casella Trova servizi, digitamsk, quindi scegli Amazon Managed Streaming for Apache Kafka (MSK).

  5. In Quote di servizio, scegli il nome della quota per la quale desideri richiedere un aumento. Ad esempio, Number of brokers per account.

  6. Scegli Richiedi un aumento a livello di account.

  7. Per Aumenta il valore della quota, inserisci un nuovo valore di quota.

  8. Scegli Richiedi.

  9. (Facoltativo) Per visualizzare eventuali richieste in sospeso o risolte di recente nella console, scegli Dashboard nel riquadro di navigazione a sinistra. Per le richieste in sospeso, scegliere lo stato della richiesta per aprire la ricevuta della richiesta. Lo stato iniziale di una richiesta è Pending (In attesa). Dopo che lo stato è cambiato in Quota richiesta, vedrai il numero del caso con l'assistenza. Scegli il numero del caso per aprire il ticket della tua richiesta.

Per ulteriori informazioni, incluso come utilizzare gli AWS CLI o SDK per richiedere un aumento della quota, consulta Richiedere un aumento della quota nella Guida per l'utente di Service Quotas.

Quota di broker Amazon MSK Standard

La tabella seguente descrive le quote per i broker Standard.

Dimensione Quota Note
Broker per account 90 Per richiedere una quota più elevata, accedi alla console Service Quotas.
Broker per cluster 30 per i ZooKeeper-based cluster 60 per i cluster KRaft-based Per richiedere una quota più elevata, accedi alla console Service Quotas.
Spazio di archiviazione minimo per broker 1 GiB
Spazio di archiviazione massimo per broker 16384 GiB
Numero massimo di connessioni TCP per broker (controllo degli accessi IAM) Controllo degli accessi IAM 3000 Per aumentare questo limite, puoi modificare la listener.name.client_iam.max.connections o la proprietà di listener.name.client_iam_public.max.connections configurazione utilizzando l'AlterConfigAPI Kafka o lo strumento. kafka-configs.sh È importante notare che impostare una delle due proprietà su un valore elevato può comportare l'indisponibilità.
Velocità massima di connessioni TCP per broker (IAM) 100 al secondo (dimensioni delle istanze M5 e M7g) 4 al secondo (dimensione dell'istanza t3) Per gestire i tentativi di connessione non riusciti, puoi impostare il parametro di configurazione reconnect.backoff.ms sul lato client. Ad esempio, se desideri che un client ritenti le connessioni dopo 1 secondo, imposta su. reconnect.backoff.ms 1000 Per ulteriori informazioni, consulta la sezione reconnect.backoff.ms nella documentazione di Apache Kafka.
Numero massimo di connessioni TCP per broker (non IAM) N/A MSK non impone limiti di connessione per l'autenticazione non IAM. È necessario monitorare altre metriche come l'utilizzo della CPU e della memoria per evitare di sovraccaricare il cluster a causa di connessioni eccessive.
Configurazioni per account 100 Per richiedere una quota più elevata, accedi alla console Service Quotas.

Per aggiornare la configurazione o la versione Apache Kafka di un cluster MSK, assicurati innanzitutto che il numero di partizioni per broker sia inferiore ai limiti descritti in Right-size il tuo cluster: numero di partizioni per broker Standard.

Revisioni della configurazione per account 50

Quota di broker Amazon MSK Express

La tabella seguente descrive le quote per i broker Express.

Dimensione Quota Note
Broker per account 90 Per richiedere una quota più elevata, accedi alla console Service Quotas.
Broker per cluster 30 per i ZooKeeper-based cluster 60 per i cluster KRaft-based Per richiedere una quota più elevata, accedi alla console Service Quotas.
Spazio di archiviazione massimo Illimitato
Numero massimo di connessioni TCP per broker (controllo IAM Access) 3000

Per aumentare il limite di connessione, modifica una delle seguenti proprietà di configurazione utilizzando l' AlterConfig API Kafka o lo strumento kafka-configs.sh:

  • listener.name.client_iam.max.connections

  • listener.name.client_iam_public.max.connections

L'impostazione di queste proprietà su un valore elevato potrebbe comportare l'indisponibilità del cluster.

Velocità massima di connessioni TCP per broker (IAM) 100 al secondo Per gestire i tentativi di connessione non riusciti, puoi impostare il parametro di configurazione reconnect.backoff.ms sul lato client. Ad esempio, se desideri che un client riprovi le connessioni dopo 1 secondo, imposta sureconnect.backoff.ms. 1000 Per ulteriori informazioni, consulta la sezione reconnect.backoff.ms nella documentazione di Apache Kafka.
Numero massimo di connessioni TCP per broker (non IAM) N/A MSK non impone limiti di connessione per l'autenticazione non IAM. Tuttavia, dovresti monitorare altre metriche come l'utilizzo della CPU e della memoria per assicurarti di non sovraccaricare il cluster a causa di connessioni eccessive.
Configurazioni per account 100 Per richiedere una quota più elevata, accedi alla console Service Quotas. Per aggiornare la configurazione o la versione Apache Kafka di un cluster MSK, assicurati innanzitutto che il numero di partizioni per broker sia inferiore ai limiti descritti in Right-size il tuo cluster: numero di partizioni per broker Express.
Revisioni della configurazione per account 50
Ingresso massimo per broker Consigliato: 15,6 - 500,0 MBps In base alla dimensione dell'istanza.
Uscita massima per broker Consigliato: 31,2 - 1000,0 MBps In base alla dimensione dell'istanza.
Throughput per partizione Massimo 15 MB/s

Limiti di velocità effettiva del broker in base alle dimensioni del broker

La tabella seguente elenca il limite massimo e consigliato di limitazione del throughput relativo all'ingresso e all'uscita per broker di diverse dimensioni. In questa tabella, il throughput consigliato è rappresentato come Prestazioni sostenute, ovvero la soglia oltre la quale le applicazioni non subiranno alcun peggioramento delle prestazioni. Se si opera oltre questi limiti in entrambe le dimensioni, si potrebbe ottenere un throughput maggiore, ma si potrebbe anche verificare un peggioramento delle prestazioni. La quota massima è la soglia alla quale il cluster read/write limiterà il traffico. Le tue applicazioni non saranno in grado di funzionare oltre questa soglia.

Dimensioni istanza Prestazioni sostenute (MBps) in ingresso Quota massima (MBps) per l'ingresso Prestazioni sostenute (MBps) in uscita Quota massima (MBps) per l'uscita
express.m7g.large 15.6 23,4 31,2 58,5
express.m7g.xlarge 31.2 46,8 62,5 117
express.m7g.2xlarge 62,5 93,7 125 234.2
express.m7g.4xlarge 124.9 187,5 249,8 468,7
express.m7g.8xlarge 250 375 500 937,5
express.m7g. 12xlarge 375 562,5 750 1406,2
express.m7g. 16x large 500 750 1000 1875

Quota di partizione di Express Broker

La tabella seguente mostra il numero di partizioni consigliato (incluse le repliche leader e follower) per ciascun broker Express. Non è possibile superare il numero massimo di partizioni indicato nella tabella seguente per ciascun broker Express.

Per informazioni sulle migliori pratiche da prendere in considerazione durante l'assegnazione delle partizioni ai broker Express, consulta. Right-size il tuo cluster: numero di partizioni per broker Express

Dimensione del broker Numero consigliato di partizioni (incluse le repliche leader e follower) per broker Numero massimo di partizioni per broker

express.m7g.large

1000 1500

express.m7g.xlarge

1000 2000

express.m7g.2xlarge

2500 4000

express.m7g.4xlarge

6000 8000

express.m7g.8xlarge

12000 16000

express.m7g.12xlarge

16000 24000

express.m7g.16xlarge

20000 32000

Quote del replicatore MSK

  • Un massimo di 15 replicatori MSK per account.

  • MSK Replicator replica solo fino a 750 argomenti in ordine ordinato. Se è necessario replicare più argomenti, si consiglia di creare un Replicator separato. Per richiedere supporto per più di 750 argomenti per Replicator, contattate il supporto. AWS È possibile monitorare il numero di argomenti replicati utilizzando la TopicCount metrica.

  • Una velocità massima di ingresso di 1 GB al secondo per MSK Replicator. Per richiedere una quota più elevata, contatta l'assistenza. AWS

  • Dimensione del record MSK Replicator: una dimensione massima del record di 10 MB per la replica tra regioni e 20 MB per la replica nella stessa regione (). message.max.bytes Per richiedere una quota più elevata, contatta l'assistenza. AWS

Quota di MSK Serverless

Le quote specificate nella tabella seguente sono per cluster, se non diversamente indicato.

Nota

Se riscontri problemi con i limiti delle quote di servizio, crea un caso di supporto indicando il tuo caso d'uso e il limite richiesto.

Dimensione Quota Risultato della violazione della quota

Velocità di trasmissione effettiva massima in ingresso

200 Mb/s

Rallentamento con limitazione della larghezza di banda della rete prolungata in risposta

Velocità di trasmissione effettiva massima in uscita 400 Mb/s

Rallentamento con limitazione della larghezza di banda della rete prolungata in risposta

Durata massima di conservazione Illimitato N/A

Numero massimo di connessioni client

3000 Chiusura della connessione
Numero massimo di tentativi di connessione 100 al secondo Chiusura della connessione

Dimensione massima del messaggio

8 MiB La richiesta non riesce con ErrorCode: INVALID_REQUEST
Velocità massima di richieste 15.000 al secondo Rallentamento con limitazione della larghezza di banda della rete prolungata in risposta

Velocità massima di richieste delle API di gestione degli argomenti

2 al secondo Rallentamento con limitazione della larghezza di banda della rete prolungata in risposta

Numero massimo di byte di recupero per richiesta

55 MB

La richiesta ha esito negativo con: INVALID_REQUEST ErrorCode

Numero massimo di gruppi di consumatori

500 JoinGroup la richiesta non riesce
Numero massimo di partizioni (leader) 2.400 per argomenti non compattati. 120 per argomenti compattati. Per richiedere un adeguamento della quota di servizio, crea un caso di supporto indicando il caso d'uso e il limite richiesto. La richiesta non riesce con ErrorCode: INVALID_REQUEST
Velocità massima di creazione ed eliminazione delle partizioni 250 in 5 minuti La richiesta non riesce con: THROUGHPUT_QUOTA_EXCEEDED ErrorCode

Velocità di trasmissione effettiva massima in ingresso per partizione

5 Mb/s Rallentamento con limitazione della larghezza di banda della rete prolungata in risposta

Velocità di trasmissione effettiva massima in uscita per partizione

10 Mb/s Rallentamento con limitazione della larghezza di banda della rete prolungata in risposta

Dimensione massima della partizione (per argomenti compatti)

250 GB La richiesta non riesce con ErrorCode: THROUGHPUT_QUOTA_EXCEEDED
Numero massimo di VPC client per cluster serverless 5
Numero massimo di cluster serverless per account 10. Per richiedere un adeguamento della quota di servizio, crea un caso di supporto indicando il tuo caso d'uso e il limite richiesto.

Quota di MSK Connect

  • Fino a 100 plug-in personalizzati.

  • Fino a 100 configurazioni di worker.

  • Fino a 60 worker di connessione. Se un connettore è configurato in modo da avere una capacità con dimensionamento automatico, MSK Connect utilizza il numero massimo di worker che il connettore è configurato per avere al fine di calcolare la quota per l'account.

  • Fino a 10 worker per connettore.

Per richiedere una quota più elevata per MSK Connect, accedi alla console Service Quotas.

Quote di Amazon MSK Data Delivery

Le seguenti quote si applicano ai canali di distribuzione dei dati di Amazon MSK.

RisorsaQuota predefinitaRegolabile

Canali per cluster Amazon MSK

50

Canali per argomento di Kafka

10

Intervallo massimo di aggiornamento dei dati

15 minuti

No

Intervallo minimo di aggiornamento dei dati

5 minuti

No

Produttività minima per l'aggiornamento di 5 minuti (tabelle S3)

2,4 per canale MB/s

No

Throughput massimo per canale

Fino a 10 GB/s

No

Numero massimo di partizioni per tabella (tabelle S3)

100

No

Formati di input supportati (tabelle S3)

JSON, JSON_SCHEMA_GSR

No

Formati di input supportati (bucket S3)

JSON, String ByteArray

No

Formato di output (tabelle S3)

Apache Iceberg; file Parquet con compressione ZSTD o Snappy

No

Compressione dell'output (bucket S3)

NESSUNO, GZIP o ZSTD

No

Evoluzione dello schema

Non supportata

No

Lunghezza massima del nome dell'argomento

249 caratteri

No

Lunghezza massima del nome della tabella

255 caratteri

No

Per richiedere un aumento di una quota regolabile, utilizzare la procedura inRichiesta di aumento della quota in Amazon MSK.