Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
# Verfügbare Basismodelle
Amazon SageMaker JumpStart bietet hochmoderne, integrierte, öffentlich verfügbare und firmeneigene Basismodelle, mit denen Sie Ihre generativen KI-Workflows anpassen und in diese integrieren können.
In den ersten beiden Tabs sind die Fundamentmodelle aufgeführt. In den letzten beiden Tabs sind die integrierten Algorithmen und die klassischen Algorithmen für maschinelles Lernen aufgeführt, die JumpStart auch Funktionen bereitstellen, bei denen es sich nicht um Basismodelle handelt.
Um alle verfügbaren JumpStart Foundation-Modelle aufzulisten:
```
import boto3
sagemaker_client = boto3.client("sagemaker", region_name="us-west-2")
# List all available models in the SageMakerPublicHub
all_models = []
next_token = None
while True:
params = {"HubName": "SageMakerPublicHub", "HubContentType": "Model"}
if next_token:
params["NextToken"] = next_token
response = sagemaker_client.list_hub_contents(**params)
all_models.extend(response["HubContentSummaries"])
next_token = response.get("NextToken")
if not next_token:
break
print(f"Total models available: {len(all_models)}")
for model in all_models[:5]:
print(model["HubContentName"], model["HubContentVersion"])
```
So rufen Sie unterstützte Instanztypen und andere Metadaten für ein bestimmtes Modell ab:
```
import json
import boto3
sagemaker_client = boto3.client("sagemaker", region_name="us-west-2")
model_id = "meta-textgeneration-llama-3-3-70b-instruct"
response = sagemaker_client.describe_hub_content(
HubName="SageMakerPublicHub",
HubContentType="Model",
HubContentName=model_id
)
# Parse the model metadata
model_doc = json.loads(response["HubContentDocument"])
print(f"Supported instances: {model_doc['SupportedInferenceInstanceTypes']}")
print(f"Default instance: {model_doc['DefaultInferenceInstanceType']}")
```
In den folgenden Tabellen sind die verfügbaren Modelle mit ihren Lizenz- und unterstützten Inferenzinstanztypen (Stand: 29. Juli 2026) aufgeführt. Die aktuellsten Informationen finden Sie in den API-Beispielen oben oder im Model-Hub in SageMaker Studio.
In einer Lizenzzelle wird „Nicht zutreffend“ angezeigt, wenn der Model Hub keine Lizenz für dieses Modell veröffentlicht. Erkundigen Sie sich beim Modellanbieter nach den Lizenzbedingungen, bevor Sie ein solches Modell verwenden. Ein leerer Wert oder ein Platzhalterwert in der Tabelle gewährt keine Rechte.
Einige Modelle bieten zusätzlich zu ihren Standardkonfigurationen alternative ** Hosting-Bereitstellungskonfigurationen**. Jede Konfiguration optimiert das Modell für einen Anwendungsfall und ein Leistungsziel, und jede unterstützt ihre eigenen Instanztypen. Eine Konfiguration unterstützt oft eine kleinere oder kostengünstigere Instanz als die Standardinstanz. Überprüfen Sie daher die Konfigurationen, bevor Sie zu dem Schluss kommen, dass ein Modell eine große Instanz benötigt.
Ein Konfigurationsname verbindet einen Anwendungsfall mit einem Leistungsziel. Dabei handelt es sich um dieselben Anwendungsfälle und Leistungsziele, die SageMaker Studio ** auf der ** Seite „Modell auf Endpunkt ** bereitstellen“ unter ** Leistung anbietet. Ein Name hier und eine Auswahl dort beschreiben also dieselbe Bereitstellung. Der Anwendungsfall beschreibt die Arbeitslast:
+ `generate`(**Generieren**): Erstellen Sie umfangreiche Inhalte wie Artikel, Berichte oder Code anhand einer Eingabeaufforderung.
+ `interact`(**Interagieren**): Unterstützen Sie Konversationen in Echtzeit wie Chatbots oder virtuelle Assistenten.
+ `summarize`(**Zusammenfassen**): Fassen Sie umfangreiche Dokumente, Artikel oder Daten zu kurzen Zusammenfassungen zusammen.
+ `modify`(**Ändern**): Transformieren oder bearbeiten Sie vorhandene Inhalte, einschließlich Umschreiben, Übersetzen oder Neuformatieren.
+ `max_context`(**Max Context**): Verarbeiten Sie große Eingaben, für die das gesamte Kontextfenster des Modells erforderlich ist.
Das Leistungsziel beschreibt, wofür die Konfiguration optimiert ist:
+ `best_price_performance`(**Ausgewogen**): Ein ausgewogener Kompromiss zwischen Kosten, Latenz und Durchsatz. Gut für allgemeine Workloads oder wenn Sie sich nicht sicher sind, welche Kennzahl am wichtigsten ist.
+ `lowest_cost`(**Kostenoptimiert**): Niedrigste Infrastrukturkosten pro Anfrage. Akzeptiert eine höhere Latenz und einen niedrigeren Durchsatz, um die Kosten zu minimieren.
+ `highest_throughput`(Optimierter ** Durchsatz**): Maximale Anzahl an Tokens pro Sekunde für Workloads mit hohem Volumen. Verwendet spekulative Dekodierung, um den Durchsatz zu erhöhen.
+ `lowest_latency`(**Latenz optimiert**): Niedrigste Zeit bis zum ersten Token (TTFT). Priorisiert Geschwindigkeit vor Durchsatz und Kosten.
Einige Modelle benennen stattdessen einen Serving-Container, z. B. `lmi` oder`tgi`, oder verwenden ihn `all_purpose` für die Bereitstellung ohne Übernahme einer Arbeitslast.
Listen Sie die Konfigurationen für ein Modell zusammen mit ihren Benchmark-Metriken auf und stellen Sie dann eine Konfiguration mit dem SageMaker Python-SDK bereit:
```
from sagemaker.jumpstart.model import JumpStartModel
model = JumpStartModel(model_id="meta-textgeneration-llama-3-1-8b-instruct")
# Print every configuration with its instance types and benchmark metrics.
model.list_deployment_configs()
# Select a configuration and one of the instance types it supports.
model.set_deployment_config(
config_name="generate_lowest_cost",
instance_type="ml.g6e.xlarge",
)
predictor = model.deploy()
```
Bei der Bereitstellung ohne Aufruf werden die Standardkonfiguration und der Standardinstanztyp `set_deployment_config` verwendet.
------
#### [ Open-Weight Models (436) ]
Open-weight Foundation-Modelle sind öffentlich verfügbare Modelle von Anbietern wie Meta, Google, Mistral AI und anderen. Sie können diese Modelle für Ihren Anwendungsfall bereitstellen, optimieren und anpassen.
Um mit einem dieser Modelle zu beginnen, schauen Sie sich eines der verfügbaren [Beispiel-Notebooks](jumpstart-foundation-models-example-notebooks.md) Modelle an [JumpStart Verwendung des Foundation-Modells](jumpstart-foundation-models-use.md) oder erkunden Sie es. Versuchen Sie in einem bestimmten Beispielnotizbuch, die Modell-ID auszutauschen, um mit verschiedenen Modellen innerhalb derselben Modellfamilie zu experimentieren.
Weitere Informationen zu Modell-IDs und Ressourcen zur Bereitstellung öffentlich verfügbarer JumpStart Foundation-Modelle mit dem SageMaker Python SDK finden Sie unter[Verwenden Sie Fundamentmodelle mit SageMaker Python SDK](jumpstart-foundation-models-use-python-sdk.md).
| Anbieter | Modellname | Modell-ID | Aufgabe | License | Fine-tunable | Unterstützte Inferenz-Instanztypen |
| --- | --- | --- | --- | --- | --- | --- |
| 01-Ai | Yi-1.5-34B | huggingface-llm-yi-1-5-34b | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| 01-Ai | Yi-1.5-9B | huggingface-llm-yi-1-5-9b | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g5.16 x groß, ml.g5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß, ml.p4de.24 x groß, ml.p5.48 x groß |
| Hxt | Lite Lama 460M 1T | huggingface-llm-ahxt-litellama-460m-1t | Textgenerierung | mit | Nein | ml.g5.2xlarge |
| Ai-Forever | Multilingual GPT | huggingface-llm-ai-forever-mgpt | Textgenerierung | Apache 2.0 | Nein | ml.g5.2xlarge |
| Ai Singapur | Llama3 8B v2.1 Anleitung SEA-Lion | huggingface-llm-llama3-8b-sealionv21-instruct | Textgenerierung | Llama3 | Nein | ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d. 24 x groß, ml.p 5,48 x groß |
| Aisingapur | SEA-LION 3B | huggingface-llm-sealion-3b | Textgenerierung | mit | Nein | ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.p 3,8 x groß |
| Ai Singapur | SEA-LION 7B | huggingface-llm-sealion-7b | Textgenerierung | mit | Nein | ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Ai Singapur | SEA-LION 7B anweisen | huggingface-llm-sealion-7b-instruct | Textgenerierung | mit | Nein | ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Alibaba-Nlp | Alibaba-NLP get- Qwen2-7B-instruct | huggingface-textembedding-gte-qwen2-7b-instruct | Einbettung von Text | Apache-2.0 | Nein | ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß |
| Allenai | Olmo-3-7B-Instruct | huggingface-textgeneration-olmo-3-7b-instruct | Textgenerierung | Apache 2.0 | Nein | ml.g6e.24xlarge |
| Amazon | Chronos 2 | pytorch-forecasting-chronos-2 | Zeitreihenprognosen | Apache 2.0 | Nein | ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.xgroß, ml.g5,2 x groß, ml.g5.xgroß, ml.g5.xgroß, ml.g6,2 x groß, ml.g6,2 x groß, ml.g6e.xgroß, ml.m5,2 x groß, ml.g6e.xgroß, ml.m5,2 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5,x groß |
| Amazon | Falcon Lite | huggingface-llm-amazon-falconlite | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß |
| Amazon | Falcon Lite 2 | huggingface-llm-amazon-falconlite2 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß |
| Amazon | Mistral Lite | huggingface-llm-amazon-mistrallite | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.2x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Autogluon | Chronos-Bolt (Basis) | autogluon-forecasting-chronos-bolt-base | Zeitreihenprognosen | Apache 2.0 | Nein | ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.xgroß, ml.p3,2 x groß |
| Autogluon | Chronos-Bolt (Klein) | autogluon-forecasting-chronos-bolt-small | Zeitreihenprognosen | Apache 2.0 | Nein | ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.xgroß, ml.p3,2 x groß |
| Autogluon | Chronos-T5 (Basis) | autogluon-forecasting-chronos-t5-base | Zeitreihenprognosen | Apache 2.0 | Nein | ml.g4dn.2 x groß, ml.g4dn. 4 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.p 3,2 x groß |
| Autogluon | Chronos-T5 (Groß) | autogluon-forecasting-chronos-t5-large | Zeitreihenprognosen | Apache 2.0 | Nein | ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß |
| Autogluon | Chronos-T5 (Klein) | autogluon-forecasting-chronos-t5-small | Zeitreihenprognosen | Apache 2.0 | Nein | ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß |
| Baai | BAAI bge-base-en-v1.5 | huggingface-textembedding-bge-base-en-v1-5 | Einbettung von Text | MIT | Nein | ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß |
| Baai | BGE Base De | huggingface-sentencesimilarity-bge-base-en | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Baai | BGE Base De V1.5 | huggingface-sentencesimilarity-bge-base-en-v1-5 | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Baai | BGE Großes Ende | huggingface-sentencesimilarity-bge-large-en | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Baai | BGE Großes Ende V1.5 | huggingface-sentencesimilarity-bge-large-en-v1-5 | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Baai | GROSS 3 M | huggingface-sentencesimilarity-bge-m3 | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Baai | BGE Kleines Ende | huggingface-sentencesimilarity-bge-small-en | Satzähnlichkeit | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Baai | BGE Kleines Ende V1.5 | huggingface-sentencesimilarity-bge-small-en-v1-5 | Satzähnlichkeit | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Berkeley-Nest | Starling LM 7B Alpha | huggingface-llm-berkeley-nest-starling-lm-7b-alpha | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß |
| Bharatgenai | Param2-17B-A2.4B-Thinking | huggingface-llm-param2-17b-a2-4b-thinking | Textgenerierung | Nicht zutreffend | Nein | ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß |
| Großer Code | StarCoder | huggingface-llm-starcoder | Textgenerierung | Bigcode-OpenRail-M | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Großer Code | StarCoderBase | huggingface-llm-starcoderbase | Textgenerierung | Bigcode-OpenRail-M | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Große Wissenschaft | Bloom 1b1 | huggingface-textgeneration-bloom-1b1 | Textgenerierung | BigScience-Bloom-Rail-1.0 | Nein | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß |
| Große Wissenschaft | Bloom 3B | huggingface-textgeneration1-bloom-3b | Textgenerierung | BigScience-Bloom-Rail-1.0 | Ja | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß |
| Große Wissenschaft | Bloom 7B1 | huggingface-textgeneration1-bloom-7b1 | Textgenerierung | BigScience-Bloom-Rail-1.0 | Ja | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß |
| Große Wissenschaft | Bloomz 1b7 | huggingface-textgeneration-bloomz-1b7 | Textgenerierung | BigScience-Bloom-Rail-1.0 | Nein | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß |
| Große Wissenschaft | BloomZ 7B1 FP16 | huggingface-textgeneration1-bloomz-7b1-fp16 | Textgenerierung | BigScience-Bloom-Rail-1.0 | Ja | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß |
| Bingu | Bingsu meine koreanische stabile Diffusion v1 5 | huggingface-txt2img-bingsu-my-korean-stable-diffusion-v1-5 | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß |
| Black-Forest-Labs | Black Forest Labs [schnell] FLUX.1 | huggingface-txt2img-black-forest-labs-flux-1-schnell | Text-to-Image | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß, ml.p5.48x groß |
| Black-Forest-Labs | FLUX.2-Klein-Base-4B | huggingface-img2img-flux-2-klein-base-4b | Image-Text-to-Image | Apache-2.0 | Nein | ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.12 x groß, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß |
| Kognitive Berechnungen | Dolphin 2.2.1 Mistral 7B | huggingface-llm-dolphin-2-2-1-mistral-7b | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß |
| Kognitive Berechnungen | Dolphin 2.5 Mixtral 8 7B | huggingface-llm-dolphin-2-5-mixtral-8x7b | Textgenerierung | Apache 2.0 | Nein | ml.g5.48xlarge |
| Kognitive Berechnungen | Dolphin 2.7 Mixtral 8 7B | huggingface-llm-dolphin-2-7-mixtral-8x7b | Textgenerierung | Apache 2.0 | Nein | ml.g5.48xlarge |
| Kognitive Berechnungen | Dolphin 2.9 Lama 3 8b | huggingface-llm-cognitive-dolphin-29-llama3-8b | Textgenerierung | andere | Nein | ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß |
| Cohereforai | Aya 101 | huggingface-llm-aya-101 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Cross-Encoder | Cross-Encoder Nil Deberta Base | huggingface-zstc-cross-encoder-nli-deberta-base | Zero-Shot Einstufung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Cross-Encoder | Cross-Encoder Nil Distilroberta Base | huggingface-zstc-cross-encoder-nli-distilroberta-base | Zero-Shot Einstufung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Cross-Encoder | Kreuzkodierer Nli MiniLM2 L6 H768 | huggingface-zstc-cross-encoder-nli-minilm2-l6-h768 | Zero-Shot Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Cross-Encoder | Cross-Encoder Nil Roberta Basse | huggingface-zstc-cross-encoder-nli-roberta-base | Zero-Shot Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Cyberagent | CyberAgentLM2-7B-Chat (CALM2-7B-Chat) | huggingface-llm-calm2-7b-chat-bf16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.12x groß, ml.g5.24 x groß, ml.g5.2x groß, ml.g5.4x groß, ml.g5.x groß |
| Databricks | DBRX Base | huggingface-llm-dbrx-base | Textgenerierung | databricks-open-model | Nein | ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge |
| Databricks | DBRX Instruct | huggingface-llm-dbrx-instruct | Textgenerierung | databricks-open-model | Nein | ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge |
| Databricks | Dolly V2 12b BF16 | huggingface-textgeneration-dolly-v2-12b-bf16 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Databricks | Dolly V2 3b BF16 | huggingface-textgeneration-dolly-v2-3b-bf16 | Textgenerierung | Apache 2.0 | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Deepseek-Ai | DeepSeek-OCR | deepseek-vlm-deepseek-ocr | Image-Text-to-Text | mit | Nein | ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.4xgroß, ml.g5dn.xgroß, ml.g5.16xgroß, ml.g5.2xgroß, ml.g5.2xgroß, ml.g5.xgroß, ml.g6.16xgroß, ml.g6.2xgroß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xgroß, ml.p3,2 x groß |
| Deepseek-Ai | DeepSeek-R1 | deepseek-llm-r1 | Textgenerierung | mit | Nein | ml.p5e.48xgroß, ml.p5en.48x groß |
| Deepseek-Ai | DeepSeek-R1-0528 | deepseek-llm-r1-0528 | Textgenerierung | mit | Nein | ml.p5e.48xgroß, ml.p5en.48xgroß |
| Deepseek-Ai | DeepSeek-R1-Distill-Llama-70B | deepseek-llm-r1-distill-llama-70b | Textgenerierung | mit | Ja | Standard: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `djl`(Deep-Java-Bibliotheks-Servercontainer): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge `interact_highest_throughput`
+ `generate_lowest_cost`(Generieren, kostenoptimiert), `generate_lowest_latency` (Generieren, Latenz optimiert), `interact_best_price_performance` (Interact, Balanced), `interact_lowest_cost` (Interact, Kostenoptimiert), `interact_lowest_latency` (Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), `modify_highest_throughput` (Ändern, Durchsatz optimiert), `modify_lowest_cost` (Ändern, kostenoptimiert), `modify_lowest_latency` (Ändern, Latenzoptimiert), `summarize_best_price_performance` (Zusammenfassen, Ausgewogen), `summarize_highest_throughput` (Zusammenfassen, Durchsatz optimiert), `summarize_lowest_cost` (Zusammenfassen, Kostenoptimiert), `summarize_lowest_latency` (Zusammenfassen, Latenzoptimiert): ml.g6e.48xlarge |
| Deepseek-Ai | DeepSeek-R1-Distill-Llama-8B | deepseek-llm-r1-distill-llama-8b | Textgenerierung | mit | Ja | Standard: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `djl`(Deep Java Library Serving Container): ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.24xlarge, ml.g6.48xlarge
+ `generate_best_price_performance`(Generieren, `generate_lowest_cost` Ausgewogen), (Generieren, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert), (Max Context, Durchsatz optimiert): ml.g6.48xlarge, `interact_highest_throughput` ml.g6e.48xlarge, ml.g7e.12xlarge `max_context_highest_throughput`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.2xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, `modify_best_price_performance` ml.g7e.2xlarge `modify_lowest_cost`
+ `interact_lowest_cost`(Interagieren, kostenoptimiert): ml.g6.48xlarge, ml.g6e.xlarge, ml.g7e.2xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert), (Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.12xlarge `modify_lowest_latency`
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge `summarize_best_price_performance` `summarize_lowest_cost`
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): `summarize_lowest_latency` ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge |
| Deepseek-Ai | DeepSeek-R1-Distill-Qwen-1.5B | deepseek-llm-r1-distill-qwen-1-5b | Textgenerierung | mit | Ja | Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert), `interact_lowest_cost` (Zusammenfassen, Ausgewogen), `summarize_best_price_performance` (Zusammenfassen, Kostenoptimiert): ml.g6.2xlarge, `summarize_lowest_cost` ml.g6e.xlarge, ml.g7e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert), (Max Context, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.4xlarge `max_context_lowest_latency`
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge `modify_lowest_cost`
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge |
| Deepseek-Ai | DeepSeek-R1-Distill-Qwen-14B | deepseek-llm-r1-distill-qwen-14b | Textgenerierung | mit | Ja | Standard: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge `interact_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlarge `interact_highest_throughput`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz), (Maximaler Kontext, kostenoptimiert), `max_context_lowest_cost` (Maximaler Kontext, Latenz optimiert), (Zusammenfassen, Ausgewogen), `max_context_lowest_latency` (Zusammenfassen, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, `summarize_best_price_performance` ml.p5en.48xlarge `summarize_highest_throughput`
+ `modify_best_price_performance`(Ändern, Ausgewogen), `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6e.24xlarge, ml.g7e.2xlarge, ml.p5en.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge |
| Deepseek-Ai | DeepSeek-R1-Distill-Qwen-32B | deepseek-llm-r1-distill-qwen-32b | Textgenerierung | mit | Ja | Standard: ml.g6e.48xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge `interact_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlarge `interact_highest_throughput`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge `modify_lowest_cost` `modify_lowest_latency`
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge |
| Deepseek-Ai | DeepSeek-R1-Distill-Qwen-7B | deepseek-llm-r1-distill-qwen-7b | Textgenerierung | mit | Ja | Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge `interact_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlarge
+ `interact_highest_throughput`(Interagieren, Durchsatz optimiert), (Interact, Latenz optimiert), (Maximaler Kontext, Latenz optimiert), `interact_lowest_latency` (Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, `max_context_lowest_latency` ml.g7e.2xlarge `modify_highest_throughput`
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge `summarize_best_price_performance` `summarize_lowest_cost`
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge `modify_lowest_cost` `modify_lowest_latency`
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge |
| Deepseek-Ai | DeepSeek-V3.1 | deepseek-llm-deepseek-v3-1 | Textgenerierung | mit | Nein | ml.p5e.48xlarge, ml.p5en.48xlarge |
| Deepseek-Ai | DeepSeek-V3.2 | deepseek-llm-deepseek-v3-2 | Textgenerierung | mit | Nein | ml.p5en.48x groß |
| Destilbert | Distilbert Basisgehäuse | huggingface-eqa-distilbert-base-cased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | Distilbert Basisgehäuse | huggingface-spc-distilbert-base-cased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | Distilbert Basisgehäuse | huggingface-tc-distilbert-base-cased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | DistilBert Base Mehrsprachiges Gehäuse | huggingface-eqa-distilbert-base-multilingual-cased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | DistilBert Base Mehrsprachiges Gehäuse | huggingface-spc-distilbert-base-multilingual-cased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | DistilBert Base Mehrsprachiges Gehäuse | huggingface-tc-distilbert-base-multilingual-cased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | DistilGPT 2 | huggingface-textgeneration-distilgpt2 | Textgenerierung | Apache 2.0 | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Destilbert | DistilRoBERTa Basis | huggingface-eqa-distilroberta-base | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | DistilRoBERTa Basis | huggingface-tc-distilroberta-base | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | Beantwortete Frage | huggingface-eqa-distilbert-base-uncased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | Klassifizierung von Satzpaaren | huggingface-spc-distilbert-base-uncased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Destilbert | Textklassifizierung | huggingface-tc-distilbert-base-uncased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Elastic | Destilbert Base ohne Ummantelung | huggingface-ner-distilbert-base-uncased-finetuned-conll03-eng | Token-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Elastic | Named Entity Recognition | huggingface-ner-distilbert-base-cased-finetuned-conll03-eng | Token-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Elastic | Named Entity Recognition | huggingface-ner-distilbert-base-cased-finetuned-conll03-english | Token-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Eleutheria | GPT-J 6B | huggingface-textgeneration1-gpt-j-6b | Textgenerierung | Apache 2.0 | Ja | ml.g5.12 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Eleutheria | GPT-Neo 125 M | huggingface-textgeneration1-gpt-neo-125m | Textgenerierung | mit | Ja | ml. g 5,16 x groß, ml. G 5,2 x groß, ml. G 5,8 x groß |
| Eleutheria | gpt-neox-20b | huggingface-textgeneration2-gpt-neox-20b-fp16 | Textgenerierung | Apache-2.0 | Nein | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.p4d.24 x groß |
| Eleutherai | Pythia 160m Dedupliziert | huggingface-llm-eleutherai-pythia-160m-deduped | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß |
| Eleutheria | Pythia 7m Dedupliziert | huggingface-llm-eleutherai-pythia-70m-deduped | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß |
| Elyza | ELYZA-japanese-Llama-2-13b-chat | huggingface-llm-elyza-japanese-llama-2-13b-chat | Textgenerierung | Llama 2 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Elyza | ELYZA-japanese-Llama-2-13b-fast-chat | huggingface-llm-elyza-japanese-llama-2-13b-fast-chat | Textgenerierung | Llama 2 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Elyza | ELYZA-japanese-Llama-2-7b-chat | huggingface-llm-elyza-japanese-llama-2-7b-chat-bf16 | Textgenerierung | Llama 2 | Ja | ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,4 x groß, ml.g 5,x groß |
| Elyza | ELYZA-japanese-Llama-2-7b-fast-chat | huggingface-llm-elyza-japanese-llama-2-7b-fast-chat-bf16 | Textgenerierung | Llama 2 | Ja | ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,4 x groß, ml.g 5,x groß |
| Emercan | Amerikanischer Bert auf türkischer Basis Allenli-Tr | huggingface-zstc-emrecan-bert-base-turkish-cased-allnli-tr | Zero-Shot Einstufung | mit | Nein | ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß |
| Facebook | Zero-Shot Textklassifizierung | huggingface-zstc-facebook-bart-large-mnli | Zero-Shot Klassifizierung | mit | Nein | ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß |
| Facebookai | Roberta Base | huggingface-eqa-roberta-base | Beantwortete Frage | mit | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Facebookai | Roberta Base | huggingface-spc-roberta-base | Fill-Mask | mit | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Facebookai | Roberta Base | huggingface-tc-roberta-base | Textklassifizierung | mit | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Facebookai | Robert A Large | huggingface-eqa-roberta-large | Beantwortete Frage | mit | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Facebookai | Robert A Large | huggingface-spc-roberta-large | Fill-Mask | mit | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Facebookai | Robert A Large | huggingface-tc-roberta-large | Textklassifizierung | mit | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Facebookai | XLM CLM English-German | huggingface-spc-xlm-clm-ende-1024 | Fill-Mask | mit | Ja | ml.c5.2x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2x groß |
| Facebookai | XLM CLM English-German | huggingface-tc-xlm-clm-ende-1024 | Textklassifizierung | mit | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Facebookai | XML MLM 15 XNLI Sprachen | huggingface-spc-xlm-mlm-xnli15-1024 | Fill-Mask | cc-by-nc-4.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Facebookai | XLM MLM English-German | huggingface-spc-xlm-mlm-ende-1024 | Fill-Mask | cc-by-nc-4.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Facebookai | XLM MLM English-German | huggingface-tc-xlm-mlm-ende-1024 | Textklassifizierung | cc-by-nc-4.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Facebookai | XLM MLM English-Romanian | huggingface-spc-xlm-mlm-enro-1024 | Fill-Mask | cc-by-nc-4.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Facebookai | XLM MLM English-Romanian | huggingface-tc-xlm-mlm-enro-1024 | Textklassifizierung | cc-by-nc-4.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Facebookai | XLM MLM TLM 15 XNLI Sprachen | huggingface-spc-xlm-mlm-tlm-xnli15-1024 | Fill-Mask | cc-by-nc-4.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Facebookai | XLM MLM TLM 15 XNLI Sprachen | huggingface-tc-xlm-mlm-tlm-xnli15-1024 | Textklassifizierung | cc-by-nc-4.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Fiktives Vers | Fiktives stabiles Diffusionsmodell BalloonArt | huggingface-txt2img-fictiverse-stable-diffusion-balloonart | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Fiktives Vers | Fiktives stabiles diffusionsmikroskopisches Modell | huggingface-txt2img-fictiverse-stable-diffusion-micro-model | Text-to-Image | offene Schiene | Nein | ml.g4dn.2 x groß, ml.g4dn.xlarge, ml.p3.2 x groß |
| Fiktives Vers | Fiktives stabiles Diffusionsmodell PaperCut | huggingface-txt2img-fictiverse-stable-diffusion-papercut-model | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß |
| Fiktives Vers | Fiktives stabiles Diffusionsmodell VoxelArt | huggingface-txt2img-fictiverse-stable-diffusion-voxelart-model | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Google | Bigbird Pegasus Large Archiv | huggingface-summarization-bigbird-pegasus-large-arxiv | Textzusammenfassung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google | Bigbird Pegasus Large Pubmed | huggingface-summarization-bigbird-pegasus-large-pubmed | Textzusammenfassung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google | Flan-T5 Basis | huggingface-text2text-flan-t5-base | Generierung von Text zu Text | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Google | Flan-T5 Groß | huggingface-text2text-flan-t5-large | Generierung von Text zu Text | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Google | Flan-T5 Klein | huggingface-text2text-flan-t5-small | Generierung von Text zu Text | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Google | Flan-T5 XL | huggingface-text2text-flan-t5-xl | Generierung von Text zu Text | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Google | Flan-T5 XXL | huggingface-text2text-flan-t5-xxl | Generierung von Text zu Text | Apache 2.0 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Google | Gemma 2 27B | huggingface-llm-gemma-2-27b | Textgenerierung | Gemma | Nein | ml. g 5,48 x groß, ml. 4 x 24 x groß |
| Google | Gemma 2 27B Instruct | huggingface-llm-gemma-2-27b-instruct | Textgenerierung | Gemma | Nein | ml. g 5,48 x groß, ml. 4 x 24 x groß |
| Google | Gemma 2 2B | huggingface-llm-gemma-2-2b | Textgenerierung | Gemma | Nein | ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4de. 24 x groß, ml.p 5,48 x groß |
| Google | Gemma 2 2B Instruct | huggingface-llm-gemma-2-2b-instruct | Textgenerierung | gemma | Nein | ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4de. 24 x groß, ml.p 5,48 x groß |
| Google | Gemma 2 9B | huggingface-llm-gemma-2-9b | Textgenerierung | gemma | Nein | ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß |
| Google | Gemma 2 9B Instruct | huggingface-llm-gemma-2-9b-instruct | Textgenerierung | Gemma | Nein | ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß |
| Google | Gemma 3 1B Anleitung | huggingface-llm-gemma-3-1b-instruct | Textgenerierung | Gemma | Nein | ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß |
| Google | Gemma 3 27B Anleitung | huggingface-vlm-gemma-3-27b-instruct | Image-Text-to-Text | Gemma | Nein | ml. g 5,48 x groß, ml. g 6,48 x groß, ml. P4 x 24 x groß, ml x 5,48 x groß |
| Google | Gemma 3 4B Anleitung | huggingface-vlm-gemma-3-4b-instruct | Image-Text-to-Text | Gemma | Nein | ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß |
| Google | gemma-2b | huggingface-llm-gemma-2b | Textgenerierung | Gemma | Ja | Standard: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `max_context_highest_throughput`
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge `interact_lowest_cost` `max_context_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g4dn.2xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Google | gemma-2b-it | huggingface-llm-gemma-2b-instruct | Textgenerierung | Gemma | Ja | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert), `interact_lowest_cost` `max_context_lowest_cost` (Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert), `max_context_highest_throughput` (Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert), `interact_lowest_latency` (Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Google | gemma-4-26b-a4b-it | huggingface-vlm-gemma-4-26b-a4b-it | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), `interact_best_price_performance` (Interagieren, Ausgewogen), `interact_lowest_cost` (Interagieren, Kostenoptimiert), `modify_best_price_performance` (Ändern, Ausgewogen), `modify_lowest_cost` (Ändern, Kostenoptimiert), `summarize_best_price_performance` (Zusammenfassen, Ausgewogen), `summarize_lowest_cost` (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert), (Ändern, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `modify_lowest_latency` `summarize_highest_throughput` |
| Google | gemma-4-31b-it | huggingface-vlm-gemma-4-31b-it | Image-Text-to-Text | Apache-2.0 | Ja | ml. g 6,24 x groß, ml. g 7, 2 x groß |
| Google | gemma-4- E2B-it | huggingface-vlm-gemma-4-e2b-instruct | Image-Text-to-Text | Apache-2.0 | Nein | Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Zusammenfassen, Ausgewogen), `modify_lowest_cost` (Zusammenfassen, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, `summarize_best_price_performance` ml.g7e.2xlarge `summarize_lowest_cost`
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlarge `summarize_lowest_latency` |
| Google | gemma-4-e4b-it | huggingface-vlm-gemma-4-e4b-it | Textgenerierung | Apache 2.0 | Ja | Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), `interact_best_price_performance` (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), `interact_lowest_cost` (Ändern, Ausgewogen), `modify_best_price_performance` (Ändern, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.p5.48xlarge `modify_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.2xlarge, ml.g6e.2xlarge, ml.p5en.48xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.16xlarge, ml.g6e.16xlarge, ml.p5.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.p5.48xlarge `summarize_best_price_performance` `summarize_lowest_cost`
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5.48xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.p5.48xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `summarize_lowest_latency` |
| Google | gemma-7b | huggingface-llm-gemma-7b | Textgenerierung | Gemma | Ja | ml. G 6 E 48 x groß, ml P 4 D 24 x groß, ml P 5 ca. 48 x groß |
| Google | Gemma-7-Bit | huggingface-llm-gemma-7b-instruct | Textgenerierung | Gemma | Ja | Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact`interact_highest_throughput`, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge `interact_lowest_cost` `max_context_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `max_context_highest_throughput`
+ `interact_best_price_performance`(Interaktiv, ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Google-Bert | BERT-Basisgehäuse | huggingface-eqa-bert-base-cased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT-Basisgehäuse | huggingface-spc-bert-base-cased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT-Basisgehäuse | huggingface-tc-bert-base-cased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Base Mehrsprachiges Gehalten | huggingface-eqa-bert-base-multilingual-cased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Base Mehrsprachiges Gehalten | huggingface-spc-bert-base-multilingual-cased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Base Mehrsprachiges Gehalten | huggingface-tc-bert-base-multilingual-cased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Base Mehrsprachig ohne Groß- und Kleinschreibung | huggingface-eqa-bert-base-multilingual-uncased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Base Mehrsprachig ohne Groß- und Kleinschreibung | huggingface-spc-bert-base-multilingual-uncased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Base Mehrsprachig ohne Groß- und Kleinschreibung | huggingface-tc-bert-base-multilingual-uncased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT-Base ohne Hülle | huggingface-eqa-bert-base-uncased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT-Base ohne Hülle | huggingface-spc-bert-base-uncased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT-Base ohne Hülle | huggingface-tc-bert-base-uncased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Großkoffer | huggingface-eqa-bert-large-cased | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Großkoffer | huggingface-spc-bert-large-cased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Großkoffer | huggingface-tc-bert-large-cased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Maskierung ganzer Wörter in Großbuchstaben | huggingface-eqa-bert-large-cased-whole-word-masking | Beantwortete Frage | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Maskierung ganzer Wörter in Großbuchstaben | huggingface-spc-bert-large-cased-whole-word-masking | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Large ohne Hülle | huggingface-spc-bert-large-uncased | Fill-Mask | Apache 2.0 | Ja | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Google-Bert | BERT Large ohne Hülle | huggingface-tc-bert-large-uncased | Textklassifizierung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | BERT Große Ganzwortmaskierung ohne Groß- und Kleinschreibung | huggingface-spc-bert-large-uncased-whole-word-masking | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-Bert | Maske füllen | huggingface-fillmask-bert-base-uncased | Fill-Mask | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-T5 | Maschinelle Übersetzung | huggingface-translation-t5-small | Übersetzung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-T5 | t5 Base en de | huggingface-translation-t5-base | Übersetzung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Google-T5 | t5 Large, Ende de | huggingface-translation-t5-large | Übersetzung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Gradientai | Llama-3 8B Gradient, Instruktor 1048k | huggingface-llm-llama-3-8b-instruct-gradient | Textgenerierung | Ich rufe 3 an | Nein | ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß |
| Gradientai | Llama-3 8B Gradient, Instruktor 262k | huggingface-llm-gradientai-llama-3-8B-instruct-262k | Textgenerierung | Ich rufe 3 an | Nein | ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß |
| Helsinki-Nlp | Helsinki opus en es | huggingface-translation-opus-mt-en-es | Übersetzung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Helsinki-Nlp | Helsinki, Opus en VI | huggingface-translation-opus-mt-en-vi | Übersetzung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Helsinki-Nlp | Helsinki opus mul en | huggingface-translation-opus-mt-mul-en | Übersetzung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Umarmen Sie das Gesicht h4 | HuggingFaceH4 Zephyr-Orpo-141b- A35b-v0.1 | huggingface-llm-huggingfaceh4-zephyr-orpo-141b-a35b-v01 | Textgenerierung | Apache 2.0 | Nein | ml.g5.48x groß, ml.p4d.24x groß |
| Umarme das Gesicht H4 | Star Chat Alpha | huggingface-llm-huggingfaceh4-starchat-alpha | Textgenerierung | bigcode-openrail-m | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß |
| Umarmt das Gesicht H4 | Star Chat Beta | huggingface-llm-huggingfaceh4-starchat-beta | Textgenerierung | bigcode-openrail-m | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Umarmt das Gesicht H4 | Zephyr 7B Beta | huggingface-llm-huggingfaceh4-zephyr-7b-beta | Textgenerierung | mit | Nein | ml.g5.12x groß, ml.g5,24x groß, ml.g5,2 x groß, ml.g5,48x groß, ml.p4d.24x groß |
| Ibm | Qualitätskontrollierte Generierung von Paraphrasen | huggingface-text2text-qcpg-sentences | Generierung von Text zu Text | Apache 2.0 | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Idea-Ccnl | IDEA CCNL Taiyi Stable Diffusion 1B Chinesisch EN v0.1 | huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-en-v01 | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Idea-Ccnl | IDEA CCNL Taiyi Stable Diffusion 1B Chinesisch v0.1 | huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-v0-1 | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| In Float | E5-Sockel | huggingface-sentencesimilarity-e5-base | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Infloat | E5 Basis V2 | huggingface-sentencesimilarity-e5-base-v2 | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Infloat | E5 Groß V2 | huggingface-sentencesimilarity-e5-large-v2 | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Infloat | Mehrsprachige E5-Basis | huggingface-sentencesimilarity-multilingual-e5-base | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Infloat | Mehrsprachig E5 Large | huggingface-sentencesimilarity-multilingual-e5-large | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Langboot | Langboat Guohua Diffusion | huggingface-txt2img-langboat-guohua-diffusion | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß |
| Licht im Inneren | Lighteternal Nli Xlm R Griechisch | huggingface-zstc-lighteternal-nli-xlm-r-greek | Zero-Shot Einstufung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Licht auf Nai | LightOnOCR-2-1B | huggingface-vlm-lightonai-lightonocr-2-1b | Image-Text-to-Text | Apache-2.0 | Nein | ml.g6.2xlarge |
| Meta | Llama-2-7b-hf | meta-textgeneration-llama-2-7b | Textgenerierung | Lama 2 | Ja | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.4xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Generieren, Latenz optimiert), `generate_lowest_latency` (Maximaler Kontext, optimierter Durchsatz), `max_context_highest_throughput` (Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `max_context_lowest_latency`
+ `interact_best_price_performance`(Interagieren`interact_lowest_cost`, Ausgewogen), (Interagieren, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.2xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge |
| Meta | Llama-3.1-70B-Instruct | meta-textgeneration-llama-3-1-70b-instruct | Textgenerierung | Allama 3.1 | Ja | Standard: ml.g6e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Generieren, Latenz optimiert): ml.p4d.24xlarge`generate_lowest_latency`, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge `interact_best_price_performance` `interact_lowest_cost`
+ `interact_highest_throughput`(Interact, Durchsatz optimiert), (Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge `interact_lowest_latency`
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert), `modify_highest_throughput` (Ändern, Latenzoptimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `modify_lowest_cost` `modify_lowest_latency`
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), (Zusammenfassen, Latenzoptimiert): `summarize_highest_throughput` ml.p5en.48xlarge `summarize_lowest_cost` `summarize_lowest_latency` |
| Meta | Llama-3.1-8B-Instruct | meta-textgeneration-llama-3-1-8b-instruct | Textgenerierung | Allama 3.1 | Ja | Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), `max_context_highest_throughput` (Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert), `modify_highest_throughput` (Ändern, optimierter Durchsatz), `modify_lowest_latency` (Ändern, Latenz optimiert), `summarize_highest_throughput` (Zusammenfassen, optimiert für Latenz), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interaktiv, ausgewogen): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.2xlarge
+ `interact_lowest_cost`(Interact, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
+ `modify_lowest_cost`(Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge |
| Meta | Llama-3.2-1B | meta-textgeneration-llama-3-2-1b | Textgenerierung | Lama 3.2 | Ja | Standard: ml.g4dn.12xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `interact_highest_throughput`
+ `generate_lowest_cost`(Generieren, kostenoptimiert): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)`interact_lowest_cost`: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6.xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g5.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.8xlarge, ml.g6e.2xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen`modify_lowest_cost`), (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g5.2xlarge, ml.g6e.8xlarge, ml.p5en.48xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.xlarge, ml.g6.24xlarge, ml.g6e.xlarge `summarize_lowest_cost`
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6e.4xlarge, ml.p3.16xlarge, ml.p5en.48xlarge |
| Meta | Llama-3.2-1B-Instruct | meta-textgeneration-llama-3-2-1b-instruct | Textgenerierung | Allama 3.2 | Ja | Standard: ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz), `max_context_highest_throughput` (Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `max_context_lowest_latency`
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.2xlarge `modify_best_price_performance` `modify_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge
+ `interact_lowest_cost`(Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.8xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.8xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6e.xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.8xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.xlarge, ml.g6.xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p5en.48xlarge |
| Meta | Llama-3.2-3B | meta-textgeneration-llama-3-2-3b | Textgenerierung | Allama 3.2 | Ja | Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.24xlarge, ml.p3.8xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge `interact_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6e.8xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interaktiv, ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.p3.16xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `summarize_lowest_latency`
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.2xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
+ `modify_lowest_cost`(Ändern, kostenoptimiert): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p5.48xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge |
| Meta | Llama-3.2-3B-Instruct | meta-textgeneration-llama-3-2-3b-instruct | Textgenerierung | Allama 3.2 | Ja | Standard: ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausbalanciert), `interact_best_price_performance` (Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), `max_context_highest_throughput` (Maximaler Kontext, Durchsatz optimiert), `summarize_highest_throughput` (Zusammenfassen, Durchsatz optimiert), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), `interact_lowest_cost` (Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `modify_lowest_cost`(Ändern, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge |
| Meta | Llama-Guard-3-1B | meta-textgeneration-llama-guard-3-1b | Textgenerierung | Allama 3.2 | Nein | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.16 x groß, ml.g6e 24x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß, ml.p4d.24xgroß |
| Meta | Llama-Guard-3-8B | meta-textgeneration-llama-guard-3-8b | Textgenerierung | Lama3.1 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.g6.24x groß, ml.g6.48 x groß, ml.g6e.12x groß, ml.g6e.24xgroß, ml.p4d.24xgroß |
| Meta | Meta Code Llama 13B | meta-textgeneration-llama-codellama-13b | Textgenerierung | Lama 2 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß |
| Meta | Meta Code Llama 13B Instruct | meta-textgeneration-llama-codellama-13b-instruct | Textgenerierung | Lama 2 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß |
| Meta | Meta Code Llama 13B Python | meta-textgeneration-llama-codellama-13b-python | Textgenerierung | Lama 2 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß |
| Meta | Meta Code Llama 34B | meta-textgeneration-llama-codellama-34b | Textgenerierung | Lama 2 | Ja | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 34B Instruct | meta-textgeneration-llama-codellama-34b-instruct | Textgenerierung | llama2 | Nein | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 34B Python | meta-textgeneration-llama-codellama-34b-python | Textgenerierung | llama2 | Ja | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 70B | meta-textgeneration-llama-codellama-70b | Textgenerierung | llama2 | Ja | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 70B Instruct | meta-textgeneration-llama-codellama-70b-instruct | Textgenerierung | llama2 | Nein | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 70B Neuron | meta-textgenerationneuron-llama-codellama-70b | Textgenerierung | llama2 | Nein | ml.inf 2,48 x groß |
| Meta | Meta Code Llama 70B Python | meta-textgeneration-llama-codellama-70b-python | Textgenerierung | Lama 2 | Ja | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 7B | meta-textgeneration-llama-codellama-7b | Textgenerierung | llama2 | Ja | Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6,2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi-optimized`(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 7B Instruct | meta-textgeneration-llama-codellama-7b-instruct | Textgenerierung | Lama 2 | Nein | Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi-optimized`(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 7B Neuron | meta-textgenerationneuron-llama-codellama-7b | Textgenerierung | Lama 2 | Nein | ml.inf2.8 x groß, ml.inf 2.x groß |
| Meta | Meta Code Llama 7B Python | meta-textgeneration-llama-codellama-7b-python | Textgenerierung | Lama 2 | Ja | Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi-optimized`(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge |
| Meta | Meta Code Llama 7B Python Neuron | meta-textgenerationneuron-llama-codellama-7b-python | Textgenerierung | Lama 2 | Nein | ml.inf2.8 x groß, ml.inf 2.x groß |
| Meta | Meta Llama 2 13B | meta-textgeneration-llama-2-13b | Textgenerierung | Lama 2 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß, ml.p5.48x groß |
| Meta | Meta Llama 2 13B Chat | meta-textgeneration-llama-2-13b-f | Textgenerierung | Lama 2 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß, ml.p5.48x groß |
| Meta | Meta Llama 2 13B Chat Neuron | meta-textgenerationneuron-llama-2-13b-f | Textgenerierung | Lama 2 | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß |
| Meta | Meta Llama 2 13B Neuron | meta-textgenerationneuron-llama-2-13b | Textgenerierung | Lama 2 | Ja | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß |
| Meta | Meta Llama 2 70B | meta-textgeneration-llama-2-70b | Textgenerierung | Lama 2 | Ja | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge |
| Meta | Meta Llama 2 70B Chat | meta-textgeneration-llama-2-70b-f | Textgenerierung | Lama2 | Ja | Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container), `lmi-optimized` (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge |
| Meta | Meta Llama 2 70B Chat Neuron | meta-textgenerationneuron-llama-2-70b-f | Textgenerierung | Lama2 | Nein | ml.inf 2,48 x groß |
| Meta | Meta Llama 2 70B Neuron | meta-textgenerationneuron-llama-2-70b | Textgenerierung | Lama 2 | Nein | ml.inf 2,48 x groß |
| Meta | Meta Llama 2 7B Chat | meta-textgeneration-llama-2-7b-f | Textgenerierung | Lama 2 | Ja | Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi-optimized`(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
+ `neuron`(AWS Inferentia- und Trainium-Beschleuniger): ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge |
| Meta | Meta Llama 2 7B Chat Neuron | meta-textgenerationneuron-llama-2-7b-f | Textgenerierung | Lama2 | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß |
| Meta | Meta Llama 2 7B Neuron | meta-textgenerationneuron-llama-2-7b | Textgenerierung | Lama 2 | Ja | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß |
| Meta | Meta Llama 3 1 8B Neuron | meta-textgenerationneuron-llama-3-1-8b | Textgenerierung | Lama 3.1 | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß |
| Meta | Metalllama 30 70B | meta-textgeneration-llama-3-70b | Textgenerierung | Lama 3 | Ja | ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß |
| Meta | Meta Llama 3 70B Instruct | meta-textgeneration-llama-3-70b-instruct | Textgenerierung | Lama 3 | Ja | ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß |
| Meta | Meta Llama 3 70B Instruct Neuron | meta-textgenerationneuron-llama-3-70b-instruct | Textgenerierung | Lama 3 | Nein | ml.trn1.32xlarge |
| Meta | Meta Llama 3 70B Neuron | meta-textgenerationneuron-llama-3-70b | Textgenerierung | Llama3 | Nein | ml.trn1.32xlarge |
| Meta | Meta Llama 3 8B Instruct | meta-textgeneration-llama-3-8b-instruct | Textgenerierung | Llama3 | Ja | ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.p4D 24 x groß, ml.p 5,48 x groß |
| Meta | Meta Llama 3 8B Instruct Neuron | meta-textgenerationneuron-llama-3-8b-instruct | Textgenerierung | Lama 3 | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß |
| Meta | Meta Llama 3 8B Neuron | meta-textgenerationneuron-llama-3-8b | Textgenerierung | Lama 3 | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß |
| Meta | Meta Llama 3.1 405B FP8 | meta-textgeneration-llama-3-1-405b-fp8 | Textgenerierung | Lama 3.1 | Ja | ml.p4de.24x groß, ml.p5.48x groß |
| Meta | Meta Llama 3.1 405B Instruct FP8 | meta-textgeneration-llama-3-1-405b-instruct-fp8 | Textgenerierung | Lama 3.1 | Ja | ml.p4de.24x groß, ml.p5.48x groß |
| Meta | Meta Lama 3.1 70B | meta-textgeneration-llama-3-1-70b | Textgenerierung | Lama 3.1 | Ja | ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß |
| Meta | Meta Llama 3.1 70B Instruct Neuron | meta-textgenerationneuron-llama-3-1-70b-instruct | Textgenerierung | Lama 3.1 | Nein | ml.inf 2,48 x groß, ml.trn 1.32 x groß, ml.trn 1 n.32 x groß |
| Meta | Meta Llama 3.1 70B Neuron | meta-textgenerationneuron-llama-3-1-70b | Textgenerierung | Lama 3.1 | Nein | ml.inf 2,48 x groß, ml.trn 1.32 x groß, ml.trn 1 n.32 x groß |
| Meta | Meta Lama 3.1 8B | meta-textgeneration-llama-3-1-8b | Textgenerierung | Lama 3.1 | Ja | ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,12 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d.24 x groß, ml. P 5,48 x groß |
| Meta | Meta Llama 3.1 8B Instruct Neuron | meta-textgenerationneuron-llama-3-1-8b-instruct | Textgenerierung | Lama3.1 | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß |
| Meta | Meta Lama 3.2 11B Vision | meta-vlm-llama-3-2-11b-vision | Image-Text-to-Text | Lama 3.2 | Ja | ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß |
| Meta | Meta Lama 3.2 11B Sehanleitung | meta-vlm-llama-3-2-11b-vision-instruct | Image-Text-to-Text | Llama 3.2 | Ja | ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß |
| Meta | Meta Lama 3.2 1B Instruktionsneuron | meta-textgenerationneuron-llama-3-2-1b-instruct | Textgenerierung | Lama 3.2 | Nein | ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß |
| Meta | Meta Lama 3.2 1B Neuron | meta-textgenerationneuron-llama-3-2-1b | Textgenerierung | Lama 3.2 | Nein | ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß |
| Meta | Meta Lama 3.2 3B Instruktions-Neuron | meta-textgenerationneuron-llama-3-2-3b-instruct | Textgenerierung | Lama 3.2 | Nein | ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß |
| Meta | Meta Lama 3.2 3B Neuron | meta-textgenerationneuron-llama-3-2-3b | Textgenerierung | Lama 3.2 | Nein | ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß |
| Meta | Meta Lama 3.2 90B Vision | meta-vlm-llama-3-2-90b-vision | Image-Text-to-Text | Lama 3.2 | Ja | ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß |
| Meta | Meta Llama 3.2 90B Sehanleitung | meta-vlm-llama-3-2-90b-vision-instruct | Image-Text-to-Text | Llama 3.2 | Ja | ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß |
| Meta | Meta Llama 3.3 70B Instruct | meta-textgeneration-llama-3-3-70b-instruct | Textgenerierung | Lama 3.3 | Ja | Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi-optimized`(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.16xlarge, ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge |
| Meta | Meta Lama 4 Maverick 17B 128E FP8 | meta-vlm-llama-4-maverick-17b-128e-instruct-fp8 | Image-Text-to-Text | Ruf 4 an | Nein | ml.p5e.48x groß, ml.p5en.48x groß |
| Meta | Metal Lama 4 Maverick 17B 128E Anleitung | meta-vlm-llama-4-maverick-17b-128e-instruct | Image-Text-to-Text | Llama 4 | Nein | ml.p5e.48x groß, ml.p5en.48x groß |
| Meta | Meta Lama 4 Scout 17B 16E Anleitung | meta-vlm-llama-4-scout-17b-16e-instruct | Image-Text-to-Text | Llama 4 | Ja | ml.g6e.48x groß, ml.p5.48x groß, ml.p5en.48x groß |
| Meta | Meta Lama Guard 3 11B Vision | meta-vlm-llama-guard-3-11b-vision | Image-Text-to-Text | Lama 3.2 | Nein | ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß |
| Meta | Metal Lama Guard 3 1B Neuron | meta-textgenerationneuron-llama-guard-3-1b | Textgenerierung | Lama 3.2 | Nein | ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß |
| Meta | Meta Lama Guard 3 8B Neuron | meta-textgenerationneuron-llama-guard-3-8b | Textgenerierung | Lama 3.1 | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß |
| Meta | Lama Guard aus Metall, 7B | meta-textgeneration-llama-guard-7b | Textgenerierung | Lama 2 | Nein | ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d. 24 x groß |
| Meta | Meta Lama Prompt Guard, 86 m | meta-tc-llama-prompt-guard-86m | Textklassifizierung | Llama 3.1 | Nein | ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß |
| Meta | Meta SAM 2.1 Hiera Base Plus | meta-vs-sam-2-1-hiera-base-plus | Segmentierung von Bildern | Apache 2.0 | Nein | ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß |
| Meta | Metall SAM 2.1 Hiera Large | meta-vs-sam-2-1-hiera-large | Segmentierung von Bildern | Apache 2.0 | Nein | ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß |
| Meta | Metall SAM 2.1 Hiera, klein | meta-vs-sam-2-1-hiera-small | Segmentierung von Bildern | Apache 2.0 | Nein | ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß |
| Meta | Metal SAM 2.1 Hierra Tiny | meta-vs-sam-2-1-hiera-tiny | Segmentierung von Bildern | Apache 2.0 | Nein | ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß |
| Meta | Meta-Llama-3-8B | meta-textgeneration-llama-3-8b | Textgenerierung | Lama 3 | Ja | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p3.8xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert): ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `interact_highest_throughput`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)`interact_lowest_cost`: ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Microsoft | Phi-2 | huggingface-llm-phi-2 | Textgenerierung | mit | Nein | ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4 de, 24 x groß, ml.p 5,48 x groß |
| Microsoft | Phi-3-Mini-128K-Instruct | huggingface-llm-phi-3-mini-128k-instruct | Textgenerierung | mit | Nein | ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24x groß, ml.p4de. 24 x groß, ml.p 5.48 x groß |
| Microsoft | Phi-3-mini-4k-instruct | huggingface-llm-phi-3-mini-4k-instruct | Textgenerierung | mit | Nein | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausbalanciert), `interact_best_price_performance` (Interagieren, Ausgewogen): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge `interact_lowest_cost` `max_context_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Microsoft | Phi-3.5-mini-instruct | huggingface-llm-phi-3-5-mini-instruct | Textgenerierung | mit | Nein | ml.g5.48xlarge, ml.p4d.24xlarge |
| Microsoft | Phi-4-mini-instruct | huggingface-llm-phi-4-mini-instruct | Textgenerierung | Apache-2.0 | Nein | Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), `interact_best_price_performance` (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), `interact_lowest_cost` `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), (Ändern, Durchsatz optimiert), `modify_highest_throughput` (Ändern, Latenz optimiert), `modify_lowest_latency` (Zusammenfassen, Durchsatz optimiert), `summarize_highest_throughput` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, `summarize_lowest_latency` ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.8xlarge, ml.g7e.8xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.p5.48xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge `summarize_lowest_cost`
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge |
| Microsoft | Tabelle: Erkennung von Transformatoren | huggingface-od-microsoft-table-transformer-detection | Objekterkennung | mit | Nein | ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6,4 x groß, ml.g6.x groß, ml.g6e.2 x groß, ml.g6e.x groß |
| Minimaxi | MiniMax-M2 | huggingface-llm-minimax-m2 | Textgenerierung | andere | Nein | ml.p4de.24xlarge |
| Minimaxai | MiniMax-M2.1 | huggingface-llm-minimax-m2-1 | Textgenerierung | andere | Nein | ml.p4de.24x groß, ml.p5.48x groß |
| Minimaxai | MiniMax-M2.5 | huggingface-llm-minimax-m2-5 | Textgenerierung | andere | Nein | ml.p5.48xlarge |
| Minimaxai | MiniMax-M2.7 | huggingface-llm-minimax-m2-7 | Textgenerierung | andere | Nein | Standard: ml.p5en.48xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_highest_throughput` (Generieren, Durchsatz optimiert), `generate_lowest_cost` (Generieren, Kostenoptimiert), `generate_lowest_latency` (Generieren, Latenzoptimiert), `interact_best_price_performance` (Interagieren, `interact_highest_throughput` Ausgewogen), `interact_lowest_cost` (Interagieren, Durchsatzoptimiert), `interact_lowest_latency` (Interagieren, Kostenoptimiert), `summarize_best_price_performance` (Interagieren, Latenzoptimiert), `summarize_highest_throughput` (Zusammenfassen, Ausgewogen), `summarize_lowest_cost` (Zusammenfassen, optimiert für Durchsatz), `summarize_lowest_latency` (Zusammenfassen, Latenzoptimiert): ml.g7e.48xlarge, .p5. 48 x groß
+ `modify_best_price_performance`(Ändern, Ausgewogen), `modify_highest_throughput` (Ändern, Durchsatz optimiert), `modify_lowest_cost` (Ändern, Kostenoptimiert), `modify_lowest_latency` (Ändern, Latenzoptimiert): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge |
| Mistralia | Ministral-3-14B-Instruct-2512 | huggingface-llm-ministral-3-14b-instruct-2512 | Textgenerierung | Apache-2.0 | Nein | Standard: ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert): ml.g5.12xlarge, ml.g6e.48xlarge, ml.p5.4xlarge `interact_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `generate_lowest_latency` (Generieren, Latenz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g5.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert), `modify_highest_throughput` (Ändern, Latenzoptimiert): ml.p5.48xlarge, ml.p5.4xlarge, `modify_lowest_cost` ml.p5en.48xlarge `modify_lowest_latency` |
| Mistralia | Mistral 7B Instruct Neuron | huggingface-llmneuron-mistral-7b-instruct | Textgenerierung | Apache 2.0 | Nein | ml.inf2.8 x groß, ml.inf 2.x groß |
| Mistralia | Mistral 7B Neuron | huggingface-llmneuron-mistral-7b | Textgenerierung | Apache 2.0 | Nein | ml.inf2.8 x groß, ml.inf 2.x groß |
| Mistralia | Mistral Nemo Base 2407 | huggingface-llm-mistral-nemo-base-2407 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß |
| Mistralia | Mistral Nemo Instruct 2407 | huggingface-llm-mistral-nemo-instruct-2407 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß |
| Mistralia | Mistral Pixtral-12B-2409 | huggingface-vlm-mistral-pixtral-12b-2409 | Image-Text-to-Text | Apache 2.0 | Nein | ml.g6.12x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24x groß, ml.p5.48x groß |
| Mistralia | Mistral-7B-Instruct-v0.2 | huggingface-llm-mistral-7b-instruct | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlarge `interact_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz), (Maximaler Kontext, optimierte Latenz), (Zusammenfassen, optimierter Durchsatz), `max_context_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `summarize_highest_throughput` `summarize_lowest_latency`
+ `max_context_lowest_cost`(Maximaler Kontext, Kostenoptimiert), `modify_best_price_performance` (Ändern, Ausgewogen), `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.p4d.24xlarge |
| Mistralia | Mistral-7B-Instruct-v0.3 | huggingface-llm-mistral-7b-instruct-v3 | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlarge `interact_best_price_performance` `interact_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert), `modify_highest_throughput` (Ändern, optimierter Durchsatz), `modify_lowest_latency` (Ändern, Latenz optimiert), `summarize_highest_throughput` (Zusammenfassen, optimierter Durchsatz), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, Kostenoptimiert), `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge |
| Mistralia | Mistral-7B-Instruct-v0.3 | huggingface-llm-mistral-7b-v3 | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge `interact_best_price_performance` `interact_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert), `summarize_highest_throughput` (Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `summarize_lowest_latency`
+ `interact_highest_throughput`(Interagieren, Durchsatz optimiert), `max_context_highest_throughput` (Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert), `modify_highest_throughput` (Ändern, optimierter Durchsatz), `modify_lowest_latency` (Ändern, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Max Context, Kostenoptimiert), (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge `modify_lowest_cost`
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge |
| Mistralia | Mistral-7B-v0.1 | huggingface-llm-mistral-7b | Textgenerierung | Apache 2.0 | Ja | Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Kostenoptimiert), `interact_lowest_cost` `max_context_lowest_cost` (Maximaler Kontext, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen), (Ändern, Kostenoptimiert)`modify_lowest_cost`: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p3.16xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert), (Ändern, optimierter Durchsatz), `modify_highest_throughput` (Ändern, Latenz optimiert): `modify_lowest_latency` ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g5.12xlarge, ml.g6.12xlarge, ml.p5.48xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), `summarize_highest_throughput` (Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `summarize_lowest_cost` `summarize_lowest_latency` |
| Mistralia | Mistral-Small-24B-Instruct-2501 | huggingface-llm-mistral-small-24B-Instruct-2501 | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausbalanciert), `interact_best_price_performance` (Interagieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), `interact_lowest_latency` (Interact, Latenz optimiert), `max_context_highest_throughput` (Max Context, Durchsatz optimiert), `modify_highest_throughput` (Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, Kostenoptimiert), `interact_lowest_cost` (Interagieren, Kostenoptimiert), `max_context_lowest_cost` (Maximaler Kontext, Kostenoptimiert), `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert), (Ändern, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `modify_lowest_latency`
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), `summarize_highest_throughput` (Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `summarize_lowest_cost` `summarize_lowest_latency` |
| Mistralia | Mistral-Small-3.1-24B-Base-2503 | huggingface-vlm-mistral-small-3-1-24b-base-2503 | Image-Text-to-Text | Apache 2.0 | Nein | ml.g6.12 x groß, ml.g6.16 x groß, ml.g6.24 x groß, ml.g6.48 x groß, ml.g6e.12 x groß |
| Mistralia | Mistral-Small-3.2-24B-Instruct-2506 | huggingface-vlm-mistral-small-3-2-24b-instruct-2506 | Image-Text-to-Text | Apache 2.0 | Nein | ml.g6.12 x groß, ml.g6.16 x groß, ml.g6.24 x groß, ml.g6.48 x groß, ml.g6e.12 x groß |
| Mistralia | Mixtral 8x7B | huggingface-llm-mixtral-8x7b | Textgenerierung | Apache 2.0 | Ja | ml.g5.48 x groß, ml.g 6.48 x groß, ml.p4d. 24 x groß, ml.p 5.48 x groß |
| Mistralia | Mixtral-8x22B V1 | huggingface-llm-mixtral-8x22B | Textgenerierung | Apache 2.0 | Nein | ml.p4d.24x groß, ml.p4de.24x groß |
| Mistralia | Mixtral-8x22B-Instruct-v0.1 | huggingface-llm-mistralai-mixtral-8x22B-instruct-v0-1 | Textgenerierung | Apache 2.0 | Nein | Standard: ml.p4de.24xlarge, ml.p5.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `tgi`(Inferenzcontainer zur Textgenerierung): ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge |
| Mistralia | Mixtral-8x7B-Instruct-v0.1 | huggingface-llm-mixtral-8x7b-instruct | Textgenerierung | Apache 2.0 | Ja | Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausbalanciert), `interact_best_price_performance` (Interagieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert), (Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge `interact_highest_throughput` `modify_highest_throughput`
+ `generate_lowest_cost`(Generieren, Kostenoptimiert), `interact_lowest_cost` (Interagieren, Kostenoptimiert), `max_context_lowest_cost` (Maximaler Kontext, Kostenoptimiert), `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert), (Ändern, Latenz optimiert): `modify_lowest_latency` ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert), `summarize_highest_throughput` (Zusammenfassen, optimierter Durchsatz), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): `summarize_lowest_cost` ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge |
| Mistralia | Voxtral-Mini-4B-Realtime-2602 | huggingface-asr-voxtral-mini-4b-realtime-2602 | Textgenerierung | Apache-2.0 | Nein | ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß |
| Mondschüsse | Kimi-K2.5 | huggingface-llm-kimi-k2-5 | Textgenerierung | andere | Nein | ml.p5en.48x groß |
| Moritzlaurer | MoritzLaurer MDeBERTa V3 Base Xnli Mehrsprachig Nli 2mil7 | huggingface-zstc-moritzlaurer-mdeberta3base-xnli-mling-nli-2m7 | Zero-Shot Einstufung | mit | Nein | ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß |
| Mosaik ml | MPT 7B BF16 | huggingface-textgeneration1-mpt-7b-bf16 | Textgenerierung | Apache-2.0 | Nein | ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß |
| Mosaik ml | MPT 7B Instruct BF16 | huggingface-textgeneration1-mpt-7b-instruct-bf16 | Textgenerierung | CC-BY-SA-3.0 | Nein | ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß |
| Herr 8488 | Bert Small2Bert | huggingface-summarization-bert-small2bert-cnn-dailymail-summ | Textzusammenfassung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Einbettung von Finanztexten | mxnet-tcembedding-robertafin-base-uncased | Einbettung von Text | Apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | RoBERTa-SEC-Large | mxnet-tcembedding-robertafin-large-uncased | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | RoBERTa-SEC-WIKI-Base | mxnet-tcembedding-robertafin-base-wiki-uncased | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | RoBERTa-SEC-WIKI-Large | mxnet-tcembedding-robertafin-large-wiki-uncased | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Naclbit | Naclbit Trinart Stabile Diffusion V2 | huggingface-txt2img-naclbit-trinart-stable-diffusion-v2 | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Narsil | Narsil Deberta Large Mnli Zero Cls | huggingface-zstc-narsil-deberta-large-mnli-zero-cls | Zero-Shot Einstufung | mit | Nein | ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß |
| Nexai | Nexaai Octopus-v2 | huggingface-llm-nexaaidev-octopus-v2 | Textgenerierung | cc-by-nc-4.0 | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Nexusfluss | Nexusfluss Starling-LM-7B-beta | huggingface-llm-nexusflow-starling-lm-7b-beta | Textgenerierung | Apache 2.0 | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Keine Recherche | Hermes 2 8B Pro-Llama-3 | huggingface-llm-nousresearch-hermes-2-pro-llama-3-8B | Textgenerierung | Ruf 3 an | Nein | ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß |
| Keine Recherche | Nous Hermes 2 SOLAR 10,7 B | huggingface-llm-nousresearch-nous-hermes-2-solar-10-7b | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß |
| Nova | Nova 2.0 Lite | nova-textgeneration-lite-v2 | Textgenerierung | AWS Nutzungsbedingungen des Dienstes | Ja | Nicht zutreffend |
| Nova | Nova 2.0 Mikro | nova-textgeneration-micro-v2 | Textgenerierung | Nicht zutreffend | Ja | Nicht zutreffend |
| Nova | Nova Lite | nova-textgeneration-lite | Textgenerierung | AWS Nutzungsbedingungen | Ja | Nicht zutreffend |
| Nova | Nova Micro | nova-textgeneration-micro | Textgenerierung | AWS Nutzungsbedingungen | Ja | Nicht zutreffend |
| Nova | Nova Pro | nova-textgeneration-pro | Textgenerierung | AWS Nutzungsbedingungen | Ja | Nicht zutreffend |
| Nvidia | Nvidia Llama3-ChatQA-1.5 8B | huggingface-llm-nvidia-llama3-chatqa-1-5-8B | Textgenerierung | Rufe 3 an | Nein | ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß |
| Nvidia | Nvidia Nemotron 3 Ultra | huggingface-reasoning-nvidia-nemotron-3-ultra-550b-a55b-nvfp4 | Reasoning | Apache-2.0 | Nein | Standard: ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:+ `modify_best_price_performance`(Ändern, Ausgewogen), `modify_highest_throughput` (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert), `modify_lowest_cost` (Ändern, Latenzoptimiert): ml.g7e.48xlarge, ml.p5.48xlarge `modify_lowest_latency`
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), `summarize_highest_throughput` (Zusammenfassen, Kostenoptimiert), (Zusammenfassen, Latenzoptimiert): ml.g7e.48xlarge, `summarize_lowest_cost` ml.p5en.48xlarge `summarize_lowest_latency` |
| Nvidia | Nvidia Nemotron 3 Nano Omni | huggingface-vlm-nvidia-nemotron3-nano-omni-30ba3b-reasoning-fp8 | Image-Text-to-Text | andere | Nein | Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), `interact_lowest_cost` (Interagieren, Kostenoptimiert), (Ändern, Ausgewogen), `modify_best_price_performance` (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlarge `modify_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert), (Interact, Latenz optimiert): `interact_lowest_latency` ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.8xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, Durchsatz optimiert), (Ändern, Durchsatz optimiert), (Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge `modify_highest_throughput` `summarize_highest_throughput`
+ `max_context_lowest_cost`(Maximaler Kontext, Kostenoptimiert), `summarize_best_price_performance` (Zusammenfassen, Ausgewogen), `summarize_lowest_cost` (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.4xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge |
| Nvidia | NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 | huggingface-reasoning-nvidia-nemotron-3-nano-30b-a3b-bf16 | Reasoning | andere | Ja | Standard: ml.g6e.24xlarge, ml.g7e.12xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_highest_throughput` (Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert), `generate_lowest_cost` (Generieren, Latenzoptimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge `generate_lowest_latency`
+ `interact_best_price_performance`(Interact, Balanced), `interact_highest_throughput` (Interact, Durchsatz optimiert), `interact_lowest_cost` (Interact, kostenoptimiert), `interact_lowest_latency` (Interact, Latenzoptimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.24xlarge, ml.g6.48xlarge, ml.g7e.24xlarge `modify_lowest_cost`
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6.24xlarge, ml.g7e.4xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert): ml.g6e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge `summarize_highest_throughput` `summarize_lowest_cost`
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge |
| Nvidia | NVIDIA-Nemotron-3-Super-120B-A12B-BF16 | huggingface-llm-nvidia-nemotron-3-super-120b-a12b-bf16 | Textgenerierung | Apache-2.0 | Ja | Standard: ml.p5en.48xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert): ml.g6e.48xlarge, ml.g7e.48xlarge, ml.p5.48xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (`modify_highest_throughput`Ändern, Durchsatz optimiert): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interact, Balanced), (Interact, Durchsatz optimiert), (Interact, kostenoptimiert), `interact_highest_throughput` (Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `interact_lowest_cost` `interact_lowest_latency`
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5.48xlarge `modify_lowest_cost`
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g7e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), `summarize_highest_throughput` (Zusammenfassen, Latenz optimiert): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5.48xlarge `summarize_lowest_cost` `summarize_lowest_latency` |
| Nvidia | NVIDIA-Nemotron-3-Super-120B-A12B-FP8 | huggingface-reasoning-nvidia-nemotron-3-super-120b-a12b-fp8 | Reasoning | andere | Nein | Standard: ml.g7e.24xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_highest_throughput` (Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert), `generate_lowest_cost` (Generieren, Latenzoptimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge `generate_lowest_latency`
+ `interact_best_price_performance`(Interagieren, Ausgewogen), `interact_highest_throughput` (Interagieren, Durchsatz optimiert), `interact_lowest_cost` (Interagieren, Kostenoptimiert), `interact_lowest_latency` (Interagieren, Latenzoptimiert), `summarize_best_price_performance` (Zusammenfassen, Ausgewogen), `summarize_highest_throughput` (Zusammenfassen, Durchsatz optimiert), `summarize_lowest_cost` (Zusammenfassen, Kostenoptimiert), `summarize_lowest_latency` (Zusammenfassen, Latenzoptimiert): ml.g7e.24xlarge, ml.g7e.48xlarge |
| Nvidia | NVIDIA-Nemotron-Nano-12B-v2 | huggingface-reasoning-nvidia-nemotron-nano-12b-v2 | Reasoning | Apache-2.0 | Nein | Standard: ml.g6e.48xlarge, ml.g7e.12xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.12xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge `modify_lowest_cost`
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert), `summarize_best_price_performance` (Zusammenfassen, Ausgewogen), `summarize_highest_throughput` (Zusammenfassen, Durchsatz optimiert), `summarize_lowest_cost` (Zusammenfassen, Kostenoptimiert), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge |
| Open.ai | gpt-oss-120b | openai-reasoning-gpt-oss-120b | Reasoning | Apache 2.0 | Ja | Standard: ml.g6e.48xlarge, ml.g7e.2xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `lmi`(Großer Model Inference-Container): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge |
| Open.ai | gpt-oss-20b | openai-reasoning-gpt-oss-20b | Reasoning | Apache 2.0 | Ja | ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g7e.2 x groß, ml.p 5.48 x groß, ml.p5e.48 x groß, ml.p5en.48 x groß |
| Open.ai | Datenschutzfilter | openai-tokenclassification-privacy-filter | Token-Klassifizierung | Apache-2.0 | Nein | ml.m5,2 x groß, ml.m5,4 x groß, ml.m5,x groß |
| Öffnen Sie | Whisper Base | huggingface-asr-whisper-base | Automatische Spracherkennung | Apache 2.0 | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| OpenAi | Flüstern Sie groß | huggingface-asr-whisper-large | Automatische Spracherkennung | Apache 2.0 | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| OpenAi | Whisper Large V2 | huggingface-asr-whisper-large-v2 | Automatische Spracherkennung | Apache 2.0 | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| OpenAi | Whisper Large V3 | huggingface-asr-whisper-large-v3 | Automatische Spracherkennung | Apache 2.0 | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| OpenAi | Whisper Large V3 Turbo | huggingface-asr-whisper-large-v3-turbo | Automatische Spracherkennung | mit | Nein | ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| OpenAi | Whisper Medium | huggingface-asr-whisper-medium | Automatische Spracherkennung | Apache 2.0 | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| OpenAi | Whisper Klein | huggingface-asr-whisper-small | Automatische Spracherkennung | Apache 2.0 | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| OpenAi | Flüster Tiny | huggingface-asr-whisper-tiny | Automatische Spracherkennung | Apache 2.0 | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| Openai-Community | GPT 2 | huggingface-textgeneration-gpt2 | Textgenerierung | mit | Nein | ml 5,16 x groß, ml 5,2 x groß, ml 5,4 x groß, ml g 5,8 x groß |
| Openai-Community | GPT-2 XL | huggingface-textgeneration1-gpt-2-xl | Textgenerierung | mit | Ja | ml. g 5,16 x groß, ml. G 5,2 x groß, ml. G 5,8 x groß |
| Openai-Community | OpenAI-Detektor von Roberta Base | huggingface-eqa-roberta-base-openai-detector | Beantwortete Frage | mit | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Openai-Community | OpenAI-Detektor von Roberta Base | huggingface-spc-roberta-base-openai-detector | Fill-Mask | mit | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Openai-Community | OpenAI-Detektor von Roberta Base | huggingface-tc-roberta-base-openai-detector | Textklassifizierung | mit | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Openai-Community | Roberta Großer OpenAI-Detektor | huggingface-spc-roberta-large-openai-detector | Fill-Mask | mit | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Openai-Community | Roberta Großer OpenAI-Detektor | huggingface-tc-roberta-large-openai-detector | Textklassifizierung | mit | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Openlm-Research | Öffne Llama 7B V2 | huggingface-llm-openlm-research-open-llama-7b-v2 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß |
| Phil Schmid | Bart Large CNN samsum | huggingface-summarization-bart-large-cnn-samsum | Textzusammenfassung | mit | Nein | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Phil Schmid | Flan-T5 Basismodell Fine-tuned auf dem Samsum-Datensatz | huggingface-text2text-flan-t5-base-samsum | Generierung von Text zu Text | Apache 2.0 | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Pytorch | Alexa TM 20 B | pytorch-textgeneration1-alexa20b | Textgenerierung | Amazon-Softwarelizenz | Nein | ml.g4dn. 12 x groß, ml.g5.16 x groß, ml.p 3.16 x groß, ml.p 3,8 x groß |
| Qwen | QVQ 72B Vorschau | huggingface-vlm-qvq-72b-preview | Image-Text-to-Text | andere | Nein | ml. g 5,48 x groß, ml. g 6,48 x groß, ml. g 4 x 24 x groß |
| Qwen | Qwen2 0,5 B | huggingface-llm-qwen2-0-5b | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß |
| Qen | Qwen2 0.5B Anleitung | huggingface-llm-qwen2-0-5b-instruct | Textgenerierung | Apache-2.0 | Nein | ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß |
| Qen | Qwen2-1.5B | huggingface-llm-qwen2-1-5b | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), `interact_best_price_performance` (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, `interact_lowest_cost` ml.g6.xlarge `modify_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.2xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.2xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.24xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.4xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g5.16xlarge, ml.g6.24xlarge, ml.g6e.2xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g5.4xlarge, ml.g6.24xlarge, ml.g6e.8xlarge |
| Qwen | Qwen2-1.5B-Instruct | huggingface-llm-qwen2-1-5b-instruct | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p3.2xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausbalanciert), `interact_best_price_performance` (Interagieren, Ausgewogen), `modify_best_price_performance` (Ändern, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, Kostenoptimiert), `interact_lowest_cost` (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, `max_context_lowest_cost` ml.g6.xlarge `modify_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenzoptimiert): ml.g5.8xlarge, ml.g6.24xlarge, ml.g6e.24xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g4dn.8xlarge, ml.g6.12xlarge, ml.g6e.4xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.12xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.4xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g5.2xlarge, ml.g6.12xlarge, ml.g6e.2xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge `summarize_lowest_cost`
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.24xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g5.8xlarge, ml.g6.8xlarge, ml.g6e.16xlarge |
| Qwen | Qwen2-7B | huggingface-llm-qwen2-7b | Textgenerierung | Apache 2.0 | Nein | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß g6e.xlarge |
| Qwen | Qwen2-7B-Instruct | huggingface-llm-qwen2-7b-instruct | Textgenerierung | Apache 2.0 | Nein | ml.g4dn.12 x groß, ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß |
| Königin | Qwen2-VL-7B-Instruct | huggingface-vlm-qwen2-vl-7b-instruct | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge `interact_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6.12xlarge, ml.g6e.8xlarge
+ `interact_best_price_performance`(Interaktiv, Ausgewogen): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert), `modify_highest_throughput` (Ändern, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.24xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.4xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge `modify_lowest_cost`
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.16xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), `summarize_highest_throughput` (Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge `summarize_lowest_cost` `summarize_lowest_latency` |
| Qwen | Qwen2.5 14B anweisen | huggingface-llm-qwen2-5-14b-instruct | Textgenerierung | Apache 2.0 | Ja | ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß |
| Qwen | Qwen2.5 32B anweisen | huggingface-llm-qwen2-5-32b-instruct | Textgenerierung | Apache 2.0 | Ja | ml.g5.48x groß, ml.g6.48x groß, ml.p4d.24x groß |
| Qwen | Qwen2.5 Coder 32B anweisen | huggingface-llm-qwen2-5-coder-32b-instruct | Textgenerierung | Apache 2.0 | Nein | ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß |
| Qwen | Qwen2.5 Coder 7B anweisen | huggingface-llm-qwen2-5-coder-7b-instruct | Textgenerierung | Apache 2.0 | Nein | ml.g5.16 x groß, ml.g 5.2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d.24 x groß |
| Qen | Qwen2.5-72B-Instruct | huggingface-llm-qwen2-5-72b-instruct | Textgenerierung | andere | Ja | Standard: ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g5.48xlarge`interact_lowest_cost`, ml.g6.48xlarge, ml.g6e.12xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interaktiv, ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), `summarize_highest_throughput` (Zusammenfassen, Latenzoptimiert): ml.p5en.48xlarge `summarize_lowest_cost` `summarize_lowest_latency` |
| Qwen | Qwen2.5-7B-Instruct | huggingface-llm-qwen2-5-7b-instruct | Textgenerierung | Apache 2.0 | Ja | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Interact, Latenz optimiert), (Zusammenfassen, Latenz optimiert): ml.g5.12xlarge, `interact_lowest_latency` ml.g6.12xlarge, ml.g6e.24xlarge `summarize_lowest_latency`
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, Balanced), (Interact, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge `interact_best_price_performance` `interact_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.16xlarge
+ `interact_highest_throughput`(Interagieren, Durchsatz optimiert), (Zusammenfassen, `summarize_highest_throughput` Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge `modify_best_price_performance` `modify_lowest_cost`
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert)`summarize_lowest_cost`: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge |
| Qwen | Qwen 3 14 B | huggingface-reasoning-qwen3-14b | Reasoning | Apache 2.0 | Ja | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß |
| Qwen | Qwen3-0.6B | huggingface-reasoning-qwen3-06b | Reasoning | Apache 2.0 | Ja | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), `interact_best_price_performance` (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), `interact_lowest_cost` `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), `modify_highest_throughput` (Ändern, Durchsatz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6.12xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interagieren, Latenz optimiert): ml.g4dn.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Kostenoptimiert): `summarize_lowest_cost` ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Qwen | Qwen3-1.7B | huggingface-reasoning-qwen3-1-7b | Reasoning | Apache 2.0 | Ja | ml.g4dn.12x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8x groß, ml.g5,12 x groß, ml.g5,24x groß, ml.g5,48x groß, ml.g6.12xgroß, ml.g6,24xgroß, ml.g6,24xgroß, ml.g6,24xgroß, .g 6,48 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. G 6E 2 x groß, ml. G 6E. 4 x groß, ml. G 6E XL, ml. P 3,2 x groß, ml. P4. 24 x groß |
| Qwen | Qwen3-30B-A3B | huggingface-reasoning-qwen3-30b-a3b | Reasoning | Apache 2.0 | Nein | ml.g5.24xlarge |
| Qwen | Qwen3-30B-A3B-Instruct-2507 | huggingface-reasoning-qwen3-30b-a3b-instruct-2507 | Textgenerierung | Apache 2.0 | Nein | ml.g5.48x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.p4de.24x groß |
| Qwen | Qwen3-30B-A3B-Thinking-2507 | huggingface-reasoning-qwen3-30b-a3b-thinking-2507 | Reasoning | Apache 2.0 | Nein | ml.g6e.12xlarge |
| Qwen | Qwen3-32B | huggingface-reasoning-qwen3-32b | Reasoning | Apache 2.0 | Ja | Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Ausgewogen), (Zusammenfassen, Ausgewogen), `summarize_best_price_performance` (Zusammenfassen, Kostenoptimiert): `summarize_lowest_cost` ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `generate_lowest_latency` (Generieren, Latenz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), `max_context_highest_throughput` (Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert), `summarize_highest_throughput` (Zusammenfassen, Durchsatz optimiert), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), `max_context_lowest_cost` (Maximaler Kontext, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
+ `interact_lowest_cost`(Interagieren, kostenoptimiert): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.12xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert)`modify_lowest_cost`: ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Qwen | Qwen3-4B | huggingface-reasoning-qwen3-4b | Reasoning | Apache 2.0 | Ja | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, g 6,2 x groß, ml g 6,48 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml g 6, 12 x groß, ml G 6 E 16 x groß, ml G 6,8 x groß, ml G 6E. 2 x groß, ml. G 6E 4 x groß, ml. g6e.8 x groß, ml. .p4d.24xlarge |
| Qwen | Qwen3-4B-Instruct-2507 | huggingface-reasoning-qwen3-4b-instruct-2507 | Reasoning | Apache 2.0 | Nein | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.p4d.24 x groß |
| Königin | Qwen3-8B | huggingface-reasoning-qwen3-8b | Reasoning | Apache 2.0 | Ja | Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), `interact_best_price_performance` (Interagieren, Kostenoptimiert): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge `interact_lowest_cost`
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert), (Ändern, Durchsatz optimiert), `modify_highest_throughput` (Ändern, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): `modify_lowest_latency` ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `summarize_highest_throughput` `summarize_lowest_latency`
+ `interact_highest_throughput`(Interact, optimierter Durchsatz), `max_context_highest_throughput` (Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g5.12xlarge, ml.g6e.xlarge, ml.p5.48xlarge
+ `modify_lowest_cost`(Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.24xlarge, ml.g6e.12xlarge, ml.p5.48xlarge `summarize_lowest_cost` |
| Qwen | Qwen3-ASR-1.7B | huggingface-asr-qwen3-asr-1-7b | Automatische Spracherkennung | Apache-2.0 | Nein | ml.g6,2 x groß, ml.g6,x groß |
| Qwen | Qwen3-Coder-30B-A3B-Instruct | huggingface-reasoning-qwen3-coder-30b-a3b-instruct | Reasoning | Apache 2.0 | Nein | ml.g6e.24x groß, ml.g7e.2x groß |
| Qwen | Qwen3-Coder-Next | huggingface-reasoning-qwen3-coder-next | Reasoning | Apache 2.0 | Nein | ml.g7e.24x groß, ml.g7e.48x groß, ml.p4d.24x groß, ml.p5en.48x groß |
| Qwen | Qwen3-Embedding-0.6B | huggingface-textembedding-qwen3-embedding-0-6b | Einbettung von Text | Apache-2.0 | Nein | ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß |
| Qwen | Qwen3-Next-80B-A3B-Instruct | huggingface-reasoning-qwen3-next-80b-a3b-instruct | Textgenerierung | Apache 2.0 | Nein | ml.g6e.48x groß, ml.p4de.24x groß |
| Qwen | Qwen3-Reranker-4B | huggingface-textembedding-qwen3-reranker-4b | Einbettung von Text | Apache-2.0 | Nein | ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß |
| Qwen | Qwen3-TTS-12Hz-1.7B-Base | huggingface-ttsvoiceclone-qwen3-tts-12hz-1-7b-base | Text-to-Speech | Apache-2.0 | Nein | ml.g6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß g 7,8 x groß |
| Qwen | Qwen3-TTS-12Hz-1.7B-CustomVoice | huggingface-tts-qwen3-tts-customvoice | Text-to-Speech | Apache-2.0 | Nein | ml.g6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß g 7,8 x groß |
| Qwen | Qwen3-VL-8B-Instruct | huggingface-vlm-qwen3-vl-8b-instruct | Textgenerierung | Apache 2.0 | Nein | ml.g6e.24x groß, ml.g6e.48x groß, ml.p4d.24x groß |
| Qwen | Qwen3-VL-Embedding-2B | huggingface-textembedding-qwen3-vl-embedding-2b | Einbettung von Text | Apache-2.0 | Nein | ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß |
| Qwen | Qwen3.5-0.8B | huggingface-vlm-qwen3-5-0-8b | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g6.4xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.4xlarge, ml.g6e.4xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen), (Interact, Latenz optimiert): ml.g6.2xlarge, ml.g6.xlarge, `interact_lowest_latency` ml.g6e.2xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge
+ `interact_lowest_cost`(Interagieren, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlarge `modify_best_price_performance` `modify_lowest_cost`
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.16xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.8xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge, ml.g7e.8xlarge
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.8xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.8xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.8xlarge |
| Qwen | Qwen3.5-27b | huggingface-vlm-qwen3-5-27b | Textgenerierung | Apache 2.0 | Ja | ml.g6.48xlarge |
| Qwen | Qwen3.5-27B-FP8 | huggingface-vlm-qwen3-5-27b-fp8 | Image-Text-to-Text | Apache 2.0 | Nein | ml.g6.24xlarge |
| Qwen | Qwen3.5-2B | huggingface-vlm-qwen3-5-2b | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausbalanciert), `modify_best_price_performance` (Ändern, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Ändern, Kostenoptimiert): `modify_lowest_cost` ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.16xlarge, ml.g6.xlarge, ml.g6e.16xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.48xlarge
+ `interact_lowest_cost`(Interact, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g6.4xlarge, ml.g6e.4xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz), (Ändern, optimierter Durchsatz): ml.g6.12xlarge, ml.g6e.12xlarge, `modify_highest_throughput` ml.g6e.24xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6.48xlarge, ml.g6e.16xlarge, ml.g6e.48xlarge
+ `modify_lowest_latency`(Ändern, Latenz optimiert): ml.g6.8xlarge, ml.g6e.2xlarge, ml.g6e.8xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.4xlarge `summarize_lowest_cost`
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.2xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge |
| Qwen | Qwen3.5-4B | huggingface-vlm-qwen3-5-4b | Textgenerierung | Apache 2.0 | Ja | Standard: ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_highest_throughput` (Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert), `generate_lowest_cost` (Generieren, Latenzoptimiert): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge `generate_lowest_latency`
+ `interact_best_price_performance`(Interact, Balanced), `interact_highest_throughput` (Interact, Durchsatz optimiert), `interact_lowest_cost` (Interact, kostenoptimiert), `interact_lowest_latency` (Interact, Latenz optimiert): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.2xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz), `max_context_lowest_cost` (Maximaler Kontext, kostenoptimiert), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.2xlarge, ml.g6e.8xlarge, `modify_lowest_cost` ml.g7e.2xlarge `modify_lowest_latency`
+ `modify_highest_throughput`(Ändern, Durchsatz optimiert): ml.g6.2xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge `summarize_lowest_cost`
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.24xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge |
| Qwen | Qwen3.5-9b | huggingface-vlm-qwen3-5-9b | Textgenerierung | Apache 2.0 | Ja | ml.g 6,24 x groß, ml.g 6,48 x groß |
| Qwen | Qwen3.6-27B | huggingface-vlm-qwen3-6-27b | Image-Text-to-Text | Apache 2.0 | Ja | Standard: ml.g7e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Ändern, Ausgewogen), `modify_best_price_performance` (Ändern, Kostenoptimiert), `modify_lowest_cost` (Zusammenfassen, Ausgewogen), `summarize_best_price_performance` (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, `summarize_lowest_cost` ml.g6e.12xlarge, ml.p5en.48xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `modify_highest_throughput` (Ändern, Durchsatz optimiert), `modify_lowest_latency` (Ändern, Latenz optimiert): ml.g7e.48xlarge, ml.p5.4xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p5.4xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)`interact_lowest_cost`: ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert), `interact_lowest_latency` (Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert), (Maximaler Kontext, Latenz optimiert): ml.g7e.12xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge `max_context_lowest_latency`
+ `summarize_highest_throughput`(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge |
| Qwen | Qwen3.6-35B-A3B | huggingface-vlm-qwen3-6-35b-a3b | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge `max_context_highest_throughput`
+ `generate_lowest_latency`(Generieren, Latenz optimiert), `max_context_lowest_cost` (Maximaler Kontext, Kostenoptimiert), `max_context_lowest_latency` (Maximaler Kontext, Latenz optimiert), `modify_highest_throughput` (Ändern, Durchsatz optimiert), `modify_lowest_latency` (Ändern, Latenz optimiert), `summarize_highest_throughput` (Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interagieren, Ausgewogen), `interact_lowest_cost` (Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert), (`interact_lowest_latency`Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Zusammenfassen, Ausgewogen), `modify_lowest_cost` (Zusammenfassen, Kostenoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p5.48xlarge `summarize_best_price_performance` `summarize_lowest_cost`
+ `summarize_lowest_latency`(Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge |
| Qwen | QwQ 32 B | huggingface-llm-qwq-32b | Textgenerierung | Apache 2.0 | Nein | ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß |
| Anerkennung | Recognai Bert Base Spanisch Wwm Cased Xanli | huggingface-zstc-recognai-bert-base-spanish-wwm-cased-xnli | Zero-Shot Einstufung | mit | Nein | ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß |
| Anerkennung | Erkennen Sie Zeroshot Selectra Medium | huggingface-zstc-recognai-zeroshot-selectra-medium | Zero-Shot Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Rinna | Rinna japanische GPT NeoX 3.6B Anleitung PPO | huggingface-llm-rinna-3-6b-instruction-ppo-bf16 | Textgenerierung | mit | Nein | ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,x groß |
| Salesforce | Salesforce SFR-Embedding-2 \_R | huggingface-textembedding-sfr-embedding-2-r | Einbettung von Text | CC-BY-NC-4.0 | Nein | ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß |
| Salesforce | Salesforce SFR-Embedding-Mistral | huggingface-textembedding-sfr-embedding-mistral | Einbettung von Text | CC-BY-NC-4.0 | Nein | ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß |
| Sentence-Transformers | Alle miniLM L6 v2 | huggingface-sentencesimilarity-all-MiniLM-L6-v2 | Ähnlichkeit des Satzes | Apache 2.0 | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß |
| Sentence-Transformers | Alle miniLM L6 v2 | huggingface-textembedding-all-MiniLM-L6-v2 | Einbettung von Text | Apache-2.0 | Nein | ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß |
| Sentence-Transformers | alle- MiniLM-L12-v2 | huggingface-textembedding-all-MiniLM-L12-v2 | Einbettung von Text | Apache-2.0 | Nein | ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge |
| Sentence-Transformers | Paraphrasieren Sie mehrsprachig MiniLM L12 v2 | huggingface-textembedding-paraphrase-multilingual-MiniLM-L12-v2 | Einbettung von Text | Apache-2.0 | Nein | ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge |
| Shenzhi-Wang | Llama3 8B Chinesischer Chat | huggingface-llm-shenzhi-wang-llama3-8B-chinese-chat | Textgenerierung | llama3 | Nein | ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß |
| Snowflake | Snowflake Arctic Instruct Vllm | huggingface-llm-snowflake-arctic-instruct-vllm | Textgenerierung | Apache 2.0 | Nein | ml.p5.48xlarge |
| Sprechleine | Bielik-11B-v3.0-Instruct | huggingface-llm-bielik-11b-v3-0-instruct | Textgenerierung | Apache 2.0 | Nein | Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen), `generate_lowest_cost` (Generieren, Kostenoptimiert), (Interagieren, Kostenoptimiert), `interact_lowest_cost` `modify_lowest_cost` (Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert), `interact_highest_throughput` (Interact, Durchsatz optimiert), `modify_highest_throughput` (Ändern, Durchsatz optimiert), `modify_lowest_latency` (Ändern, Latenz optimiert), `summarize_highest_throughput` (Zusammenfassen, Durchsatz optimiert), `summarize_lowest_latency` (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
+ `interact_best_price_performance`(Interaktiv, ausgewogen): ml.g5.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.24xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_cost`(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `modify_best_price_performance`(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge
+ `summarize_best_price_performance`(Zusammenfassen, Ausgewogen): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
+ `summarize_lowest_cost`(Zusammenfassen, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge |
| Schleifer | Distilbart CNN 12-6 | huggingface-summarization-distilbart-cnn-12-6 | Textzusammenfassung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Schleifer | Distilbart CNN 6-6 | huggingface-summarization-distilbart-cnn-6-6 | Textzusammenfassung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Schleifer | Textzusammenfassung | huggingface-summarization-distilbart-xsum-1-1 | Textzusammenfassung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Stabilität ai | Japanisches StableLM Instruct Alpha 7B v2 | model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2 | Textgenerierung | Apache-2.0 | Nein | ml.g5.12x groß, ml.g5,16 x groß, ml.g5,24x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24xgroß |
| Stabilität ai | Stabile Diffusion 2 | model-txt2img-stabilityai-stable-diffusion-v2 | Text-to-Image | creativeml-openrail\+\+-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Stabilität ai | Stabile Diffusion 2 Depth FP16 | model-depth2img-stable-diffusion-2-depth-fp16 | Image-to-Image | creativeml-openrail\+\+-m | Nein | ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.4xgroß, ml.g5dn.xgroß, ml.g5.16xgroß, ml.g5.2xgroß, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß |
| Stabilität ai | Stabile Diffusion 2 FP16 | model-txt2img-stabilityai-stable-diffusion-v2-fp16 | Text-to-Image | creativeml-openrail\+\+-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Stabilität ai | Stabile Diffusion 2 beim Lackieren | model-inpainting-stabilityai-stable-diffusion-2-inpainting | Image-to-Image | creativeml-openrail\+\+-m | Nein | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Stabilität ai | Stabile Diffusion 2 beim Lackieren FP16 | model-inpainting-stabilityai-stable-diffusion-2-inpainting-fp16 | Image-to-Image | creativeml-openrail\+\+-m | Nein | ml.g4dn.xlarge, ml.g5.2xgroß, ml.p3.2xgroß |
| Stabilität ai | Stabile Diffusion 2 beim Lackieren FP16 | model-inpainting-stabilityai-stable-diffusion2-inpainting-fp16 | Image-to-Image | creativeml-openrail\+\+-m | Nein | ml.g4dn.xlarge, ml.g5.2xgroß, ml.p3.2xgroß |
| Stabilität ai | Stabile Diffusion 2.1 | model-txt2img-stabilityai-stable-diffusion-v2-1-base | Text-to-Image | creativeml-openrail\+\+-m | Ja | ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Stabilität ai | Stabile Diffusion 2.1 Neuron | huggingface-txt2imgneuron-stabilityai-stable-diffusion-v2-1 | Text-to-Image | creativeml-openrail\+\+-m | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß |
| Stabilität ai | Stabiler Diffusions-x4-Upscaler FP16 | model-upscaling-stabilityai-stable-diffusion-x4-upscaler-fp16 | Image-to-Image | openrail\+\+ | Nein | ml.g4dn.4x groß, ml.g4dn.8x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß |
| Stabilität ai | Stable Diffusion XL 1.0 (quelloffen) | model-imagegeneration-stabilityai-stable-diffusion-xl-base-1-0 | Text-to-Image | openrail \+\+ | Nein | ml.g5.16x groß, ml.g5.4x groß, ml.g5.8x groß |
| Stabilität ai | Stabile Diffusion XL Base 1.0 Neuron | huggingface-txt2imgneuron-stabilityai-stable-diffusion-xlbase1 | Text-to-Image | openrail\+\+ | Nein | ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß |
| Swiss-Ai | Apertus 70B 2509 | huggingface-llm-apertus-70b-2509 | Textgenerierung | Apache 2.0 | Nein | ml.g5.48xgroß, ml.g6.48xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge |
| Swiss-Ai | Apertus 70B Instruktion 2509 | huggingface-llm-apertus-70b-instruct-2509 | Textgenerierung | Apache 2.0 | Nein | ml.g5.48xgroß, ml.g6.48xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge |
| Swiss-Ai | Apertus 8B Instruktion 2509 | huggingface-llm-apertus-8b-instruct-2509 | Textgenerierung | Apache 2.0 | Nein | ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48x groß |
| Der Kerl | Mistral 7B AWQ OpenOrca | huggingface-llm-thebloke-mistral-7b-openorca-awq | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß |
| Der Kerl | Mistral 7B GPTQ OpenOrca | huggingface-llm-mistral-7b-openorca-gptq | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.16 x groß, ml.g5.24x groß, ml.g5.2x groß, ml.g5.48x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß |
| Der Kerl | Mixtral 8x7B Instruktiere GPTQ | huggingface-llm-mixtral-8x7b-instruct-gptq | Textgenerierung | Apache 2.0 | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Dann per | GTE Large | huggingface-sentencesimilarity-gte-large | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Dann per | GET Small | huggingface-sentencesimilarity-gte-small | Ähnlichkeit des Satzes | mit | Ja | ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß |
| Tiiae | Falcon 180 B BF16 | huggingface-llm-falcon-180b-bf16 | Textgenerierung | Nicht zutreffend | Nein | ml. P4 DE. 24 x groß, ml. P 5,48 x groß |
| Tiiuae | Falcon 180B Karte BF16 | huggingface-llm-falcon-180b-chat-bf16 | Textgenerierung | Nicht zutreffend | Nein | ml. P4 DE. 24 x groß, ml. P 5,48 x groß |
| Tiiuae | Falcon 40B BF16 | huggingface-llm-falcon-40b-bf16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Tiiae | Falcon 40B Instruct BF16 | huggingface-llm-falcon-40b-instruct-bf16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| Tiiae | Falcon 7B BF16 | huggingface-llm-falcon-7b-bf16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Tiiae | Falcon 7B Instruct BF16 | huggingface-llm-falcon-7b-instruct-bf16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Tiiae | Falcon RW 1B | huggingface-llm-tiiuae-falcon-rw-1b | Textgenerierung | Apache 2.0 | Nein | ml.g5.2xlarge |
| Tiiuae | Falcon-H1-0.5B-Instruct | huggingface-llm-falcon-h1-0-5b-instruct | Textgenerierung | andere | Nein | ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, ml 5,4 x groß, ml g 5,8 x groß, ml g 5,x groß, ml g 6,8 x groß, ml g 6,4 x groß, ml g 6,2 x groß, ml g 6,2 x groß, ml g 6,48 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml. g 6,8 x groß, ml. g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß, ml.p3.2 x groß, ml.p4d.24xgroß |
| Tiiuae | Falcon-H1-1.5B-Deep-Instruct | huggingface-llm-falcon-h1-1-5b-deep-instruct | Textgenerierung | andere | Nein | ml. g 5.16 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 6.16 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml g 6.x groß, ml. g 6 x groß, ml. g 6e.4 x groß, ml. g 6e.4 x groß, ml. g6e.8 x groß .xlarge |
| Tiiuae | Falcon-H1-1.5B-Instruct | huggingface-llm-falcon-h1-1-5b-instruct | Textgenerierung | andere | Nein | ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß |
| Tiiuae | Falcon-H1-34B-Instruct | huggingface-llm-falcon-h1-34b-instruct | Textgenerierung | andere | Nein | ml.g6e.12x groß, ml.g6e.24x groß, ml.g6e.48x groß |
| Tiiuae | Falcon-H1-3B-Instruct | huggingface-llm-falcon-h1-3b-instruct | Textgenerierung | andere | Nein | ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß |
| Tiiae | Falcon-H1-7B-Instruct | huggingface-llm-falcon-h1-7b-instruct | Textgenerierung | andere | Nein | ml.g6e.12x groß, ml.g6e.24x groß |
| Tiiuae | Falcon2-11B | huggingface-llm-falcon2-11b | Textgenerierung | Nicht zutreffend | Nein | ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß |
| Tiiae | Falcon3-10B-Base | huggingface-llm-falcon-3-10B-base | Textgenerierung | andere | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6,48 x groß, ml.p4d.24 x groß, ml.p 5.48 x groß |
| Tiiuae | Falcon3-10B-Instruct | huggingface-llm-falcon-3-10B-Instruct | Textgenerierung | andere | Nein | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß g6e.xlarge |
| Tiiuae | Falcon3-1B-Instruct | huggingface-llm-falcon-3-1B-Instruct | Textgenerierung | andere | Nein | Standard: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:+ `generate_best_price_performance`(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlarge
+ `generate_highest_throughput`(Generieren, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `generate_lowest_cost`(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge `interact_lowest_cost` `max_context_lowest_cost`
+ `generate_lowest_latency`(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge
+ `interact_best_price_performance`(Interaktiv, ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge
+ `interact_highest_throughput`(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `interact_lowest_latency`(Interact, Latenz optimiert): ml.g5.2xlarge, ml.g6.48xlarge, ml.g6e.48xlarge
+ `max_context_highest_throughput`(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
+ `max_context_lowest_latency`(Maximaler Kontext, Latenz optimiert): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge |
| Tiiuae | Falcon3-3B-Base | huggingface-llm-falcon-3-3B-base | Textgenerierung | andere | Nein | ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48 x groß, ml. g 6,4 x groß, ml. g 6,8 x groß, ml. g 6,4 x groß, ml. G 6,4 x groß, ml. G 5,48 x groß |
| Tiiuae | Falcon3-3B-Instruct | huggingface-llm-falcon-3-3B-Instruct | Textgenerierung | andere | Nein | ml.g4dn.12x groß, ml.g4dn.16 x groß, ml.g4dn.4xgroß, ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.4x groß, ml.g6.12x groß, ml.g6.12x groß, ml.g6,16 x groß, ml.g246.6x groß x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.p 3,2 x groß |
| Tiiuae | Falcon3-7B-Base | huggingface-llm-falcon-3-7B-base | Textgenerierung | andere | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6,48 x groß, ml.p4d.24 x groß, ml.p 5.48 x groß |
| Tiiuae | Falcon3-7B-Instruct | huggingface-llm-falcon-3-7B-Instruct | Textgenerierung | andere | Nein | ml.g4dn.12 x groß, ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.8 x groß, ml.g6e.xgroß |
| Tinyllama | Tiny Lama 1,1B | huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß |
| Kleines Lama | Tiny Lama 1.1B Chat V0.6 | huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß |
| Kleines Lama | Tiny Lama 1.1B Chat V1 | huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0 | Textgenerierung | Apache 2.0 | Nein | ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß |
| Zusammen Computer | RedPajama INCITE Chat 3B V1 | huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Zusammen Computer | RedPajama INCITE Chat 7B V1 | huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Zusammen Computer | RedPajama INCITE Instruct 3B V1 | huggingface-textgeneration1-redpajama-incite-instruct-3Bv1fp16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Zusammen Computer | RedPajama INCITE Instruktion 7B V1 | huggingface-textgeneration1-redpajama-incite-instruct-7B1fp16 | Textgenerierung | Apache 2.0 | Ja | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| Tokyotech-Llm | Swallow-7b-instruct-hf | huggingface-llm-swallow-7b-instruct-hf | Textgenerierung | Lama 2 | Nein | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, .g 6,2 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß |
| Volrath 50 | Verbreitung von Fantasy-Karten von Volrath50 | huggingface-txt2img-volrath50-fantasy-card-diffusion | Text-to-Image | creativeml-openrail-m | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß |
| Writer | Writer Palmyra Small | huggingface-llm-writer-palmyra-small | Textgenerierung | Apache 2.0 | Nein | ml.g5.2xlarge |
| Zai-Org | GLM-5.1-FP8 | huggingface-llm-glm-5-1-fp8 | Textgenerierung | Apache-2.0 | Nein | ml.p5en.48x groß |
------
#### [ Proprietary Models (121) ]
Proprietäre Stiftungsmodelle werden von Drittanbietern über Amazon angeboten. SageMaker JumpStart Um ein proprietäres Basismodell verwenden zu können, müssen Sie das Modell zunächst auf AWS Marketplace abonnieren. Nach dem Abonnement können Sie das Foundation-Modell in Amazon SageMaker Studio finden und bereitstellen.
| Modellname | Modell-ID | Aufgabe | Fine-tunable | Unterstützte Inferenz-Instance-Typen |
| --- | --- | --- | --- | --- |
| A.X 4.0 Licht | sk-telecom-ax4-light | Textgenerierung | Nein | ml.g5.2xlarge |
| AI21 Kontextuelle Antworten | ai21-contextual-answers | Textgenerierung | Nein | ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,48 x groß, ml.p4d. 24 x groß |
| AI21 Jurassic-2 Licht | ai21-jurassic-2-light | Textgenerierung | Nein | ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.48x groß, ml.p4d.24x groß |
| AI21 Jurassic-2 Mid | ai21-jurassic-2-grande-instruct | Textgenerierung | Nein | ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.48x groß, ml.p4d.24x groß |
| AI21 Jurassic-2 Ultra | ai21-jurassic-2-jumbo-instruct | Textgenerierung | Nein | ml.g 5,48 x groß, ml.p4d. 24 x groß, ml.p4 de 24 x groß |
| AI21 Paraphrase | ai21-paraphrase | Textgenerierung | Nein | ml.g4dn.2xlarge |
| AI21 Zusammenfassen | ai21-summarization | Textgenerierung | Nein | ml.g4dn.12x groß, ml.g4dn.4x groß, ml.g5.x groß |
| Arcee Lite | arcee-lite | Textgenerierung | Nein | ml.g 5.16x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß |
| Arcee SuperNova | arcee-supernova | Textgenerierung | Nein | ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß |
| Arcee Virtuoso Small | arcee-virtuoso-small | Textgenerierung | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.g6.24x groß, ml.g6.48 x groß, ml.g6e.12x groß, ml.g6e.24xgroß, ml.g6e.48x groß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p4de. p 5,48 x groß |
| Bria 2.2HD Werbespot Text-to-image | bria-ai-2-2-hd-commercial | ReRank | Nein | ml.g5.12x groß, ml.g5,2 x groß, ml.g5,48x groß, ml.p4d.24x groß, ml.p4de.24x groß |
| Bria 2.3 Kommerziell Text-to-image | bria-ai-2-3-commercial | ReRank | Nein | ml. g 5,12 x groß, ml. g 5,2 x groß, ml. g 5,48 x groß, ml. G 5,48 x groß, ml. 4 DE 24 x groß |
| Bria 2.3Fast, kommerziell Text-to-image | bria-ai-2-3-fast-commercial | ReRank | Nein | ml.g 5.12x groß, ml.g 5,2 x groß, ml.g 5,48x groß, ml.p4d.24x groß, ml.p4de.24x groß |
| Cohere-Befehl (RA100) | cohere-command-r-a100 | Textgenerierung | Nein | ml.p4de.24xlarge |
| Cohere-Befehl R (H100) | cohere-command-r-h100 | Textgenerierung | Nein | ml.p5.48xlarge |
| Cohere-Befehl R\+ (A100) | cohere-command-r-plus-a100 | Textgenerierung | Nein | ml.p4de.24xlarge |
| Cohere-Befehl R\+ (H100) | cohere-command-r-plus-h100 | Textgenerierung | Nein | ml.p5.48xlarge |
| Cohere Embed 4 | cohere-embed-v4-0 | Einbettung von Text | Nein | ml.g5,2 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6.x groß |
| Cohere Embed Light Modell v3 — Englisch | cohere-embed-light-english | Einbettung von Text | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xlarge, ml.p3.2xgroß |
| Cohere Embed Light v3 - Mehrsprachig | cohere-embed-light-multilingual | Einbettung von Text | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß |
| Cohere Embed Modell 3 - Mehrsprachig | cohere-embed-multilingual | Einbettung von Text | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß |
| Cohere Embed Model v3 — Englisch | cohere-embed-english | Einbettung von Text | Nein | ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge |
| Cohere Rerank 2 Modell - Englisch | cohere-rerank-english-v2 | ReRank | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xlarge, ml.p3.2xgroß |
| Modell Cohere Rerank 2 — Mehrsprachig | cohere-rerank-multilingual-v2 | ReRank | Nein | ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß |
| Cohere Rerank 3 Modell - Englisch | cohere-rerank-v3-english | ReRank | Nein | ml.g5,2 x groß, ml.g5,x groß |
| Cohere Rerank 3-Modell — Mehrsprachig | cohere-rerank-v3-multilingual | ReRank | Nein | ml.g5,2 x groß, ml.g5,x groß |
| Cohere Rerank 3 Nimble Model — Englisch | cohere-rerank-nimble-english | ReRank | Nein | ml.g5,2 x groß, ml.g5,x groß |
| Cohere Rerank 3 Nimble Modell — Mehrfarbig | cohere-rerank-nimble-multi | ReRank | Nein | ml.g5,2 x groß, ml.g5,x groß |
| Cohere Rerank v3.5 | cohere-rerank-v3-5 | Einbettung von Text | Nein | ml.g5,2 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6,x groß |
| Cohere Rerank v4.0 Schnell | cohere-rerank-v4-0-fast | Einbettung von Text | Nein | ml.g5.2x groß, ml.g5.xgroß, ml.p5.4x groß |
| Cohere Rerank v4.0 Pro | cohere-rerank-v4-0-pro | Einbettung von Text | Nein | ml.g5.2x groß, ml.g5.x groß, ml.p5.4x groß |
| Befehl A (A100) | cohere-command-a-a100 | Textgenerierung | Nein | ml.p4de.24xlarge |
| Befehl A (H100) | cohere-command-a-h100 | Textgenerierung | Nein | ml.p5.48xlarge |
| Befehl R 08-2024 (H100) | cohere-command-r-08-2024-h100 | Textgenerierung | Nein | ml.p5.48xlarge |
| Befehl R\+ 08-2024 (H100) | cohere-command-r-plus-08-2024-h100 | Textgenerierung | Nein | ml.p5.48xlarge |
| Dokument OCR | upstage-document-ocr | Optische Zeichenerkennung | Nein | ml.g5.2xlarge |
| Analysieren von Dokumenten | upstage-document-layout-analysis | Optische Zeichenerkennung | Nein | ml.g 5,2 x groß, ml.g 6,2 x groß, ml.p 3,2 x groß |
| Einbetten | upstage-solar-embedding-large | Einbettung von Text | Nein | ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß |
| ESM3-open | evolutionary-scale-esm3 | Multimodale Generierung | Nein | ml. g 5,4 x groß, ml. g 5,8 x groß |
| Evo2-NIM | nvidia-evo2-nim | Textgenerierung | Nein | ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xgroß |
| EXAONE Atelier - Bild zu Text | lgresearch-exaone | Generierung von Bild zu Text | Nein | ml.g5.12x groß, ml.g5.48x groß, ml.g5.x groß, ml.p4d.24x groß |
| Gretel Navigator Tabular | gretel-navigator-tabular | Textgenerierung | Nein | ml.g5,2 x groß, ml.g5.xgroß |
| H-Optimus-0 | bioptimus-h-optimus-0 | Extraktion von Merkmalen | Nein | ml.g5.xlarge |
| IBM Granite 20B Code Instruct - 8K | ibm-granite-20b-code-instruct-8k | Textgenerierung | Nein | ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß |
| IBM Granite 3.0 2B Anleitung | granite-3-0-2b-instruct | Textgenerierung | Nein | ml.p4d. 24 x groß, ml.p 5,48 x groß |
| IBM Granite 3.0 8B Anleitung | granite-3-0-8b-instruct | Textgenerierung | Nein | ml.p4d. 24 x groß, ml.p 5,48 x groß |
| IBM Granite 3.2 Instruktion 2B | ibm-granite-3-2-2b-instruct | Textgenerierung | Nein | ml.g6.12x groß, ml.g6.16x groß, ml.g6.24x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24xgroß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß p 5,48 x groß |
| IBM Granite 3.2 Instruct 8 B | ibm-granite-3-2-8b-instruct | Textgenerierung | Nein | ml.g6.12x groß, ml.g6.16x groß, ml.g6.24x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24xgroß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß p 5,48 x groß |
| IBM Granite 34B Code Instruct - 8K | ibm-granite-34b-code-instruct-8k | Textgenerierung | Nein | ml.g 5,12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß |
| IBM Granite 3B Code Instruct - 128K | ibm-granite-3b-code-instruct-128k | Textgenerierung | Nein | ml. g 5,12 x groß, ml. g 5,16 x groß, ml. g 5,24 x groß, ml. g 5,4 x groß, ml. g 5,8 x groß |
| IBM Granite 4.0 h-Mikro | ibm-granite-4-0-h-micro | Textgenerierung | Nein | ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge |
| IBM Granite 4,0 h - klein | ibm-granite-4-0-h-small | Textgenerierung | Nein | ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge |
| IBM Granite 4.0 h-winzig | ibm-granite-4-0-h-tiny | Textgenerierung | Nein | ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge |
| IBM Granite 8B Code Instruct - 128K | ibm-granite-8b-code-instruct-128k | Textgenerierung | Nein | ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß |
| ixi- GEN-Fin-7.8B | lg-ixi-gen | Textgenerierung | Nein | ml.g5.4xlarge |
| JetBrains AI Mellum Alle | jbai-mellum-all | Generierung von Text zu Text | Nein | ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge |
| JetBrains KI Mellum Kotlin | jbai-mellum-kotlin | Generierung von Text zu Text | Nein | ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge |
| JetBrains AI Mellum Python | jbai-mellum-python | Generierung von Text zu Text | Nein | ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge |
| Jina Embeddings v2 Base - de | jinaai-embeddings-v2-base-en | Einbettung von Text | Nein | ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, .g 5,4 x groß, ml.g 5,8 x groß, ml.g5.x groß, ml.p 2,16 x groß, ml.p 2,8 x groß, ml.p2.x groß, ml.p3,16 x groß, ml.p 3,2 x groß, ml.p 3,8 x groß |
| KARAKURI LM 8x7b instruct | karakuri-lm-8x7b-instruct | Textgenerierung | Nein | ml. g 5,48 x groß, ml. g 6,48 x groß |
| LightOn Lyra-Fr 10 B | lighton-lyra-fr | Textgenerierung | Nein | ml.p4d.24xlarge |
| LightOn Mini-instruct 40 B | lighton-mini-instruct40b | Textgenerierung | Nein | ml.p4d.24xlarge |
| Flüssiges LFM 40B (A100) | liquid-lfm-40b-a100 | Textgenerierung | Nein | ml.p4d.24xlarge |
| Flüssiges LFM 40B (H100) | liquid-lfm-40b-h100 | Textgenerierung | Nein | ml.p5.48xlarge |
| Flüssiges LFM 40B (L40S) | liquid-lfm-40b-l40s | Textgenerierung | Nein | ml.g6e.12xlarge |
| Flüssiges LFM 7B (L40S) | liquid-lfm-7b-l40s | Textgenerierung | Nein | ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß |
| Lama 3.1 Nemotron Nano 8B V1 | nvidia-nemotron-nano-8b-nim | Textgenerierung | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48xgroß, ml.g6e.4x groß, ml.g6e.8x groß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.8x groß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.8x groß p4 de.24 x groß, ml.p 5.48 x groß, ml.p5e.48 x groß, ml.p 5 en.48 x groß |
| Lama 3.1 SuperNova Lite | arcee-llama-3-1-supernova-lite | Textgenerierung | Nein | ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,4 x groß, ml. g 5,8 x groß, ml. g 6,2 x groß, ml. g 6,4 x groß, ml. g 6,8 x groß |
| Lama 3.2 hat den NIM-Microservice mit 1B bewertet | nvidia-llama3-2-nv-rerankqa-1b-v2-nim | Textgenerierung | Nein | ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß P4D. 24 x groß, ml. P4 DE. 24 x groß, ml. P 5,48 x groß |
| Lama 3.3 Nemotron Super 49B V1 | nvidia-nemotron-super-49b-nim | Textgenerierung | Nein | ml.g5.48xgroß, ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge |
| Lama 3.3 Nemotron Super 49B V1.5 | nvidia-nemotron-super-49b-nim-1-5 | Textgenerierung | Nein | ml.g5.48xgroß, ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p4.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge |
| Lama Spark | arcee-llama-spark | Textgenerierung | Nein | ml.g 5,16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß |
| Llama-3-Varco-Offsetbias-8B | ncsoft-llama-3-varco-offsetbias-8b | Textgenerierung | Nein | ml.g5.12xlarge |
| Llama-3.1-8B-Instruct mit Stained Glass Transform Support | protopia-llama-3-1-8b-instruct | Textgenerierung | Nein | ml.g4dn.12x groß, ml.g5,16 x groß, ml.g5,4 x groß |
| Llama-3.2-NV-EmbedQA-1B-v2 | nvidia-llama3-2-nv-embedqa-1b-v2-nim | Einbettung von Text | Nein | ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß P4D. 24 x groß, ml. P4 DE. 24 x groß, ml. P 5,48 x groß |
| MARS6 | cambai-mars6 | Text zu Audio | Nein | ml.g4dn.2 x groß, ml.g6,2 x groß |
| Medical LLM - Medium | john-snow-labs-medical-summarization-qa-8b | Textzusammenfassung | Nein | ml.g4dn.12 x groß, ml.g5,2 x groß |
| Medical LLM - Small | john-snow-labs-summarization-qa | Textzusammenfassung | Nein | ml.g5.12xlarge |
| Übersetzung medizinischer Texte () EN-ES | john-snow-labs-medical-translation-en-es | Übersetzung | Nein | ml.g5.2xlarge |
| Merkur | inception-mercury | Textgenerierung | Nein | ml.p5.48xlarge |
| Mercury Coder | inception-mercury-coder | Textgenerierung | Nein | ml.p5.48xlarge |
| msa-Suche | nvidia-nim-msa-search-v2-1 | Textgenerierung | Nein | ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge |
| Nemotron nano 9b v2 | nvidia-nemotron-nano-9b-v2 | Textgenerierung | Nein | ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5.4xgroß, ml.p5e.48xgroß, ml.p5en.48xgroß |
| nemotron-parsen | nvidia-nemotron-parse | Textgenerierung | Nein | ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß, ml.g 5,4 x groß, ml.g5,8 x groß, ml.g5.x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48xgroß, ml.g6e.4xgroß, ml.g6e.8xgroß, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5.4xgroß, ml.p5e.48xlarge, ml.p5en.48xlarge |
| NEXUS von Fundamental | fundamental-technologies-nexus | Klassifizierung | Nein | ml.g4dn.8x groß, ml.p5en.48x groß |
| Nomic Text v1.5 einbetten | nomic-embed-text | Einbettung von Text | Nein | ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, g 5,4 x groß, ml. g 5,8 x groß, ml. g 5,x groß, ml. G 3,16 x groß, ml. G 3,2 x groß, ml. P 3,8 x groß |
| Nomic Embed Vision v1.5 | nomic-embed-image | Einbettung von Text | Nein | ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, g 5,4 x groß, ml. g 5,8 x groß, ml. g 5,x groß, ml. G 3,16 x groß, ml. G 3,2 x groß, ml. P 3,8 x groß |
| NVIDIA-Kosmos Reason-1-7B | nvidia-nim-cosmos-reason1-7b | Textgenerierung | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48xgroß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xlarge, ml.pp 4d.24x groß, ml.p4de.24x groß, ml.p5.48x groß, ml.p5.4x groß, ml.p5e.48x groß, ml.p5en.48x groß |
| NVIDIA Nemotron-4 15B NIM-Microservice | nvidia-nemotron-4-15b-nim | Textgenerierung | Nein | ml.g5.12x groß, ml.g5.24x groß |
| NVIDIA Parakeet VTDT 0.6B v2 | nvidia-parakeetvtdt-0-6b-v2 | Generierung von Audio2-Text | Nein | ml.g6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß |
| NVIDIA-Parakeet-1-1b-CTC-EN-US-ASR | nvidia-parakeet-1-1b-ctc-en-us-asr | Audio2-Text-Generierung | Nein | ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.p4d.24xgroß, ml.p4de.24xgroß |
| Kugel | orbital-materials-orb | Wissenschaftliche Modellierung | Nein | ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.p3.16xgroß, ml.p3.2xgroß, ml.p3.8xgroß, ml.p4d.24xgroß |
| PLaMo Private Bereitstellung | preferred-networks-plamo-api | Textgenerierung | Nein | ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß |
| ProteinMPNN-NIM | nvidia-nim-proteinmpnn-v1-0-2 | Textgenerierung | Nein | ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xlarge, ml.p5en.48xlarge |
| Rerank-Lite-1 Reranker | voyage-rerank-lite-1-reranker | ReRank | Nein | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.x groß |
| Solar Mini - Quant | upstage-solar-mini-chat-quant | Textgenerierung | Nein | ml.g5.2xlarge |
| Solar Pro - Quant | upstage-solar-pro-quantized | Textgenerierung | Nein | ml.g5.12xlarge |
| Solar Pro 2 | upstage-solar-pro | Textgenerierung | Nein | ml.p4 d. 24 x groß, ml.p 5,48 x groß |
| Sonic 3 SageMaker | cartesia-sonic-3-sagemaker | Text zu Audio | Nein | ml.g6e.xlarge |
| Stable Diffusion 3.5 Large | stabilityai-stable-diffusion-3-5-large | Text zum Bild | Nein | ml.p5.48xlarge |
| Stable Diffusion XL 1,0 | stabilityai-sdxl-1-0 | Text zum Bild | Nein | ml.g5,2 x groß, ml.p4d. 24 x groß, ml.p4de. 24 x groß |
| Stabile Diffusion XL Beta 0,8 | stabilityai-sdxl-beta-0-8 | Text zum Bild | Nein | ml.g5.xlarge |
| Stockmark-LLM-13b | stockmark-llm-13b | Textgenerierung | Nein | ml.g5.2xlarge |
| VARCO LLM KO-1.3B-IST | ncsoft-ko-1-3b-ist | Textgenerierung | Nein | ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß |
| BARCO LLM KO-6.4B-IST | ncsoft-ko-6-4b-ist | Textgenerierung | Nein | ml.g4dn.4 x groß, ml.g4dn.8 x groß, ml.g5.12x groß, ml.g5,4 x groß, ml.g5,8 x groß |
| BARCO LLM KO/EN-13B-IST | ncsoft-ko-13b-ist | Textgenerierung | Nein | ml.g 4 dn. 12 x groß, ml. g 5,12 x groß |
| voyage-2 Einbettungsmodell | voyage-2-embedding | Einbettung von Text | Nein | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.x groß |
| voyage-3 Einbettungsmodell | voyage-3-embedding | Einbettung von Text | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6,8 x groß, ml.g6,x groß |
| voyage-3 Großes Einbettungsmodell | voyage-3-large-embedding | Einbettung von Text | Nein | ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5,x groß, ml.g 6,4 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,x groß |
| voyage-3.5 Einbettungsmodell | voyage-3-5-embedding | Einbettung von Text | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6,8 x groß, ml.g6,x groß |
| voyage-3.5-lite Einbettungsmodell | voyage-3-5-lite-embedding | Einbettung von Text | Nein | ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g6.16 x groß, ml.g6,2 x groß, ml.g6,2 x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.xgroß |
| voyage-code-2 Einbettungsmodell | voyage-code-2-embedding | Einbettung von Text | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß |
| voyage-code-3 Einbettungsmodell | voyage-code-3-embedding | Einbettung von Text | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß |
| voyage-large-2 Einbettungsmodell | voyage-large-2-embedding | Einbettung von Text | Nein | ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6.xgroß |
| Widn Tower Anthill | widn-tower-anthill | Übersetzung | Nein | ml.g5.xlarge |
| Widn Tower Sugarloaf | widn-tower-sugarloaf | Übersetzung | Nein | ml.g5.12xlarge |
| Windturm Vesuv | widn-llama3-tower-vesuvius | Übersetzung | Nein | ml.g 5,48 x groß, ml.p4 d. 24 x groß, ml.p 4 de 24 x groß |
| KI-Vision-Engine von Woven City | wovenbytoyota-woven-city-ai-vision-engine | Multimodale Generierung | Nein | ml. g 5.12 x groß, ml. g 5,24 x groß, ml. g 5,8 x groß |
| Autor Palmyra-Fin-70B-32K | writer-palmyra-fin-70b-32k | Textgenerierung | Nein | ml.p4d.24xlarge |
| Autor Palmyra-Med-70B-32K | writer-palmyra-med-70b-32k | Textgenerierung | Nein | ml.p4d.24xlarge |
| Autor Palmyra-X-004 | writer-palmyra-x-004 | Textgenerierung | Nein | ml.p5.48xlarge |
------
#### [ Built-in Algorithms (135) ]
Amazon SageMaker JumpStart bietet vortrainierte, aufgabenspezifische Modelle für gängige Computer-Vision-Aufgaben wie Bildklassifizierung, Objekterkennung und Bildsegmentierung. Diese Modelle basieren auf etablierten Deep-Learning-Frameworks (PyTorch,TensorFlow,MXNet) und können sofort eingesetzt oder anhand Ihrer eigenen Daten optimiert werden.
| Anbieter | Modellname | Modell-ID | Aufgabe | License | Fine-tunable | Unterstützte Inferenz-Instanztypen |
| --- | --- | --- | --- | --- | --- | --- |
| Mxnet | Schnellerer RCNN 101 V1d ResNet | mxnet-od-faster-rcnn-fpn-resnet101-v1d-coco | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Schnellerer RCNN 101 V1d ResNet | mxnet-od-faster-rcnn-resnet101-v1d-coco | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Schnellerer RCNN 50 V1b ResNet | mxnet-od-faster-rcnn-fpn-resnet50-v1b-coco | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Schnellerer RCNN 50 V1b ResNet | mxnet-od-faster-rcnn-resnet50-v1b-coco | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Schnellerer RCNN 50 V1b ResNet | mxnet-od-faster-rcnn-resnet50-v1b-voc | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | FCN 101 ADE20K ResNet | mxnet-semseg-fcn-resnet101-ade | Segmentierung von Bildern | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | FCN ResNet 101 Pascal VOC | mxnet-semseg-fcn-resnet101-voc | Segmentierung von Bildern | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | FCN 50 ADE20K ResNet | mxnet-semseg-fcn-resnet50-ade | Segmentierung von Bildern | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Instance-Segmentierung | mxnet-is-mask-rcnn-fpn-resnet101-v1d-coco | Segmentierung von Bildern | Apache 2.0 | Nein | ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß |
| Mxnet | MASKE RCNN FPN RESNET18 COCO | mxnet-is-mask-rcnn-fpn-resnet18-v1b-coco | Segmentierung von Bildern | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | MASKE RCNN FPN RESNET50 COCO | mxnet-is-mask-rcnn-fpn-resnet50-v1b-coco | Segmentierung von Bildern | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | MASKE RCNN RESNET18 COCO | mxnet-is-mask-rcnn-resnet18-v1b-coco | Segmentierung von Bildern | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Objekterkennung | mxnet-od-ssd-512-mobilenet1-0-coco | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | Semantische Segmentierung | mxnet-semseg-fcn-resnet101-coco | Segmentierung von Bildern | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | SSD 512 ResNet 50 V1 | mxnet-od-ssd-512-resnet50-v1-coco | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | SSD 1,0 MobileNet | mxnet-od-ssd-512-mobilenet1-0-voc | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | SSD ResNet 50 V1 | mxnet-od-ssd-512-resnet50-v1-voc | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | SSD VGG 16 Atrous 300 | mxnet-od-ssd-300-vgg16-atrous-voc | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | SSD VGG 16 Atrous 512 | mxnet-od-ssd-512-vgg16-atrous-coco | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | SSD VGG16 Atrous 300 | mxnet-od-ssd-300-vgg16-atrous-coco | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | SSD VGG16 Atrous 512 | mxnet-od-ssd-512-vgg16-atrous-voc | Objekterkennung | Apache 2.0 | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | YOLO V3 53 DarkNet | mxnet-od-yolo3-darknet53-coco | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | YOLO V3 53 DarkNet | mxnet-od-yolo3-darknet53-voc | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | YOLO V3 1.0 MobileNet | mxnet-od-yolo3-mobilenet1-0-coco | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Mxnet | YOLO V3 1.0 MobileNet | mxnet-od-yolo3-mobilenet1-0-voc | Objekterkennung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| Pytorch | SqueezeNet 1 | pytorch-ic-squeezenet1-1 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | AlexNet | pytorch-ic-alexnet | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | DenseNet 121 | pytorch-ic-densenet121 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | DenseNet 169 | pytorch-ic-densenet169 | Bildklassifizierung | BSD-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | FRCNN MobileNet V3 groß 320 FPN | pytorch-od1-fasterrcnn-mobilenet-v3-large-320-fpn | Objekterkennung | bsd-3-Klausel | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß |
| Pytorch | FRCNN V3 großes VPN MobileNet | pytorch-od1-fasterrcnn-mobilenet-v3-large-fpn | Objekterkennung | bsd-3-Klausel | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß |
| Pytorch | GoogLeNet | pytorch-ic-googlenet | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | Bildklassifizierung | pytorch-ic-mobilenet-v2 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | Objekterkennung | pytorch-od1-fasterrcnn-resnet50-fpn | Objekterkennung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß |
| Pytorch | ResNet 101 | pytorch-ic-resnet101 | Bildklassifizierung | BSD-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | ResNet 152 | pytorch-ic-resnet152 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | ResNet 18 | pytorch-ic-resnet18 | Bildklassifizierung | BSD-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | ResNet 34 | pytorch-ic-resnet34 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | ResNet 50 | pytorch-ic-resnet50 | Bildklassifizierung | BSD-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | Weiter 50 | pytorch-ic-resnext50-32x4d | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | ShuffleNet V2 | pytorch-ic-shufflenet-v2-x1-0 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | SSD | pytorch-od-nvidia-ssd | Objekterkennung | bsd-3-Klausel | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß |
| Pytorch | VGG 1 | pytorch-ic-vgg11 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | VGG 1-BN | pytorch-ic-vgg11-bn | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | VGG 13-N | pytorch-ic-vgg13-bn | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | VGG 16 | pytorch-ic-vgg16 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | VGG 16-BN | pytorch-ic-vgg16-bn | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | VGG 19 | pytorch-ic-vgg19 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | VGG-13 | pytorch-ic-vgg13 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| Pytorch | Breit 101 ResNet | pytorch-ic-wide-resnet101-2 | Bildklassifizierung | bsd-3-Klausel | Ja | ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß |
| TensorFlow | ALBERT-Untergestell | tensorflow-tc-albert-en-base | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | BERT-Basisgehäuse | tensorflow-tc-bert-en-cased-L-12-H-768-A-12-2 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | BERT-Basis MEDLINE/PubMed | tensorflow-tc-experts-bert-pubmed-1 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | BERT Base Mehrsprachiges Gehalten | tensorflow-tc-bert-multi-cased-L-12-H-768-A-12-2 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | BERT Large ohne Hülle | tensorflow-tc-bert-en-uncased-L-24-H-1024-A-16-2 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | BERT Small ohne Gehäuse L-10 H-128 | tensorflow-tcembedding-bert-en-uncased-L-10-H-128-A-2-2 | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | BERT Small ohne Gehäuse L-12 H-256 | tensorflow-tcembedding-bert-en-uncased-L-12-H-256-A-4 | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | BERT Small ohne Gehäuse L-12 H-768 | tensorflow-tcembedding-bert-en-uncased-L-12-H-768-A-12-2 | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | BERT Small ohne Gehäuse L-4 H-768 | tensorflow-tcembedding-bert-en-uncased-L-4-H-768-A-12-2 | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | BiT-M R 10 x 1 | tensorflow-ic-bit-m-r101x1-ilsvrc2012-classification-1 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | BiT-M R101x1 Feature-Vektor | tensorflow-icembedding-bit-m-r101x1-ilsvrc2012-featurevector-1 | Bildklassifizierung | Apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | BiT-M R 50 x 1 ImageNet-21k | tensorflow-ic-bit-m-r50x1-imagenet21k-classification-1 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | Kait S 42 224 | tensorflow-ic-cait-s24-224 | Bildklassifizierung | MIT | Ja | ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | CenterNet ResNet-v1-101 | tensorflow-od-centernet-resnet101v1-fpn-512x512-1 | Objekterkennung | apache-2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | CenterNet ResNet-v1-50 | tensorflow-od-centernet-resnet50v1-fpn-512x512-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | Tiny Distilled Patch 16 224 bearbeiten | tensorflow-ic-deit-tiny-distilled-patch16-224 | Bildklassifizierung | MIT | Ja | ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | EfficientNet B0 | tensorflow-ic-efficientnet-b0-classification-1 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | EfficientNet B1 | tensorflow-ic-efficientnet-b1-classification-1 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | EfficientNet B1-Feature-Vektor | tensorflow-icembedding-efficientnet-b1-featurevector-1 | Bildklassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | EfficientNet B3 | tensorflow-ic-efficientnet-b3-classification-1 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | EfficientNet B7 | tensorflow-ic-efficientnet-b7-classification-1 | Bildklassifizierung | Apache-2.0 | Ja | ml.c 5,9 x groß, ml.g 4 dn. 8 x groß, ml.p 3,8 x groß |
| TensorFlow | EfficientNet V2 ImageNet-1k Klein | tensorflow-ic-efficientnet-v2-imagenet1k-s | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | EfficientNet V2 ImageNet-21k FT1K M | tensorflow-ic-efficientnet-v2-imagenet21k-ft1k-m | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | R-CNN Schnelleres Resnet V2 1024x1024 | tensorflow-od-faster-rcnn-inception-resnet-v2-1024x1024-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | Schnellerer V1 R-CNN Resnet-101 640x640 | tensorflow-od-faster-rcnn-resnet101-v1-640x640-1 | Objekterkennung | Apache-2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | Schnellere V1 R-CNN Resnet-50 1024x1024 | tensorflow-od-faster-rcnn-resnet50-v1-1024x1024-1 | Objekterkennung | Apache-2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | Schnellerer V1 R-CNN Resnet-50 640x640 | tensorflow-od-faster-rcnn-resnet50-v1-640x640-1 | Objekterkennung | Apache-2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | Schnellerer V1 R-CNN Resnet-50 800x1333 | tensorflow-od-faster-rcnn-resnet50-v1-800x1333-1 | Objekterkennung | Apache-2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | RÜSCHEN | tensorflow-audioembedding-frill-1 | Audio-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | Bildklassifizierung | tensorflow-ic-swin-base-patch4-window7-224 | Bildklassifizierung | MIT | Ja | ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | Einbettung von Bildern | tensorflow-icembedding-imagenet-mobilenet-v2-100-224-fv-4 | Bildklassifizierung | apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | Inception V3 | tensorflow-ic-imagenet-inception-v3-classification-4 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | Vorschau-Feature-Vektor für Inception V3 | tensorflow-icembedding-tf2-preview-inception-v3-fv-4 | Bildklassifizierung | Apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | MobileNet V2 | tensorflow-ic-tf2-preview-mobilenet-v2-classification-4 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | MobileNet V2 0,35 128 | tensorflow-ic-imagenet-mobilenet-v2-035-128 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | MobileNet V2 0,50 224 | tensorflow-icembedding-imagenet-mobilenet-v2-050-224-fv-4 | Bildklassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | MobileNet V2 1,0 224 | tensorflow-ic-imagenet-mobilenet-v2-100-224-classification-4 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | MobileNet V2 1,40 224 | tensorflow-ic-imagenet-mobilenet-v2-140-224-classification-4 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | MobileNet V2-Feature-Vektor | tensorflow-icembedding-tf2-preview-mobilenet-v2-featurevector-4 | Bildklassifizierung | Apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | MobileNet V2-Feature-Vektor | tensorflow-icembedding-tf2-preview-mobilenet-v2-fv-4 | Bildklassifizierung | Apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | MobileNet V3 Groß 1.00 224 | tensorflow-ic-imagenet-mobilenet-v3-large-100-224 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | MobileNet V3 Klein 0,75 224 | tensorflow-ic-imagenet-mobilenet-v3-small-075-224 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | MobileNet V3 Klein 1,00 224 | tensorflow-ic-imagenet-mobilenet-v3-small-100-224 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge |
| TensorFlow | Objekterkennung | tensorflow-od1-ssd-resnet50-v1-fpn-640x640-coco17-tpu-8 | Objekterkennung | apache-2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | ResNet 50 | tensorflow-ic-resnet-50-classification-1 | Bildklassifizierung | Apache-2.0 | Ja | ml.c 5,9 x groß, ml.g 4 dn. 8 x groß, ml.p 3,8 x groß |
| TensorFlow | ResNet Vektor mit 50 Merkmalen | tensorflow-icembedding-resnet-50-featurevector-1 | Bildklassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | ResNet V1 50 | tensorflow-ic-imagenet-resnet-v1-50-classification-4 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | ResNet V2 152 Feature-Vektor | tensorflow-icembedding-imagenet-resnet-v2-152-featurevector-4 | Bildklassifizierung | Apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | ResNet V2 50 | tensorflow-ic-imagenet-resnet-v2-50-classification-4 | Bildklassifizierung | Apache-2.0 | Ja | ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | ResNet V2 50 Feature-Vektor | tensorflow-icembedding-imagenet-resnet-v2-50-featurevector-4 | Bildklassifizierung | Apache-2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | Resnet-101 Retinanet-SSD 640 x 640 | tensorflow-od-retinanet-resnet101-v1-fpn-640x640-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | Kleines BERT L-10 \_ \_ H-512 A-8 | tensorflow-tc-small-bert-bert-en-uncased-L-10-H-512-A-8 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Kleiner BERT L-12 \_ H-256 \_ A-4 | tensorflow-tc-small-bert-bert-en-uncased-L-12-H-256-A-4 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Kleiner BERT L-12 \_ H-768 \_ A-12 | tensorflow-tc-small-bert-bert-en-uncased-L-12-H-768-A-12 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Kleiner BERT L-2 \_ H-128 \_ A-2 | tensorflow-tc-small-bert-bert-en-uncased-L-2-H-128-A-2 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Kleiner BERT L-4 \_ H-512 \_ A-8 | tensorflow-tc-small-bert-bert-en-uncased-L-4-H-512-A-8 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Kleiner BERT L-6 \_ H-768 \_ A-12 | tensorflow-tc-small-bert-bert-en-uncased-L-6-H-768-A-12 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Kleiner BERT L-8 \_ H-768 \_ A-12 | tensorflow-tc-small-bert-bert-en-uncased-L-8-H-768-A-12 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | SSD ResNet 152 V1 FPN 1024x1024 COCO '17 | tensorflow-od1-ssd-resnet152-v1-fpn-1024x1024-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD EfficientDet D0 | tensorflow-od-efficientdet-d0-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | SSD Efficientet D0 512x512 COC '17 | tensorflow-od1-ssd-efficientdet-d0-512x512-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD Efficientet D1 640x640 COC '17 | tensorflow-od1-ssd-efficientdet-d1-640x640-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD EfficientDet D2 | tensorflow-od-efficientdet-d2-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | SSD Efficientet D2 768 x 768 COC '17 | tensorflow-od1-ssd-efficientdet-d2-768x768-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD EfficientDet 3D | tensorflow-od-efficientdet-d3-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | SSD Efficientet D3 896 x 896 COCO '17 | tensorflow-od1-ssd-efficientdet-d3-896x896-coco17-tpu-32 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD EfficientDet D5 | tensorflow-od-efficientdet-d5-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | SSD Mobilenet V1 FPN 640x640 COCO '17 | tensorflow-od1-ssd-mobilenet-v1-fpn-640x640-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD Mobilenet V2 | tensorflow-od-ssd-mobilenet-v2-2 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | SSD Mobilenet V2 640 x 640 | tensorflow-od-ssd-mobilenet-v2-fpnlite-640x640-1 | Objekterkennung | Apache 2.0 | Nein | ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß |
| TensorFlow | SSD Mobilenet V2 320x320 COCO '17 FPN-Lite | tensorflow-od1-ssd-mobilenet-v2-fpnlite-320x320-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD MobileNet V2 640 x 640 COCO FPN-lite '17 | tensorflow-od1-ssd-mobilenet-v2-fpnlite-640x640-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD 101 V1 FPN ResNet 1024x1024 COCO '17 | tensorflow-od1-ssd-resnet101-v1-fpn-1024x1024-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD 101 V1 ResNet FPN 640X640 COCO '17 | tensorflow-od1-ssd-resnet101-v1-fpn-640x640-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD 152 V1 ResNet FPN 640X640 COCO '17 | tensorflow-od1-ssd-resnet152-v1-fpn-640x640-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | SSD 50 G1 FPN ResNet 1024x1024 COCO '17 | tensorflow-od1-ssd-resnet50-v1-fpn-1024x1024-coco17-tpu-8 | Objekterkennung | Apache 2.0 | Ja | ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß |
| TensorFlow | Swin Base 4 12 384 | tensorflow-ic-swin-base-patch4-window12-384 | Bildklassifizierung | MIT | Ja | ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge |
| TensorFlow | Talking Heads groß | tensorflow-tc-talking-heads-large | Textklassifizierung | apache-2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Textklassifizierung | tensorflow-tc-bert-en-uncased-L-12-H-768-A-12-2 | Textklassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß |
| TensorFlow | Einbettung von Text | tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-large-1 | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | TRILL DESTILLIERT | tensorflow-audioembedding-trill-distilled-3 | Audio-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | Trillsson 1 | tensorflow-audioembedding-trillsson1-1 | Audio-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | Trillsson 2 | tensorflow-audioembedding-trillsson2-1 | Audio-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | Trillsson 3 | tensorflow-audioembedding-trillsson3-1 | Audio-Klassifizierung | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
| TensorFlow | Universeller Satzkodierer CMLM Base | tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-base-1 | Einbettung von Text | Apache 2.0 | Nein | ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß |
------
#### [ Classic ML Algorithms (11) ]
Amazon bietet gebrauchsfertige SageMaker JumpStart Implementierungen klassischer Algorithmen für maschinelles Lernen für Aufgaben im Bereich tabellarischer Daten wie Klassifikation, Regression und Zeitreihenprognosen. Diese Algorithmen (XGBoost,,, LightGBM CatBoostscikit-learn,AutoGluon) sind für strukturierte Daten optimiert und können mit Ihren eigenen Datensätzen von Grund auf trainiert werden.
| Anbieter | Modellname | Modell-ID | Aufgabe | License | Fine-tunable | Unterstützte Inferenz-Instanztypen |
| --- | --- | --- | --- | --- | --- | --- |
| Autogluon | AutoGluon Tabellarische Klassifikation | autogluon-classification-ensemble | Tabellarische Klassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß |
| Autogluon | AutoGluon Tabellarische Regression | autogluon-regression-ensemble | Tabellarische Regression | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß |
| Catboost | CatBoost Einstufung | catboost-classification-model | Tabellarische Klassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.c5,9x groß, ml.m4.16x groß, ml.m5.12x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß |
| Catboost | CatBoost Regression | catboost-regression-model | Tabellarische Regression | Apache 2.0 | Ja | ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß |
| Leicht gbm | LightGBM-Klassifizierung | lightgbm-classification-model | Tabellarische Klassifizierung | mit | Ja | ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.c5.9x groß, ml.m4.16x groß, ml.m5.12x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß |
| Leicht gbm | LightGBM-Regression | lightgbm-regression-model | Tabellarische Regression | mit | Ja | ml.c 4,8 x groß, ml.c 5,18 x groß, ml.c 5,2 x groß, ml.c 5,4 x groß, ml.m 5,12 x groß, ml.m 5,24 x groß, ml.m 5,2 x groß, ml.m 5,4 x groß |
| Pytorch | TabTransformer Einstufung | pytorch-tabtransformerclassification-model | Tabellarische Klassifizierung | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß |
| Pytorch | TabTransformer Regression | pytorch-tabtransformerregression-model | Tabellarische Regression | Apache 2.0 | Ja | ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß |
| S lerne | Lineare Klassifizierung | sklearn-classification-linear | Tabellarische Klassifizierung | bsd-3-Klausel | Ja | ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß |
| Xg Boost | XGBoost-Klassifizierung | xgboost-classification-model | Tabellarische Klassifizierung | Apache-2.0 | Ja | ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß |
| Xg Boost | XGBoost-Regression | xgboost-regression-model | Tabellarische Regression | Apache 2.0 | Ja | ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß |
------
**Anmerkung**
Die genauesten und aktuellsten Lizenzinformationen finden Sie auf der Modelldetailseite in Studio oder auf der Modellseite. SageMaker Hugging Face