Llama 3.1 8B.
Llama 3.1 8B ist die kleine, instruktionsoptimierte Ausgabe der Llama-3.1-Reihe von Meta, schnell und effizient. Es eignet sich für Dialog und einfache Textaufgaben, bei denen Tempo und Kosten vor Modellgröße gehen.
- Rechenzentren in Deutschland
- § 203 Verschwiegenheit
- Zero Retention
- Listenpreise
from openai import OpenAI
client = OpenAI(
# eine Zeile — mehr nicht
base_url="https://api.noirdoc.de/v1",
api_key=os.environ["NOIRDOC_KEY"],
)
response = client.chat.completions.create(
model="meta-llama/Meta-Llama-3.1-8B-Instruct", # Anbieter & Modell
messages=[{"role": "user", "content": "Hallo"}],
) Governance.
Je API-Key legst du fest, welche Anbieter, Regionen und Modelle erlaubt sind.
So sieht das im Account aus →- Region
-
Deutschland über IONOS · EU über AKI.IO
- § 203 StGB
-
Verschwiegenheit vereinbart bei IONOS und AKI.IO
Ein Key mit der Regel „nur mit § 203-Vereinbarung“ kann dieses Modell nutzen.
- Gewichte
-
Open-Weight
Ein Key mit der Regel „nur Open Source“ kann dieses Modell nutzen.
Weitere Modelle.
€ · 1M Token Input Cache Read Cache Write Output
Jetzt loslegen.
Mit 5 € Startguthaben direkt auf alle Modelle zugreifen. Fragen vorab klärt der Vertrieb im Gespräch.