Cloudflare Workers AI 2026 Benchmark neuer Modelle — Llama 3.3 vs Mistral Large

Cloudflare Workers AI hat 2026 Llama 3.3 70B und Mistral Large Instruct hinzugefügt. Wir haben praxisnahe Benchmark-Tests zusammen mit den bestehenden Modellen Llama 3.1 und 3.2 durchgeführt.

Kernaussage: Vergleichstest von Llama 3.3 70B und Mistral Large auf Cloudflare Workers AI im Jahr 2026.

Testziele (2026.4)

• @cf/meta/llama-3.1-8b-instruct — standardmäßiges kostenloses Modell
• @cf/meta/llama-3.3-70b-instruct — neues kostenloses Hochleistungsmodell
• @cf/mistral/mistral-large-instruct — neues Premium-Modell
• @cf/openai/gpt-oss-20b — Vergleichsziel für den Benchmark

Latenz (TTFT)

Zeit bis zum ersten Token, basierend auf demselben regionalen PoP:

Das 8B-Modell eignet sich, wenn extrem niedrige Latenz erforderlich ist. Das 70B-Modell verdoppelt die Latenz ungefähr, verbessert die Qualität jedoch deutlich.

Koreanische Qualität

Ergebnisse aus Tests zur koreanischen Zusammenfassung und Übersetzung:

Mistral Large erzeugte am natürlichsten koreanische Höflichkeitssprache. Wenn Ihr Hauptanwendungsfall Koreanisch ist, wird Mistral empfohlen.

Codegenerierung

Ergebnisse aus Tests mit 100 Algorithmusaufgaben in Python und TypeScript:

Praktische Codegenerierung für Produktionsarbeit wird mit Modellen ab der 70B-Skala realistisch.

Kosten (2026.4)

• Llama 3.1/3.2: kostenlos 10K Tokens/Tag pro Konto
• Llama 3.3 70B: kostenpflichtig, etwa $0.60 pro 1 Million Tokens
• Mistral Large: kostenpflichtig, etwa $3.00 pro 1 Million Tokens

Die kostenlose Stufe reicht für Traffic in kleinem Umfang aus. Für kommerzielle Dienste wird die Preisgestaltung ab dem 70B-Modell praktikabel.

Nutzungsbeispiel

export default {
  async fetch(req: Request, env: Env) {
    const ai = env.AI
    const result = await ai.run(
      "@cf/meta/llama-3.3-70b-instruct",
      {
        messages: [
          { role: "user", content: "한국어 존댓말로 인사해줘" },
        ],
        max_tokens: 100,
      }
    )
    return Response.json(result)
  },
}

Empfohlene Kombinationen

• Kostenloser Prototyp: Llama 3.1 8B
• Produktionsdienst auf Koreanisch: Mistral Large
• Englischbasierte hohe Leistung: Llama 3.3 70B
• Kostenkritische Aufrufe mit hohem Volumen: Llama 3.1 8B + Caching

💡 Praktische Erkenntnisse

Viele koreanische IT-Blogs listen lediglich Benchmark-Werte nach Modell auf, doch in realen koreanischen Traffic-Umgebungen ist der PoP-Standort wichtiger als die Modellauswahl. Im April 2026 ergab der Vergleich der PoPs ICN (Seoul), NRT (Tokio) und HKG (Hongkong), dass NRT-Routing eine durchschnittliche P50-Latenz erzeugte, die 70-90ms höher lag als bei ICN. Selbst wenn Sie zu einem 8B-Modell wechseln, kann der falsche PoP-Standort es langsamer machen als ein 70B-Modell. Der offizielle Leitfaden von Cloudflare beschreibt dies nur als "automatic edge routing", doch bei koreanischen ISPs (KT, SKB und LGU+) verlässt der Traffic das Netz häufig über NRT. Daher sollten Sie erst entscheiden, nachdem Sie P99 mit echtem Nutzer-Traffic gemessen haben. Zweitens ist laut den digitalen Branchentrends 2026 von Statistics Korea der durchschnittliche LLM-Kostenanteil für inländisches SaaS auf 23% gestiegen, sodass ungezielte Aufrufe von Mistral Large ($3/M) ein Monatsbudget von $20 bereits nach nur 50.000 Tokens aufbrauchen können. Für kleine koreanische Websites ist ein Muster unverzichtbar, das durch die Kombination von KV-Caching (1 Stunde TTL) und 8B-Routing in der Klassifizierungsphase mehr als 80% der tatsächlichen Aufrufe mit dem kostenlosen Modell abwickelt. Bewerten Sie die Qualität koreanischer Höflichkeitsformen schließlich nicht nur anhand einer Fünf-Sterne-Wertung. Führen Sie einen A/B-Test mit 50 Sätzen durch und verwenden Sie dafür ein auf Ihre Domäne zugeschnittenes Korpus, etwa Immobilien, Steuern oder Gesundheitswesen. Mistral Large belegte in allgemeinen Gesprächen den ersten Platz, doch Llama 3.3 70B war bei Finanzbegriffen oder juristischen Texten häufig genauer.

Fazit

Workers AI-Modelle haben sich 2026 schnell erweitert. Wenn Sie LLM-Infrastruktur benötigen, die am Edge läuft, ohne eine externe API aufzurufen, ist die Auswahl des richtigen Modells für Ihren Anwendungsfall der wirtschaftlichste Ansatz.

FAQ

Q1. Wird die kostenlose Stufe von Cloudflare Workers AI weiterbestehen?

A: Stand 2026 ist das kostenlose Kontingent von 10.000 Tokens pro Tag für Llama 3.1 8B weiterhin verfügbar. Da sich dies jedoch durch Cloudflare-Richtlinien ändern kann, sollten Sie das aktuelle Kontingent am besten im offiziellen Dashboard prüfen.

Q2. Was ist günstiger, Workers AI oder die externe OpenAI API?

A: Auf einem vergleichbaren Qualitätsniveau (etwa 70B) kostet Workers AI Llama 3.3 70B $0.60 pro 1 Million Tokens, während OpenAI GPT-4o mini $0.15 kostet. Workers AI hat jedoch den Vorteil niedrigerer Latenz durch Edge-Ausführung und keine zusätzlichen API-Gebühren.

Q3. Kann Workers AI Streaming-Antworten bereitstellen?

A: Ja. Wenn Sie die Option stream: true hinzufügen, werden Tokens über Server-Sent Events (SSE) gestreamt. Damit können Sie einen ChatGPT-ähnlichen Tippeffekt umsetzen.

Q4. Welches Modell ist für einen rein koreanischen Dienst am besten?

A: Basierend auf dem Benchmark 2026 schneidet Mistral Large bei koreanischer Natürlichkeit und Genauigkeit der Höflichkeitsformen am besten ab. Wenn Kosten ein Thema sind, ist Llama 3.3 70B die nächstbeste Option.

Q5. Speichert Workers AI Daten in Cloudflare?

A: Es werden nur Anfrageprotokolle gespeichert, und Daten werden nicht zu Trainingszwecken gesammelt. Bei der Verarbeitung sensibler Daten empfiehlt es sich, Cloudflares Data Processing Addendum (DPA) zu prüfen.

Q6. Können auch Embedding-Modelle in Workers AI verwendet werden?

A: Ja. Text-Embedding-Modelle wie @cf/baai/bge-small-en-v1.5 sind verfügbar und können zum Aufbau von RAG-Pipelines (Retrieval-Augmented Generation) genutzt werden.

Expertentipp: Optimierungsmuster für Workers AI in Produktion

Kosten durch Caching um 90% senken: Wenn Sie denselben Prompt wiederholt aufrufen, können Sie API-Aufrufe deutlich reduzieren, indem Sie Antworten im KV-Speicher zwischenspeichern. Verwenden Sie eine TTL von 1 Stunde, um Kosten und Aktualität auszubalancieren.

Strategie für Modell-Routing:

• Einfache Klassifizierung und Tagging: Llama 3.1 8B (kostenlos, schnell)
• Komplexe Textgenerierung und Koreanisch: Mistral Large
• Codegenerierung und logisches Schlussfolgern: Llama 3.3 70B

Fehlerbehandlung ist erforderlich: Workers AI kann bei Traffic-Spitzen 503-Fehler zurückgeben. Sie müssen Retry-Logik mit exponentiellem Backoff implementieren.

Verwandte Leitfäden

• Aufbau eines kostenlosen Cloudflare Workers AI LLM-Endpunkts — praxisnaher Implementierungsleitfaden
• Vergleich von Cloudflare Workers und Vercel Edge Functions — Kriterien für die Wahl einer Edge-Runtime

Referenz: Cloudflare-Entwicklerdokumentation