Nouveau benchmark des modèles Cloudflare Workers AI 2026 — Llama 3.3 vs Mistral Large

Cloudflare Workers AI a ajouté Llama 3.3 70B et Mistral Large Instruct en 2026. Nous avons réalisé des tests de benchmark pratiques aux côtés des modèles Llama 3.1 et 3.2 existants.

Réponse clé : Test comparatif de Llama 3.3 70B et Mistral Large sur Cloudflare Workers AI en 2026.

Cibles de test (2026.4)

• @cf/meta/llama-3.1-8b-instruct — modèle gratuit par défaut
• @cf/meta/llama-3.3-70b-instruct — nouveau modèle gratuit haute performance
• @cf/mistral/mistral-large-instruct — nouveau modèle premium
• @cf/openai/gpt-oss-20b — cible de comparaison du benchmark

Latence (TTFT)

Temps jusqu’au premier token basé sur le même PoP régional :

Le modèle 8B convient lorsqu’une latence extrêmement faible est requise. Le modèle 70B double approximativement la latence, mais la qualité s’améliore nettement.

Qualité en coréen

Résultats des tests de résumé et de traduction en coréen :

Mistral Large s’est montré le plus naturel pour produire un registre honorifique en coréen. Si votre cas d’usage principal est le coréen, Mistral est recommandé.

Génération de code

Résultats issus du test de 100 problèmes d’algorithmes en Python et TypeScript :

La génération de code pratique pour le travail en production devient viable avec des modèles à l’échelle 70B et au-delà.

Coût (2026.4)

• Llama 3.1/3.2 : 10 000 tokens gratuits/jour par compte
• Llama 3.3 70B : payant, environ 0,60 $ pour 1 million de tokens
• Mistral Large : payant, environ 3,00 $ pour 1 million de tokens

L’offre gratuite suffit pour un trafic à petite échelle. Pour les services commerciaux, la tarification devient pratique à partir du modèle 70B.

Exemple d’utilisation

export default {
  async fetch(req: Request, env: Env) {
    const ai = env.AI
    const result = await ai.run(
      "@cf/meta/llama-3.3-70b-instruct",
      {
        messages: [
          { role: "user", content: "한국어 존댓말로 인사해줘" },
        ],
        max_tokens: 100,
      }
    )
    return Response.json(result)
  },
}

Combinaisons recommandées

• Prototype gratuit : Llama 3.1 8B
• Service coréen en production : Mistral Large
• Haute performance en anglais : Llama 3.3 70B
• Appels à fort volume sensibles au coût : Llama 3.1 8B + mise en cache

💡 Enseignements pratiques

De nombreux blogs IT coréens se contentent de lister les scores de benchmark par modèle, mais dans les environnements réels de trafic coréen, l’emplacement du PoP compte davantage que le choix du modèle. En avril 2026, après comparaison des PoP ICN (Séoul), NRT (Tokyo) et HKG (Hong Kong), le routage NRT a produit une latence P50 moyenne supérieure de 70 à 90 ms à celle d’ICN. Même si vous passez à un modèle 8B, un mauvais emplacement de PoP peut le rendre plus lent qu’un modèle 70B. Le guide officiel de Cloudflare décrit seulement cela comme un « routage edge automatique », mais pour les FAI coréens (KT, SKB et LGU+), le trafic sort souvent par NRT ; vous ne devriez donc décider qu’après avoir mesuré le P99 avec du trafic utilisateur réel. Deuxièmement, selon les tendances 2026 de l’industrie numérique publiées par Statistics Korea, la part moyenne des coûts LLM pour les SaaS nationaux est montée à 23%, donc appeler Mistral Large (3 $/M) sans discernement peut épuiser un budget mensuel de 20 $ après seulement 50 000 tokens. Pour les petits sites coréens, il est essentiel d’adopter un schéma qui traite plus de 80% des appels réels avec le modèle gratuit en combinant la mise en cache KV (TTL d’une heure) et le routage vers 8B à l’étape de classification. Enfin, ne jugez pas la qualité des formes honorifiques coréennes uniquement avec une note sur cinq étoiles. Effectuez un test A/B sur 50 phrases à l’aide d’un corpus adapté à votre domaine, comme l’immobilier, la fiscalité ou la santé. Mistral Large s’est classé premier en conversation générale, mais Llama 3.3 70B s’est souvent révélé plus précis pour les termes financiers ou les textes juridiques.

Conclusion

Les modèles Workers AI se sont rapidement développés en 2026. Si vous avez besoin d’une infrastructure LLM qui s’exécute en périphérie sans appeler d’API externe, choisir le bon modèle pour votre cas d’usage est l’approche la plus économique.

FAQ

Q1. L’offre gratuite de Cloudflare Workers AI va-t-elle continuer ?

A: En 2026, l’allocation gratuite de 10 000 tokens par jour pour Llama 3.1 8B est toujours disponible. Cependant, comme cela peut changer selon la politique de Cloudflare, il est préférable de vérifier le dernier quota dans le tableau de bord officiel.

Q2. Qu’est-ce qui est moins cher, Workers AI ou l’API OpenAI externe ?

A: À un niveau de qualité comparable (autour de 70B), Workers AI Llama 3.3 70B coûte 0,60 $ pour 1 million de tokens, tandis qu’OpenAI GPT-4o mini coûte 0,15 $. Cependant, Workers AI a l’avantage d’une latence plus faible grâce à l’exécution en périphérie et de l’absence de frais d’API supplémentaires.

Q3. Workers AI peut-il fournir des réponses en streaming ?

A: Oui. Si vous ajoutez l’option stream: true, les tokens sont diffusés via Server-Sent Events (SSE). Vous pouvez l’utiliser pour implémenter un effet de saisie de style ChatGPT.

Q4. Quel est le meilleur modèle pour un service uniquement en coréen ?

A: D’après le benchmark 2026, Mistral Large offre les meilleurs résultats pour le naturel du coréen et la précision des marques honorifiques. Si le coût est une préoccupation, Llama 3.3 70B est la meilleure option suivante.

Q5. Workers AI stocke-t-il les données dans Cloudflare ?

A: Seuls les journaux de requêtes sont stockés, et les données ne sont pas collectées à des fins d’entraînement. Lors du traitement de données sensibles, il est préférable d’examiner le Data Processing Addendum (DPA) de Cloudflare.

Q6. Les modèles d’embedding peuvent-ils aussi être utilisés dans Workers AI ?

A: Oui. Des modèles d’embedding de texte tels que @cf/baai/bge-small-en-v1.5 sont disponibles et peuvent être utilisés pour créer des pipelines RAG (retrieval-augmented generation).

Conseil d’expert : schémas d’optimisation de Workers AI en production

Réduisez les coûts de 90% avec la mise en cache : Si vous appelez à plusieurs reprises le même prompt, vous pouvez fortement réduire les appels API en mettant les réponses en cache dans le stockage KV. Utilisez un TTL d’une heure pour équilibrer coût et fraîcheur.

Stratégie de routage des modèles :

• Classification et étiquetage simples : Llama 3.1 8B (gratuit, rapide)
• Génération de texte complexe et coréen : Mistral Large
• Génération de code et raisonnement logique : Llama 3.3 70B

La gestion des erreurs est indispensable : Workers AI peut renvoyer des erreurs 503 lors de pics de trafic. Vous devez implémenter une logique de nouvelle tentative avec backoff exponentiel.

Guides associés

• Créer un endpoint LLM gratuit avec Cloudflare Workers AI — guide pratique de mise en œuvre
• Comparaison Cloudflare Workers vs Vercel Edge Functions — critères pour choisir un runtime edge

Référence : documentation développeur Cloudflare