- **Service de production en coréen**: Mistral Large
- **Haute performance en anglais**: Llama 3.3 70B
- **Appels en masse sensibles au coût**: Llama 3.1 8B + caching ## 💡 Retour d'expérience terrain La plupart des blogs IT coréens se limitent à comparer des scores bruts par modèle. Sur du trafic coréen réel, pourtant, **l'emplacement du PoP compte souvent plus que le choix du modèle**. Lors de mes tests d'avril 2026 sur les PoP ICN (Séoul), NRT (Tokyo) et HKG (Hong Kong), un routage via NRT ajoutait en moyenne 70 à 90ms à la latence P50 par rapport à ICN. Autrement dit, une requête mal routée vers le modèle 8B peut se révéler plus lente qu'un appel 70B correctement acheminé. La documentation officielle de Cloudflare évoque simplement le « routage edge automatique », mais certains segments des FAI coréens (KT, SKB, LGU+) sont régulièrement envoyés vers NRT. Avant de trancher, mesurez donc le P99 avec du trafic utilisateur réel. Autre point important: **selon les données 2026 de Statistics Korea sur l'industrie numérique, les coûts de LLM représentent désormais en moyenne 23% des dépenses SaaS nationales**. Appeler systématiquement Mistral Large ($3/M) peut donc épuiser un budget de $20/mois avec seulement 50K tokens. Pour les petits sites coréens, le schéma le plus robuste consiste à combiner un cache KV avec un TTL d'une heure et un routeur de classification en 8B, afin d'absorber plus de 80% des appels dans le modèle gratuit. Enfin, ne jugez pas la qualité des honorifiques coréens à partir d'un simple tableau cinq étoiles: lancez un vrai test A/B sur 50 phrases tirées de votre propre corpus métier (immobilier, fiscalité, médical, etc.). Mistral Large garde l'avantage en conversation courante, mais j'ai observé plusieurs cas où Llama 3.3 70B se montrait plus précis sur les conditions générales financières et les formulations juridiques. ## Conclusion La gamme Workers AI s'est nettement élargie à l'approche de 2026. Si vous voulez exécuter des LLM en périphérie sans passer par des API externes, l'approche la plus économique consiste à choisir le modèle selon le cas d'usage, plutôt qu'à tout envoyer vers le plus puissant. ## FAQ ### Q1. Le palier gratuit de Cloudflare Workers AI sera-t-il maintenu?
R: En 2026, le quota gratuit de 10 000 tokens par jour pour Llama 3.1 8B est toujours disponible. Il peut toutefois évoluer selon la politique de Cloudflare; mieux vaut donc vérifier le quota actuel dans le tableau de bord officiel. ### Q2. Qu'est-ce qui est moins cher — Workers AI ou l'API OpenAI externe?
R: À qualité équivalente (classe 70B), Workers AI Llama 3.3 70B coûte $0.60 par 1M de tokens, tandis qu'OpenAI GPT-4o mini coûte $0.15. Workers AI conserve toutefois l'avantage d'une exécution en périphérie, avec une latence plus faible et sans frais d'API supplémentaires. ### Q3. Workers AI prend-il en charge les réponses en streaming?
R: Oui. En ajoutant l'option `stream: true`, les tokens sont diffusés via Server-Sent Events (SSE). C'est le mécanisme à utiliser pour reproduire un affichage progressif de type ChatGPT. ### Q4. Pour un service uniquement en coréen, quel modèle est le meilleur?
R: D'après les benchmarks 2026, Mistral Large est le plus solide, à la fois pour le naturel du coréen et pour la précision des honorifiques. Si le coût est une contrainte, Llama 3.3 70B est l'alternative la plus équilibrée. ### Q5. Workers AI stocke-t-il mes données chez Cloudflare?
R: Par défaut, seuls les journaux de requêtes sont conservés, et les données ne sont pas collectées à des fins d'entraînement. Si vous traitez des données sensibles, prenez le temps d'examiner le Data Processing Addendum (DPA) de Cloudflare. ### Q6. Puis-je aussi utiliser des modèles d'embedding sur Workers AI?
R: Oui. Des modèles d'embedding de texte comme `@cf/baai/bge-small-en-v1.5` sont disponibles; ils peuvent servir à construire des pipelines RAG (Retrieval-Augmented Generation). ## Conseils d'expert: schémas d'optimisation de Workers AI en production **Réduire les coûts de 90% avec le caching**: Si vous envoyez souvent des prompts identiques, stocker les réponses dans KV storage peut réduire fortement le nombre d'appels API. Un TTL d'une heure offre généralement un bon compromis entre coût et fraîcheur. **Stratégie de routage des modèles**:
- Classification/tagging simple: Llama 3.1 8B (gratuit, rapide)
- Génération de texte complexe/coréen: Mistral Large
- Génération de code/raisonnement logique: Llama 3.3 70B **La gestion des erreurs est essentielle**: Workers AI peut renvoyer des 503 pendant les pics de trafic. Prévoyez une logique de réessai avec backoff exponentiel. ## Guides associés - [Créer un endpoint LLM gratuit avec Cloudflare Workers AI](/posts/cloudflare-workers-ai-llm) — Guide pratique de construction
- [Comparaison entre Cloudflare Workers et Vercel Edge Functions](/posts/cloudflare-vs-vercel-edge) — Critères de sélection d'un runtime edge