Cloudflare Workers AI 2026 신규 모델 벤치마크 — Llama 3.3 vs Mistral Large

Cloudflare Workers AI는 2026년 Llama 3.3 70B와 Mistral Large Instruct를 추가했습니다. 기존 Llama 3.1·3.2와 함께 실전 벤치마크를 돌렸습니다.

테스트 대상 (2026.4)

• @cf/meta/llama-3.1-8b-instruct — 기본 무료 모델
• @cf/meta/llama-3.3-70b-instruct — 신규 고성능 무료
• @cf/mistral/mistral-large-instruct — 신규 프리미엄
• @cf/openai/gpt-oss-20b — 벤치용 비교 대상

레이턴시 (TTFT)

같은 리전 PoP 기준 첫 토큰 도달:

8B는 초저지연 필요 시나리오. 70B급은 2배 지연이지만 품질 크게 개선.

한국어 품질

한국어 요약·번역 테스트:

Mistral Large가 한국어 존댓말 구사 가장 자연스러움. 한국어 메인이면 Mistral 추천.

코드 생성

Python/TypeScript 알고리즘 문제 100개:

실무 코드 생성은 70B 이상 모델부터 실용 영역.

비용 (2026.4)

• Llama 3.1/3.2: 무료 10K 토큰/일 per 계정
• Llama 3.3 70B: 유료, 100만 토큰당 약 $0.60
• Mistral Large: 유료, 100만 토큰당 약 $3.00

소규모 트래픽은 무료 티어로 충분. 상용 서비스는 70B 모델부터 실용적 가격.

사용 예시

export default {
  async fetch(req: Request, env: Env) {
    const ai = env.AI
    const result = await ai.run(
      "@cf/meta/llama-3.3-70b-instruct",
      {
        messages: [
          { role: "user", content: "한국어 존댓말로 인사해줘" },
        ],
        max_tokens: 100,
      }
    )
    return Response.json(result)
  },
}

추천 조합

• 무료 프로토타입: Llama 3.1 8B
• 한국어 서비스 프로덕션: Mistral Large
• 영어 기반 고성능: Llama 3.3 70B
• 비용 민감한 대량 호출: Llama 3.1 8B + 캐싱

마무리

Workers AI 모델 풀이 2026년 들어 급격히 확장됐습니다. 외부 API 호출 없이 엣지에서 동작하는 LLM 인프라가 필요하면, 용도별로 모델 갈아타는 패턴이 가장 경제적입니다.