Llama 3.2

Meta

Llama 3.2 er Meta's nyeste generation af open source modeller med native multimodal capabilities. Serien inkluderer små modeller (1B, 3B) til edge devices og medium modeller (11B, 90B) med vision support.

1B, 3B, 11B, 90B parametre

Parametre

128K

Kontekst

$0

Input/1K

$0

Output/1K

Capabilities

Opgaver

TekstgenereringBilledforståelse (11B, 90B)KodegenereringOn-device AI (1B, 3B)ReasoningMultimodal analyseEdge deploymentMatematik

Sprog Support

EngelskTyskFranskItalienskPortugisiskHindiSpanskThailandsk+2 flere

Styrker

  • Open source og gratis
  • Native multimodal (11B, 90B)
  • Edge-optimized små modeller
  • 128K kontekstvindue
  • Kommercielt anvendelig
  • Kan køre on-device
  • Stærk vision performance
  • Quantization-friendly

Begrænsninger

  • !Små modeller har begrænsede capabilities
  • !Vision kun i 11B og 90B
  • !Ikke så kraftfuld som Llama 3.1 405B
  • !Kræver teknisk setup

Use Cases

Edge AI applikationer
On-device chatbots
Multimodal analyse
Billedforståelse lokalt
Mobile AI assistenter
IoT devices
Privacy-first applikationer
Custom vision tasks

Benchmarks

73%
MMLU
82.8%
HellaSwag
72%
HumanEval
82.4%
GSM8K

Tekniske Detaljer

Release Dato
25.9.2024
Provider
Meta
Parametre
1B, 3B, 11B, 90B parametre
Kontekstvindue
128,000 tokens
Træningsdata
Data frem til december 2023