Llama 2

Meta

Llama 2 er Meta's open-source familie af language models, tilgængelig i størrelser fra 7B til 70B parametre. Modellen er gratis til kommerciel brug og kan køres lokalt.

7B, 13B, 70B

Parametre

4K

Kontekst

$0

Input/1K

$0

Output/1K

Capabilities

Opgaver

TekstgenereringKodegenereringOpsummeringSpørgsmål og svarChatbotsKlassificering

Sprog Support

Engelsk (primært)Begrænset støtte for andre sprog

Styrker

  • Gratis og open-source
  • Kan køres lokalt
  • God privacy og data kontrol
  • Kan finetuning til specifikke opgaver
  • Aktiv community support
  • Flere model størrelser

Begrænsninger

  • !Kræver egen hosting/infrastruktur
  • !Primært engelsk trænet
  • !Mindre avanceret end GPT-4/Claude
  • !Mindre kontekstvindue
  • !Ikke multimodal

Use Cases

On-premise AI løsninger
Privacy-sensitive applikationer
Finetuning til specifikke domæner
Forskningsprojekter
Cost-optimized deployments
Lokal AI assistenter

Benchmarks

68.9%
MMLU
85.3%
HellaSwag
29.9%
HumanEval
56.8%
GSM8K

Tekniske Detaljer

Release Dato
18.7.2023
Provider
Meta
Parametre
7B, 13B, 70B
Kontekstvindue
4,096 tokens
Træningsdata
2 trillion tokens af publicly available data