Llama 3

Meta

Llama 3 er Meta's næste generation af open-source language models med markant forbedret ydeevne. Tilgængelig i 8B og 70B versioner med overlegen reasoning og kodegenerering.

8B, 70B, 405B

Parametre

8K

Kontekst

$0

Input/1K

$0

Output/1K

Capabilities

Opgaver

TekstgenereringKodegenereringReasoningMatematisk problemløsningOpsummeringOversættelseChatbots

Sprog Support

EngelskTyskFranskItalienskPortugisiskHindiSpanskThai

Styrker

  • Gratis og open-source
  • Væsentlig bedre end Llama 2
  • Konkurrerer med GPT-3.5
  • Kan køres lokalt
  • Fremragende til kodegenerering
  • Bedre flersprogethed
  • Større kontekstvindue

Begrænsninger

  • !Kræver egen hosting
  • !405B model kræver betydelig compute
  • !Stadig bag GPT-4/Claude Opus
  • !Ikke multimodal

Use Cases

Enterprise on-premise AI
Privacy-kritiske applikationer
Kodegenerering og debugging
Finetuning projekter
Forskningsapplikationer
Cost-effektive deployments
Multi-language chatbots

Benchmarks

82%
MMLU
82.8%
HellaSwag
62.2%
HumanEval
79.6%
GSM8K

Tekniske Detaljer

Release Dato
18.4.2024
Provider
Meta
Parametre
8B, 70B, 405B
Kontekstvindue
8,192 tokens
Træningsdata
15+ trillion tokens