Llama 3.2

Llama 3.2 udkom 25. september 2024 og var Metas forsøg på at dække to yderpunkter i samme serie. I den lette ende stod 1B og 3B, tænkt til at køre lokalt på telefoner, laptops og indlejret hardware. I den tunge ende stod 11B og 90B, som var de første Llama-modeller med indbygget billedforståelse.

Det var udgivelsen, der gjorde vision til noget, du kunne køre på egen maskine uden at kalde ud til en ekstern API. Kombinationen af åbne vægte, kommerciel brugsret og et kontekstvindue på 128.000 tokens gjorde serien til et naturligt udgangspunkt for lokale opsætninger og for fine-tuning på egne data.

Træningsdata rækker frem til december 2023. Modellerne er gratis at hente og bruge, men kræver at du selv står for hosting, kvantisering og inference-opsætning.

Udviklingen siden efteråret 2024 har især flyttet sig på instruktionsfølge og reasoning. Nyere modeller i samme størrelsesklasse løser flertrinsopgaver mere stabilt og falder sjældnere ud af formatet, når du beder om struktureret output.

Multimodalitet er samtidig blevet mere integreret. Hvor Llama 3.2 lagde vision oven på en tekstmodel i de to største varianter, er nyere generationer typisk trænet multimodalt fra bunden og håndterer billeder, dokumenter og blandede input mere ensartet.

Dertil kommer to praktiske forhold. Cutoff i december 2023 betyder, at modellen ikke kender nyere hændelser, biblioteker eller API'er, og at du skal kompensere med RAG eller kontekst. Og dansk var kun delvist understøttet fra start, hvor senere åbne modeller generelt klarer nordiske sprog bedre.

Ja, men en snæver en. De små varianter er fortsat brugbare, hvis du eksperimenterer med on-device inference, kvantisering eller edge-hardware med lidt hukommelse, og hvis opgaven er afgrænset. Til klassifikation, simpel ekstraktion og faste skabeloner er forskellen til nyere modeller mindre mærkbar.

I forskning og undervisning har serien også værdi som referencepunkt. Vægtene er frit tilgængelige, arkitekturen er veldokumenteret, og mange publicerede resultater bruger den som baseline, hvilket gør reproduktion lettere.

Til nye produktionsprojekter er svaret derimod nej. Der findes nyere åbne modeller med samme licensvilkår, nyere træningsdata og bedre resultater på tilsvarende hardware. Vælger du Llama 3.2 i dag, bør det være fordi noget konkret binder dig til netop den model, ikke fordi den er det bedste udgangspunkt.