Mistral Large

Mistral Large blev udgivet 26. februar 2024 som Mistral AI's dengang mest kapable model. Den markerede skiftet fra franske open weights-modeller til en lukket flagskibsmodel, der skulle måle sig med de største amerikanske udbydere. Positioneringen var lige så meget strategisk som teknisk: en europæisk leverandør med egen infrastruktur og databehandling inden for EU.

Teknisk arbejder modellen med et context window på 32.000 tokens og træningsdata frem til 2023. Parameterantallet er ikke offentliggjort. Den håndterer function calling nativt og kan tvinges til at svare i JSON, hvilket gjorde den brugbar som komponent i software frem for kun som chatgrænseflade.

Den bredeste styrke var sprogdækningen. Modellen behandler engelsk, fransk, tysk, spansk, italiensk og en række andre sprog på et niveau, der gjorde flersprogede opsætninger realistiske uden at skifte model per sprog. Dansk indgår i de understøttede sprog, hvilket var mindre almindeligt blandt datidens flagskibsmodeller.

Udviklingen siden begyndelsen af 2024 er gået hurtigt på flere fronter samtidig. Context windows er vokset markant hos stort set alle større udbydere, og 32.000 tokens er i dag i den lave ende for en model, der skal arbejde med længere dokumentsamlinger eller store kodebaser.

På reasoning har senere generationer indført træningsmetoder, hvor modellen bruger flere tokens på mellemregninger før svaret. Det giver mærkbart bedre resultater på matematik, flertrinslogik og kompleks kodning end den generation, Mistral Large tilhører. Samtidig er prisen per token faldet bredt i markedet, så nyere og stærkere modeller ofte koster mindre at køre.

Function calling og struktureret output er også blevet mere robust. Hvor Mistral Large var tidligt ude med funktionerne, er værktøjsbrug i nyere modeller bedre integreret og fejler sjældnere i lange kæder af kald. Mistral har selv udsendt nyere versioner af sin flagskibslinje, og Mistral Large fra februar 2024 er ikke længere udbyderens aktuelle valg.

Reelt nej, ikke til nye projekter. Modellen har lukkede vægte, så den kan ikke køres lokalt eller bruges til forskning i modellens indre. Den fordel, som ældre open source-modeller har på begrænset hardware, gælder ikke her.

Den praktiske undtagelse er eksisterende systemer. Kører du produktion mod Mistral Large i dag, og fungerer prompts og evalueringer stabilt, er der ingen akut grund til at rive opsætningen ned. Planlæg alligevel en migrering, da ældre modeller typisk udfases med varsel.

Historisk er modellen værd at kende som det punkt, hvor en europæisk udbyder første gang meldte sig ind i topsegmentet. Den argumentation om databehandling i EU og leverandørspredning holder fortsat, men den bør føres med udbyderens nuværende modeller.