Claude 3 Sonnet

Claude 3 Sonnet udkom 4. marts 2024 som mellemmodellen i Anthropics Claude 3-familie. Den lå mellem den hurtigste og den kraftigste model i serien og var tænkt som standardvalget til produktion. Positioneringen var arbejdshest frem for topmodel.

Modellen har et context window på 200.000 tokens og kan behandle både tekst og billeder. Det gjorde den brugbar til lange dokumenter, større kodebaser og RAG-opsætninger uden aggressiv opdeling af input. Multimodal input var på udgivelsestidspunktet stadig nyt hos de fleste udbydere.

Træningsdata går frem til august 2023. Sonnet kunne håndtere tekstgenerering, kodegenerering, dataanalyse, reasoning og opsummering på dansk og en række andre sprog. Prisen på 0,003 USD per 1K input-tokens og 0,015 USD per 1K output-tokens gjorde den relevant til opgaver med stort volumen.

Anthropic har siden udsendt flere generationer af Claude, og Sonnet-navnet er ført videre til nyere modeller i samme mellemklasse. Claude 3 Sonnet er dermed ikke længere udbyderens aktuelle valg i sin egen kategori.

De senere modeller er generelt bedre til reasoning over flere trin, til kodegenerering i større projekter og til at følge instruktioner præcist. De håndterer også værktøjskald og struktureret output mere pålideligt, hvilket betyder noget i agent-opsætninger. Samtidig er nyere modeller trænet på nyere data, så videnshorisonten i august 2023 er blevet mærkbart forældet.

Prisbilledet har også flyttet sig. Nyere mellemmodeller leverer typisk mere per token, og de indbyggede antagelser om, hvad en model i denne prisklasse kan, er skiftet siden marts 2024.

Reelt nej, hvis du bygger noget nyt. Claude 3 Sonnet er en lukket API-model, så du kan ikke køre den lokalt eller finjustere den, og de fordele en ældre open source-model kan have på begrænset hardware gælder ikke her. Vælger du en nyere Claude-model i samme klasse, får du bedre resultater uden at ændre arbejdsgang væsentligt.

Der er to undtagelser. Eksisterende systemer, der er kalibreret op mod modellens præcise adfærd, kan have en grund til at blive stående indtil en planlagt migrering. Og hvis du skal reproducere resultater fra evalueringer eller forskning udført i 2024, er den oprindelige model det korrekte referencepunkt.

Tjek modellens status i Anthropics egen dokumentation, før du planlægger længere ud. Ældre modeller bliver på et tidspunkt taget ud af drift, og en migreringsplan er lettere at lave i god tid end under tidspres.