Gemini Ultra

Gemini Ultra var den største model i Googles første Gemini-generation, udgivet 8. februar 2024. Den var placeret som topmodellen i familien og var rettet mod opgaver, hvor mindre modeller kom til kort: flertrinsreasoning, kompleks kodegenerering og matematisk problemløsning.

Modellen er multimodal fra bunden. Den behandler tekst og billeder i samme model i stedet for at koble en separat billedmodul på en tekstmodel. Det var en af de tydeligste forskelle på Gemini-familien og de tekstmodeller, der dominerede markedet i tiden op til udgivelsen.

Context window er på 32.000 tokens, og træningsdata går frem til november 2023. Parameterantallet er ikke offentliggjort. Modellen håndterer dansk og en lang række andre sprog, og den var tilgængelig via Googles egne tjenester med tæt integration til resten af Google-økosystemet.

Betydningen lå mindre i en enkelt egenskab end i, at Google med Ultra demonstrerede, at de kunne konkurrere i toppen. Modellen blev udgangspunkt for de Gemini-versioner, der fulgte.

Den mest håndgribelige forskel er kontekstvinduet. Senere Gemini-modeller arbejder med langt større context windows, og det ændrer, hvilke opgaver der overhovedet er mulige. Hele kodebaser, lange dokumentsamlinger og længere samtaler kan holdes i konteksten uden opdeling eller aggressiv RAG-opsætning.

Samtidig er reasoning-kvaliteten flyttet. Nyere modeller bruger mere systematisk trinvis reasoning under inference, og det har især løftet matematik og kodning. Det var netop de områder, hvor Ultra var stærkest, og forspringet er derfor væk.

Drift og pris har også udviklet sig. Senere generationer leverer bedre resultater ved lavere latenstid og lavere omkostning per token. Ultras begrænsede tilgængelighed betød desuden, at økosystemet af værktøjer og integrationer aldrig blev bygget op omkring den på samme måde som omkring senere modeller.

Endelig er træningsdata fra november 2023 blevet gammelt. For opgaver, der kræver aktuel viden, er det en reel begrænsning, medmindre du selv leverer materialet i prompten.

Reelt nej. Gemini Ultra er en lukket model uden offentliggjorte vægte, så den kan ikke bruges til den slags forskning og lokal kørsel, der holder ældre open source-modeller i live. Du kan ikke køre den på egen hardware, finjustere den eller studere dens indre.

Er du allerede i Googles økosystem, peger vejen til de aktuelle Gemini-modeller. De dækker de samme opgavetyper med større context window og bedre ydeevne.

Den relevans, Ultra har tilbage, er historisk. Modellen markerer det punkt, hvor Google trådte ind i toppen af markedet med en model, der var multimodal fra bunden. Det er værd at kende, hvis du vil forstå, hvordan Gemini-familien er udviklet siden.