Gemini 1.5 Pro

Gemini 1.5 Pro blev udgivet 15. februar 2024 og var på det tidspunkt Googles mest kapable model. Det mest omtalte træk var et context window på 1.000.000 tokens. Det gjorde det praktisk muligt at lægge hele kodebaser, lange juridiske dokumentsamlinger eller flere timers transskriberet materiale ind i én prompt.

Modellen er natively multimodal. Den tager tekst, billeder, lyd og video som input i samme prompt, uden at du først skal konvertere materialet til tekst med separate værktøjer. Det var en mærkbar forskel fra tidligere modeller, hvor video- og lydanalyse krævede en pipeline af eksterne komponenter.

Træningsdata går frem til november 2023. Modellen dækker dansk og over 100 andre sprog. Prisen var 0,00125 USD per 1K input-tokens og 0,00375 USD per 1K output-tokens under 128K kontekst. Parameterantallet er ikke offentliggjort.

Google har siden udgivet nyere generationer i Gemini-familien, og 1.5 Pro er markeret som legacy. Den er ikke længere udbyderens anbefalede valg til nye projekter.

Udviklingen er gået i flere retninger på én gang. Nyere modeller håndterer lange kontekster mere pålideligt, så kvaliteten falder mindre, når promptet fylder meget af vinduet. Reasoning-evnen er forbedret bredt, blandt andet gennem modeller der bruger flere tokens på at ræsonnere før svaret.

Samtidig er prisen per token faldet på tværs af markedet, og latency er blevet bedre. Værktøjsbrug, funktionskald og struktureret output er blevet mere robust i senere generationer. Kombinationen betyder, at 1.5 Pro sjældent er det bedste valg på hverken kvalitet, hastighed eller pris.

For nye projekter er svaret reelt nej. Modellen er lukket og hostes af Google, så du får ingen af de fordele, der holder ældre open source-modeller i live: du kan ikke køre den lokalt, ikke fine-tune vægtene og ikke bruge den til at studere arkitekturen.

Der findes to undtagelser. Hvis du har et system i produktion, der er testet mod netop denne model, kan det give mening at blive, indtil migrationen er planlagt. Og hvis du skal reproducere resultater fra 2024, er det den model, dokumentationen refererer til.

Ellers bør du behandle Gemini 1.5 Pro som et historisk referencepunkt. Den viste, at et context window på en million tokens kunne fungere i praksis, og den flyttede forventningen til, hvad en model skal kunne tage imod i én prompt. Det aftryk er tydeligere end den praktiske nytte i dag.