Gemini Pro

Gemini Pro blev udgivet 13. december 2023 og var Googles første bredt tilgængelige model i Gemini-familien. Den markerede overgangen fra PaLM-generationen til en arkitektur, hvor multimodalitet var tænkt ind fra begyndelsen. Modellen tager både tekst og billeder som input og bruges til tekstgenerering, kodegenerering, reasoning og matematisk problemløsning.

Kontekstvinduet er 32.000 tokens, og træningsdata går frem til november 2023. Parameterantallet er ikke offentliggjort af Google. Prisen ligger på 0,000125 USD per 1.000 input-tokens og 0,000375 USD per 1.000 output-tokens.

Betydningen lå især i, at Google fik en model ud, der kunne bruges direkte via API og samtidig hang sammen med resten af Google-økosystemet. For udviklere gav det et reelt alternativ på et tidspunkt, hvor feltet var domineret af få udbydere.

Udviklingen efter december 2023 gik hurtigt, og Gemini Pro blev overhalet på flere fronter samtidig. Kontekstvinduer voksede kraftigt hos stort set alle udbydere, hvilket ændrede hvilke opgaver der overhovedet er praktiske at give en model. Lange dokumenter, store kodebaser og omfattende RAG-opsætninger kræver mere plads, end 32.000 tokens giver.

Senere Gemini-versioner forbedrede også reasoning og kodegenerering mærkbart, og de håndterer flere modaliteter mere stabilt. Hvor Gemini Pro kunne variere i outputkvalitet på tværs af kørsler, er nyere modeller generelt mere konsistente.

Prisbilledet flyttede sig desuden. Nyere modeller leverer bedre resultater til priser, der ligger i samme leje eller lavere, og dermed forsvandt det økonomiske argument for at blive på den gamle version. Google har selv flyttet fokus til nyere modeller i Gemini-familien.

Reelt nej, ikke til nye projekter. Gemini Pro er en lukket model bag Googles API, så du kan ikke køre den selv, finjustere den frit eller bruge den som forskningsobjekt på samme måde som ældre open source-modeller. Fordelene ved at holde fast ved en legacy-version er derfor begrænsede.

Den relevante situation er systemer, der allerede kører på modellen, og hvor prompts og output er kalibreret til dens opførsel. Her kan det give mening at udskyde et skifte, indtil du har testet en nyere model grundigt mod dine egne opgaver.

Ellers er anbefalingen at migrere. Tjek Googles aktuelle dokumentation for status på endpointet, da legacy-modeller typisk udfases med varsel og på et tidspunkt lukkes helt.