Google AI

Google AI dækker to spor, der ligner hinanden på overfladen, men rammer forskellige kunder. Google AI Studio og Gemini API er indgangen for udviklere, der bare vil have en nøgle og komme i gang. Vertex AI er indgangen for organisationer, der allerede har Google Cloud, og som vil have modellerne ind under samme projektstruktur, IAM og fakturering som resten af deres infrastruktur.

Gemini-serien er bygget multimodalt fra bunden. Det betyder, at billeder, lyd og video ikke er tilføjelser oven på en tekstmodel, men indgår i samme input. Hvis din opgave handler om at forstå indhold, der ikke er ren tekst, er det her Google adskiller sig tydeligst fra de øvrige udbydere.

Modelvalget er delt i Pro- og Flash-varianter. Pro til opgaver med tungere ræsonnement, Flash til høj volumen og lav latency. Nano-modellen sigter mod kørsel på enheden frem for i skyen. Den opdeling gør det nemt at flytte en arbejdsbelastning ned i pris uden at skifte leverandør.

Den hurtige vej går gennem AI Studio. Du logger ind med en Google-konto, tester prompts i browseren og henter en API-nøgle. Derfra er der SDK'er til Python, Node.js og Java, og du kan have et kald kørende på få minutter.

Friktionen kommer, når du skal videre til produktion på Vertex AI. Så skal du forholde dig til GCP-projekter, service accounts, regioner, quotas og adgangsstyring. Det er en anden verden end en løs API-nøgle, og det er ofte her, mindre teams bruger mere tid end forventet. Fordelen er, at du får en driftsmodel, der kan revideres og styres.

Dokumentationen er spredt ud over Gemini API, Vertex AI og Google Cloud generelt. De tre steder beskriver ofte det samme med lidt forskellig terminologi og lidt forskellige kodeeksempler. Tjek altid, om en vejledning gælder AI Studio-sporet eller Vertex-sporet, før du kopierer kode.

Det meste af det, du forventer, er på plads: streaming, function calling, struktureret output og fine-tuning. Til gengæld finder du færre færdige integrationer i tredjepartsværktøjer, og du støder oftere på løsninger, du selv skal skrive. Fællesskabet omkring platformen er mindre, så fejlsøgning via andres blogindlæg og forumtråde giver færre træffere.

Lock-in afhænger af, hvor dybt du går. Rene tekstkald med function calling er forholdsvis nemme at flytte til en anden udbyder. Bygger du på Vertex AI's øvrige dele, AutoML, Model Garden eller tæt kobling til Workspace, bliver et skifte betydeligt dyrere.

På datasiden er det vigtigt at kende forskel på sporene. Vilkårene for gratis brug i AI Studio er ikke de samme som for betalt brug på Vertex AI, blandt andet hvad angår behandling af dine prompts. Læs de gældende vilkår for netop det spor, du bruger, før du sender kundedata ind.

EU-forhold håndteres via regionsvalg i Google Cloud, hvor du kan placere kørsel i europæiske regioner og indgå databehandleraftale. Vær opmærksom på, at ikke alle modeller og funktioner er tilgængelige i alle regioner på samme tid. Google er en amerikansk udbyder, så overførsel til tredjeland skal stadig vurderes i din compliance-dokumentation.

En anden udbyder passer bedre, hvis du har brug for det største økosystem af færdige integrationer og eksempler, eller hvis dit team ikke vil røre Google Cloud. Skal du derimod behandle video, billeder og lyd i stor mængde, eller kører din organisation allerede på GCP, er argumentet for Google stærkt.