AI21 Labs

AI21 Labs blev grundlagt i 2017 og har hovedkvarter i Tel Aviv. Udbyderen henvender sig primært til virksomheder, der skal behandle tekst i større mængder, og hvor kravene til korrekthed er højere end kravene til kreativitet. Det er en anden profil end de generelle chat-platforme.

Tilgangen adskiller sig på to punkter. For det første er en del af funktionaliteten pakket som opgavespecifikke endpoints frem for ren fri prompting. Du kalder en funktion, der løser én afgrænset opgave, i stedet for at formulere instruktionen selv hver gang.

For det andet arbejder AI21 med arkitektur, der afviger fra den rene transformer. Jamba kombinerer state space-komponenter med transformer-lag, hvilket er relevant, hvis du arbejder med lange dokumenter. Jurassic-2-familien findes i flere størrelser, så du kan vælge efter opgavens tyngde.

Typiske kunder er dem, der bygger dokumenthåndtering, redaktionelle værktøjer eller intern videnssøgning. Hvis dit produkt handler om at forbedre, opsummere eller besvare ud fra tekst, du selv leverer, rammer platformen sit felt.

Du starter med at oprette en konto, hente en API-nøgle og kalde et REST-endpoint. Der findes et Python SDK, hvis du hellere vil arbejde med objekter end med rå HTTP. Første kald tager kort tid at få op at køre.

De opgavespecifikke endpoints ændrer måden, du designer på. I stedet for at bygge og vedligeholde prompts til omskrivning eller grammatikkorrektion kalder du et endpoint, der er lavet til formålet. Det giver mere forudsigelige svar og mindre prompt-vedligehold, men også mindre kontrol over output-formatet.

Friktionen ligger typisk to steder. Økosystemet omkring AI21 er mindre end hos de store udbydere, så færre frameworks har færdige integrationer, og du finder færre eksempler og svar i offentlige fora. Du kommer oftere til at læse dokumentationen frem for at kopiere en løsning.

Den anden friktion er dansk. Modellerne er primært optimeret til engelsk, og kvaliteten på dansk bør du teste med dine egne data, før du beslutter dig. Det gælder især grammatikkorrektion og omskrivning, hvor sproglig præcision er hele pointen.

De opgavespecifikke API'er er den største kilde til lock-in. Bygger du din applikation op omkring endpoints, der ikke har direkte modstykker hos andre udbydere, skal du genimplementere funktionaliteten som prompts, hvis du senere skifter. Overvej at lægge et internt abstraktionslag ind fra start.

Prismodellen er pay-per-use med enterprise-planer ovenpå. For små projekter og prototyper er det sjældent det billigste sted at starte. Værdien kommer, når volumen og kravene til stabil kvalitet er der.

AI21 er et israelsk selskab, og databehandling foregår ikke nødvendigvis inden for EU. Hvis du behandler personoplysninger, skal du undersøge databehandleraftale, hosting-region og overførselsgrundlag, før du sender produktionsdata. Nogle af modellerne udbydes også gennem større cloud-platforme, hvilket kan give andre muligheder for regionsvalg.

En anden udbyder passer bedre, hvis du har brug for et bredt modeludvalg, multimodalitet eller et stort økosystem af færdige integrationer. Det samme gælder, hvis dansk er hovedsproget i dit produkt. Skal du derimod løse afgrænsede tekstopgaver på engelsk i virksomhedsregi, er AI21 værd at teste mod alternativerne.