Perplexity AI

Perplexity AI blev grundlagt i 2022 og har hovedkvarter i San Francisco. Platformen kobler sprogmodeller sammen med web search, så svaret bygger på sider hentet ned på forespørgselstidspunktet. Formålet er at levere svar med kilder frem for svar genereret alene fra modellens træningsdata.

Det gør Perplexity til en anden type udbyder end de generelle model-leverandører. Hvor en almindelig chat-model svarer ud fra det, den har lært under træning, fungerer Perplexity nærmere som et søgelag med en model ovenpå. Modellerne findes både i online-varianter, der henter web-indhold, og i varianter uden søgning.

Den typiske kunde er en, der har brug for aktuel information med sporbarhed. Det gælder redaktioner, analyseafdelinger, researchfunktioner og produkter, hvor brugeren skal kunne klikke videre til kilden. Har du derimod brug for en model til kodegenerering, kreativ tekst eller behandling af dine egne dokumenter, er det ikke her, du skal starte.

Du kommer i gang med en API-nøgle og kan kalde endpointet med en almindelig HTTP-request. Formatet minder om det, du kender fra andre chat-completion-API'er, så eksisterende kode kan ofte genbruges med begrænsede ændringer. Der findes et Python SDK, hvis du foretrækker det frem for rå requests.

Den væsentlige forskel ligger i responset. Ud over teksten får du citation metadata, altså de kilder modellen har brugt. Det er den del, du bygger din UI omkring, hvis sporbarhed er pointen med din integration.

Friktionen opstår typisk tre steder. Latency er højere end ved rene LLM-kald, fordi der skal hentes og behandles websider undervejs, og det mærkes i interaktive flows. Streaming hjælper på den oplevede ventetid, men fjerner ikke grundproblemet.

Dernæst er output mindre forudsigeligt. Samme prompt kan give forskellige svar på forskellige dage, fordi weben har ændret sig. Det gør regressionstest og evaluering sværere end ved en fast model. Endelig kræver source filtering, at du sætter dig ind i, hvordan filtrene faktisk virker, før du kan stole på dem i produktion.

Kvaliteten af svaret afhænger af, hvad der ligger på nettet om emnet. På smalle eller nye områder kan kildegrundlaget være tyndt, og på områder med meget indholdsstøj kan det være misvisende. Citationer betyder ikke automatisk, at kilden er troværdig, kun at den blev brugt. Du bør vise kilderne til brugeren frem for at behandle svaret som verificeret.

Lock-in er moderat på API-niveau, men reel på funktionsniveau. Selve kaldet kan skiftes ud, men har du bygget en oplevelse omkring citation metadata, findes den funktionalitet ikke i samme form hos alle andre udbydere. Alternativet er at bygge dit eget retrieval-lag oven på en generel model, hvilket giver mere kontrol og mere arbejde.

Drift og databehandling foregår i USA. Skal du håndtere persondata eller arbejde under skærpede krav til dataplacering, bør du afklare vilkår og overførselsgrundlag, før du sender indhold afsted. Prismodellen er freemium med en gratis basisadgang og et betalt pro-niveau, så du kan teste før du forpligter dig.

En anden udbyder passer bedre, hvis dit behov er lav latency, deterministisk output, arbejde med interne dokumenter eller multimodale opgaver. Perplexity giver mest værdi, når aktualitet og kildehenvisninger er det centrale krav.