Amazon

Amazon Bedrock er bygget til organisationer, der allerede kører på AWS. Hvis din infrastruktur, dine data og dine adgangsrettigheder ligger i AWS, får du sprogmodeller ind i den samme opsætning uden at etablere et nyt leverandørforhold. Det er den primære grund til at vælge Bedrock frem for at gå direkte til modeludbyderen.

Tilgangen adskiller sig fra udbydere som OpenAI og Anthropic ved, at Amazon ikke kun sælger egne modeller. Bedrock fungerer som et lag oven på modeller fra flere leverandører, herunder Amazons egne Titan-modeller og modeller fra tredjeparter. Du vælger model per kald i stedet for per kontrakt.

Det passer især til virksomheder i regulerede brancher, hvor indkøb, revision og databehandleraftaler tager tid. Når AWS allerede er godkendt internt, er der kortere vej til produktion. Til gengæld får du sjældent nye modeller på Bedrock samtidig med, at modeludbyderen selv lancerer dem.

Du kommer i gang gennem AWS-konsollen eller AWS SDK, ikke gennem en selvstændig API-nøgle. Adgang styres med IAM, og du skal typisk aktivere de enkelte modeller i din konto og region, før de kan kaldes. Det trin overrasker mange første gang.

Selve API'et lægger op til, at du sender prompts til et model-id og selv håndterer resten. Er du vant til OpenAI-kompatible endpoints, skal du regne med at skrive integrationen om. Request- og response-formater varierer desuden mellem modelfamilierne på platformen, så et skift af model er ikke altid en ren konfigurationsændring.

Friktionen ligger sjældent i modelkaldene. Den ligger i alt rundt om: regionsvalg, service quotas, rollepolitikker og opsætning af knowledge bases eller agents. Har du ikke AWS-erfaring i teamet, bruger du mere tid på platformen end på applikationen.

Til gengæld får du logning, netværksisolering og adgangsstyring med samme værktøjer som resten af din infrastruktur. For teams med en fungerende AWS-praksis er det en reel besparelse.

Bedrock binder din applikation til AWS på flere niveauer end blot modelkaldet. Knowledge bases, agents og finetunede modelvarianter er platformspecifikke. Vil du senere flytte til en anden udbyder, er det typisk den del, der koster mest at bygge om.

Omkostninger opgøres per token og lægges oven i den øvrige AWS-regning. Det gør det svært at læse forbruget isoleret, hvis du ikke sætter tagging og budgetalarmer op fra start. Vær særligt opmærksom på, at forbrug kan stige hurtigt ved retrieval-tunge opsætninger.

På EU-siden kan du køre i europæiske regioner, men modeludvalget er ikke ens i alle regioner. Tjek konkret, om den model du vil bruge er tilgængelig i den region, dine data må ligge i. Amazon er desuden amerikansk ejet, hvilket kan have betydning for din vurdering af tredjelandsoverførsler.

Er du et lille team uden AWS-historik, er en direkte API hos modeludbyderen hurtigere at komme i gang med. Har du brug for nyeste modelversion samme dag den udkommer, bør du gå direkte til kilden. Bedrock giver mening, når driftsmodellen og compliance vejer tungere end tid til første kald.