Governance af AI-agenter fejler, når den er en kontakt. Sådan styrer jeg 12 agenter med roller, risikoniveauer, mandater og daglig selvforbedring.
Tolv AI-agenter arbejder for mig hver dag. Det var nemt nok at få dem til at lave arbejdet. Det svære var governance af AI-agenter, altså at beslutte, hvem der må sige ja.
De fleste virksomheder giver deres agenter én af to indstillinger. Låst helt ned eller fuld tillid. Begge dele går galt. I den her artikel viser jeg den model, jeg selv kører i min virksomhed. Roller med én ejer. Risikoniveauer med klare mandater. Ét sted til arbejdet. Én stemme udadtil. Og et dagligt loop, hvor agenterne forbedrer deres egne processer, og jeg godkender ændringerne.
Gartner har sat tal på et problem, jeg støder på igen og igen. I maj 2026 forudsagde analysehuset, at 40 % af virksomhederne inden 2027 vil nedgradere eller lukke autonome AI-agenter, fordi de først opdager hullerne i deres governance, når noget er gået galt i drift. Ifølge Gartner-analytikeren Shiva Varma er grundårsagen, at virksomheder behandler governance for agenter som binær, "either locked down or fully trusted".
Kun 13 % af organisationerne mener, at de har den rette governance for AI-agenter på plads. I samme udmelding forventer Gartner, at en gennemsnitlig Fortune 500-virksomhed vil have mere end 150.000 agenter i brug i 2028, mod under 15 i 2025.
Låser du alt ned, kravler selv de simple agenter af sted, og medarbejderne bygger deres egne skyggeløsninger uden om dig. Stoler du på alt, kan én agent med for mange rettigheder poste, slette eller bruge penge i dit navn. OWASP kalder det Excessive Agency og har det med på sin top 10 over risici i LLM-applikationer.
Den oplagte løsning er at sætte et menneske i loopet på hver eneste beslutning. Det lyder sikkert. Det er det ikke.
Anthropic har målt det i sit eget produkt. Brugerne godkendte omkring 93 % af alle forespørgsler om tilladelse, og jo flere de fik, jo mindre opmærksomhed gav de hver enkelt. Da Anthropic flyttede rutinehandlinger ind i en sandkasse, faldt antallet af forespørgsler med 84 %. Gartner beskriver samme risiko for agenter, der skal have godkendt hver handling. Godkendelserne kan forfalde under tidspres og godkendelsestræthed og give en falsk følelse af sikkerhed.
Jeg oplevede det selv. Mit første setup spurgte mig om alt. Derfor gav jeg agenterne en enkel regel: Jo færre forstyrrelser, jo bedre. Koster en handling faktisk penge, skal jeg godkende den. Indebærer den høj risiko for os eller for en kunde, skal jeg informeres og inddrages. Alt andet beslutter agenterne selv inden for deres mandat.
Kilde: egen praksis.
Det er ikke mindre kontrol. Det er kontrol, der sidder dér, hvor den gør en forskel. Anthropics egen forskning i agenters autonomi siger det præcist. Effektivt tilsyn kræver ikke, at man godkender hver handling, men at man er i stand til at gribe ind, når det betyder noget.
Tænk på et F1-team. Køreren træffer utallige beslutninger hver omgang uden at spørge pitmuren. Strategien går gennem race engineeren. Alt, der koster rigtige penge, går til teamchefen. Alle kender deres bane, før lyset går ud. Min agentorganisation fungerer på samme måde.
Kilde: egen praksis.
Hver opgave har præcis én agent, der ejer den. Min stabschef-agent, Mellas, tager opgaverne ind og fordeler dem til en specialist. Specialisten udfører, melder status, får review og kommer kun til mig, når der skal godkendes noget. Syv trin, hver gang. Jeg har skrevet mere om ejerskab i rolleklarhed: hvem ejer hvad.
Grøn betyder, at agenten gør det selv og logger det. Gul betyder, at en navngiven mandatholder beslutter. For teknik er det min CTO-agent, for en kunde er det kundens account manager-agent, for nye kunder er det forretningsudvikleren, og ellers er det Mellas. Rød betyder, at det koster penge eller har høj risiko, og så beslutter jeg. Det ligger tæt på det, Gartner kalder proportionel governance på tværs af fire autonominiveauer, fra Observe til Act Autonomously. Rød sikrer også, at et menneske står til ansvar, sådan som OpenAIs forskere argumenterer for i deres white paper om governance af agentiske AI-systemer.
Alt arbejde ligger i GitHub. Ét issue, én ejer og en statuslinje til Mellas ved hver ændring. Kode går fra issue til branch og pull request, derefter review hos CTO-agenten og merge hos Mellas. Ingen hemmeligheder og ingen persondata i repositoriet. Hver agent får den adgang, rollen kræver, og intet mere. Det er princippet om mindst mulige rettigheder, og det er også det, OWASP anbefaler.
Kun én agent taler med hver kunde. Intet bliver offentliggjort uden mit eget OK, og en anden agents OK tæller ikke. OWASP bruger faktisk en app, der poster på sociale medier, som eksempel på, hvor et menneskeligt godkendelsestrin hører hjemme.
Kl. 17.30 på hverdage skriver hver agent en aftenrapport. Hvad lavede jeg, hvad forsinkede mig, og hvad kunne jeg have gjort uden at spørge? Mellas samler rapporterne, finder mønstre og anbefaler ændringer. Jeg godkender eller afviser.
Det er rekursiv selvforbedring i praksis, og der er forskning bag. I Reflexion-studiet nåede agenter, der skrev refleksioner over deres egne fejl, 91 % på kodetesten HumanEval, mod 80 % for GPT-4. Anthropic beskriver et beslægtet mønster som evaluator-optimizer-workflowet. Forskellen i mit setup er, at et menneske godkender hver eneste procesændring.
Den 24. oktober bad jeg alle agenter om at gennemgå deres dag hver aften. Hvilke opgaver havde de, hvordan løste de dem, hvad stod i vejen, og hvordan kunne næste dag blive bedre?
Fem dage senere viste rapporterne mig noget, jeg ikke havde set. En opgave havde stået som "venter på Allan" i fire dage, selvom jeg allerede havde sagt ja. Godkendelsen var gået tabt i en overdragelse. En anden agent checkede alle opgaver, der stod som "venter på Allan". Ud af 11 ventede kun én reelt på mig.
Flere forslag den aften pegede på det samme. Godkendelser satte sig fast eller nåede mig uden grund. Mellas samlede dem, og næste morgen kl. 8.12 godkendte jeg tre ændringer.
Den nye morgenkø kørte samme dag. Samme aften havde rapporterne allerede fundet det næste. Et billede, jeg havde godkendt fem dage tidligere, var stadig ikke udgivet, fordi ingen havde oprettet næste trin med en dato. Agenten noterede også, at spørgsmålet aldrig behøvede at nå mig. Det lå inden for account managerens mandat.
Det er hele pointen. Agenterne løser ikke bare opgaver. De finder friktionen i deres egen proces, og jeg bruger et par minutter på at beslutte, hvilke rettelser der går live.
Start småt. Et pragmatisk setup, der passer til formålet, slår en perfekt governancemodel, der slår projektet ihjel, før det er kommet i gang. Jeg har skrevet mere om den balance i governance, der fremmer innovation i stedet for at kvæle den.
Agenter uden regler bliver en risiko. Agenter med et menneske på hvert klik bliver en flaskehals. Giv dem et mandat, ét sted at arbejde og et dagligt loop, og hold mennesket på de beslutninger, der betyder noget.
Rammeværkerne peger samme vej. NIST's AI Risk Management Framework behandler governance som en funktion, der går på tværs af alt det andet. EU's AI-forordning kræver menneskeligt tilsyn med højrisiko-AI-systemer, og efter AI-omnibussen gælder de regler fra 2. december 2027. Du behøver ikke vente på loven for at bygge det ind.
Og forskellen vokser allerede. I McKinseys State of AI-undersøgelse fra 2026 svarer 40 % fra store organisationer, at de skalerer AI-agenter, mens mindre organisationer står stille på 22 %. Næsten tre ud af fire af dem, der får mest ud af AI, har grundlæggende redesignet deres workflows, mod én ud af fire blandt alle andre.
Hvor mange af dine agenters beslutninger når et menneske i dag, og hvor mange burde gøre det?
Vil du have samme setup i din virksomhed? Jeg hjælper ledelser med at designe agentorganisationer med klare roller, mandater og en governance, der passer til forretningen. Læs om Executive Advisory & Vækstaktivering hos Melsen Consulting, eller tag kontakt.
Hold dig opdateret med mine informative blogindlæg.
Kæmper du med komplekse projekter, udfordringer med it-ledelse eller eksekvering af strategi? Med over 30 års erfaring med at levere resultater med stor effekt – hvad enten det er at redde forsinkede initiativer, optimere ressourcer eller drive transformation – giver jeg den klarhed, struktur og ledelse, der skal til for at lykkes.
Lad os tage en snak om, hvordan jeg kan hjælpe dig med at nå dine mål. Book et opkald i dag!
We only use necessary cookies unless you agree to statistics (Google Analytics), which help us see which articles are read. You can change your choice at any time. Read the privacy policy
