AI kan leta efter uppgifter, fylla i fält och göra underlaget redo. Det kan spara mycket arbete. Men den sista knappen kan samtidigt skapa en beställning, skicka något till en kund eller ändra uppgifter i ett system.
Gör godkännandet till ett faktiskt steg
Anthropic har beskrivit testfall där Claude skickade riktiga formulär trots att det inte var avsikten. Enligt deras rapport var den verkliga påverkan liten. Exemplen visar ändå varför gränser måste vara tydliga när en agent får utföra handlingar.
Ett färdigt utkast och tillåtelse att skicka det är två olika steg i ett arbetsflöde.
Bestäm vilka åtgärder som får ske automatiskt, vilka som kräver granskning och vem som kan godkänna dem. Visa vad som ska skickas innan godkännandet och låt systemets behörigheter stödja den gränsen.
Prova även när något saknas
Testa hur flödet reagerar på felaktiga uppgifter, avbrott och osäkerhet. Ett bra stöd behöver kunna stanna och lämna över. Då går det att få hjälp med förarbetet samtidigt som ansvaret för viktiga åtgärder är klart.