Waarom de beste automatisering een mens in de lus houdt

Volledige autonomie oogt prachtig in een demo. Er gaat een prompt in, er komt een afgeronde taak uit, en de zaal knikt. Maar de systemen die het contact met de productiepraktijk overleven, zijn zelden de meest autonome — het zijn de systemen die precies weten wanneer ze moeten stoppen en vragen.

Bij Rylo hebben we honderden flows zien gaan van een net diagram naar de rommelige werkelijkheid van echte data, en het patroon is steeds hetzelfde. Het werk dat veilig volledig te automatiseren is, is het werk waar toch al niemand zich zorgen om maakte. Het werk dat er echt toe doet — geld dat verschuift, toegang die wordt verleend, een klant die iets te horen krijgt — is het werk waar een goed geplaatste pauze meer waard is dan nog een procentpunt nauwkeurigheid.

De demoval

Demo's belonen autonomie, omdat demo's met schone invoer werken. De factuur is leesbaar, het klantdossier is compleet, het verzoek is ondubbelzinnig. Productie is het tegenovergestelde: de factuur is een foto van een verfrommeld bonnetje, het dossier bevat twee tegenstrijdige adressen, en het verzoek is technisch geldig maar overduidelijk een vergissing.

Een agent die geoptimaliseerd is om "altijd af te maken" maakt het ook af — zelfverzekerd en fout. De oplossing is geen slimmer model. Het is een systeem dat zijn eigen onzekerheid herkent en die doorstuurt naar de enige resource die écht goed is in dubbelzinnigheid: een mens.

Het doel is geen systeem dat nooit een mens nodig heeft. Het is een systeem dat er precies op het juiste moment om vraagt — en geen moment eerder.

Waar je de mens plaatst

Niet elke stap verdient een controlepunt; een flow die voortdurend pauzeert is gewoon een traag formulier. De kunst is de mens te plaatsen waar de kosten van een fout hoog zijn en de kosten van wachten laag. In de praktijk is dat een korte lijst:

• Onomkeerbare acties. Betalingen, verwijderingen, alles wat een klant rechtstreeks raakt.
• Uitvoer met lage zekerheid. Als de eigen signalen van de agent zeggen "ik weet het niet zeker", dan is dat een doorstuurbeslissing, geen gok om er doorheen te jagen.
• Randgevallen van beleid. Gevallen die precies op de grens van een regel zitten, waar oordeel het wint van een drempelwaarde.

Al het andere loopt onaangeroerd door. Een goede flow voert misschien zesennegentig van de honderd keer zelf uit en overhandigt je stilletjes de vier die een tweede mening nodig hadden.

De pauze ontwerpen

Een controlepunt is alleen nuttig als de mens er binnen enkele seconden op kan handelen. Dat betekent dat de pauze met context moet aankomen, niet alleen met een ja/nee-knop: wat de agent heeft gedaan, wat hij op het punt staat te doen, waarom hij is gestopt, en de ene beslissing die je daadwerkelijk moet nemen. Krijg je dit goed voor elkaar, dan voelen goedkeuringen niet langer als overhead, maar als sturen.

In Rylo is dit een volwaardige node, geen bijzaak. Een run bereikt een mens-in-de-lus-stap, de juiste persoon krijgt de beslissing met alles erbij, en op het moment dat diegene kiest, pakt de flow precies op waar hij was gebleven — en onthoudt de keuze voor de volgende keer.

Vertrouwen stapelt op

Dit is het deel dat mensen verrast: een mens in de lus houden vertraagt de adoptie niet — het versnelt die juist. Teams geven meer werk uit handen aan een systeem dat ze kunnen onderbreken dan aan een systeem dat ze niet kunnen stoppen. Elke goede vangst bij een controlepunt is een kleine storting van vertrouwen, en vertrouwen is wat je later in staat stelt de automatisering te verbreden.

Autonomie is een schuifregelaar, geen schakelaar. Begin met mensen op de stappen met hoge inzet, kijk waar ze steeds zonder nadenken op "goedkeuren" klikken, en maak daar regels van. Het systeem wordt autonomer omdat het dat heeft verdiend — en dat is de enige soort autonomie die het waard is om uit te rollen.