Ingenjören får sista ordet

Samma ingenjör bär ansvaret som förut

När en handling lämnar ett teknikkonsultföretag har en namngiven person granskat den, avgjort att den stämmer och skrivit under den. Den personen svarar för arbetet: mot beställaren, mot den granskande kollegan, mot den egna yrkeskåren. Att AI är med när handlingen tas fram ändrar inget av det. Ingenjören granskar fortfarande. Ingenjören avgör fortfarande. Ingenjören skriver fortfarande under. Ansvarskedjan, från konstruktör via egenkontroll och intern granskning till leverans till beställaren, flyttar sig inte en millimeter.

Det är värt att säga rakt ut, för det är den första frågan varje ledare i branschen ställer om AI, och den förtjänar ett rakt svar snarare än en brasklapp. Ansvaret ligger kvar där det alltid har legat. Den intressanta frågan är den andra: vad står underskriften på numera? Den som väntar sig ett långt resonemang om gråzoner blir besviken.

Det här är inte juridisk rådgivning, och det behöver det inte vara. Det är en beskrivning av hur handlingar faktiskt tas fram och godkänns: en person med rätt kompetens tar ansvar för resultatet, och allt annat i processen finns för att göra det ansvaret möjligt att bära. Frågan var aldrig om en människa svarar för arbetet. Frågan är hur väl rustad den människan är i det ögonblick hon skriver under.

I fjol vilade underskriften på en trött skumläsning

Var ärlig om den gamla ordningen. En beräkning tas fram av en ingenjör, oftast under tidspress. Sedan granskas den av en kollega: en kunnig, samvetsgrann kollega som läser någon annans siffror en torsdagseftermiddag, mellan två egna leveranser. Ju mer pressat projektet är, desto senare landar granskningen, och desto mindre tid får den. Kanske följer en andra granskare, eller den kvalitetsansvariga, under samma villkor. Seriell mänsklig granskning, där varje ögonpar utgår från att det förra fångade det som var viktigt.

Ingen av dem är slarvig. Problemet är att uppmärksamheten inte räcker till allt. En granskare kan inte räkna om varje siffra i en handling på hundra sidor, så hon tar stickprov: kontrollerar de moment erfarenheten pekar ut som riskabla och litar på resten. Oftast fungerar det. Ibland gör det inte det, och då passerar felet tre underskrifter, inte en.

Kvalitetssystemet är inte heller boven. Det byggdes kring det enda som fanns att granska med: mänsklig lästid. Och den tiden är knapp, dyr och slut framåt torsdagseftermiddagen; ingen kvalitetsplan kan trolla fram fler lästimmar ur en fullbokad vecka.

När en maskin granskar först vilar underskriften på mer

Under en underskrift ligger två saker: vem som ger den och vad som är kontrollerat innan den ges. Det första förändras inte. Det andra förändras i grunden. När beräkningskedjan bakom en handling har räknats om av en maskin, varje siffra i stället för ett stickprov, är den granskande ingenjören inte längre första försvarslinjen mot räknefel. Hon bedömer ett arbete som redan är kontrollerat rad för rad, och hennes uppmärksamhet går dit den gör störst nytta: till antagandena, randvillkoren och de bedömningar en maskin inte kan göra.

Mönstret är bekant för alla som levererat en handling mot en deadline: en beräkning kan passera en upprättare och två granskare och ändå bära på ett litet fel, inte för att någon misskötte sitt arbete utan för att seriell mänsklig granskning har ett tak och ett pressat projekt når det. Vi tog isär den mekanismen i felet som slank förbi två granskare. En maskin som räknar om varje siffra och flaggar avvikelser ersätter inte granskarna; den ger dem en kortare och skarpare lista över det som förtjänar deras omdöme.

Det är hela förskjutningen, i två meningar. Underskriften: fortfarande mänsklig. Upptäcktsgraden: övermänsklig.

Ansvaret är ett skäl att börja, inte att vänta

Det brukar framställas så: reglerna är oklara, alltså avvakta. Men se på vad valet faktiskt består av. Väntar ni, vilar de handlingar ni skriver under nästa år på samma seriella mänskliga granskning som de ni skrev under i fjol. Lägg maskinell granskning i botten, så vilar samma underskrift, från samma ingenjör under samma ansvar, på en beräkningskedja som är kontrollerad i sin helhet.

Ingenting i den professionella processen behöver ändras för att det ska ske. Ingen ny ansvarsfördelning, inga omförhandlade avtal, ingen väntan på att en föreskrift ska nämna tekniken vid namn. Ingenjören får sista ordet, precis som tidigare. Beställaren möter samma motpart, granskningen följer samma rutin och egenkontrollen fylls i av samma hand. Skillnaden är hur mycket som är kontrollerat innan det sista ordet sägs. Underskriften du ger med maskinell granskning i botten är säkrare än den du gav i fjol. Ansvaret är inte ett skäl att vänta. Det kan vara det bästa skälet att börja.