Felet som slank förbi två granskare

Ett fel överlever två granskningar genom att se rätt ut

Ta en parkeringsberäkning: fastighetstyper, scenarier, efterfrågan över tid. En ingenjör tar fram den. En kollega granskar den. Ytterligare en kollega granskar den igen. Siffran är rimlig, metoden är standard, handlingen är välskriven. Den godkänns och levereras till beställaren.

Resultatet är en byggnad med mer parkering än den någonsin använder, därför att en liten avvikelse i en beräkning passerade en upprättare och två granskare. Ingen av de tre var en svag ingenjör. Tre kvalificerade personer tittade på siffran, och siffran var ändå fel.

Kör samma beräkning genom ett AI-system som arbetar annorlunda, och berättelsen slutar tidigare. Den läser inte härledningen och nickar. Den hämtar indata, räknar om resultatet på egen hand, jämför det mot den levererade siffran och flaggar avvikelsen direkt, medan byggnaden fortfarande är en ritning.

Seriell och trött

Börja med det som inte hände: försumlighet. Ingenjören gjorde sin egenkontroll, granskarna gjorde det granskare gör, och alla följde rutinen. Om ett kvalitetssystem bara håller när ingen har en dålig torsdag är det inget kvalitetssystem. Det är en chansning.

Mänsklig kollegial granskning har två strukturella egenskaper som ingen yrkesskicklighet tar bort. Den är seriell: en läsare i taget tar den färdiga handlingen och följer författarens resonemang genom den. En granskare som följer en rimlig härledning tenderar att bekräfta den, och att räkna om varje siffra från grunden skulle ungefär dubbla kostnaden för leveransen, så det görs nästan aldrig. Och den är trött: granskningen ligger sist i tidplanen, närmast deadline, och konkurrerar med veckans alla andra handlingar på granskarens bord. Uppmärksamhet är en budget, och granskningen betalas med det som finns kvar.

Maskingranskning vänder på båda egenskaperna. Den räknar om i stället för att läsa med, kontrollerar allt i stället för ett stickprov, och ger den sista siffran samma uppmärksamhet som den första. Den vet inte att deadline är i morgon.

Deming såg det 1982

Inget av det här är en ny insikt. W. Edwards Deming publicerade sina fjorton punkter för företagsledning 1982, byggda på decennier av kvalitetsarbete i tillverkningsindustrin. Den tredje punkten: "Cease dependence on inspection to achieve quality." Sluta förlita er på kontroll i efterhand för att nå kvalitet. Att inspektera en färdig produkt hittar felen för sent och missar för många. Kvaliteten måste byggas in i processen som producerar den.

Byggsektorn svarade på sitt kvalitetsproblem med mer kontroll. Egenkontroll, intern granskning, extern granskning, beställarens granskning: lager på lager av kvalificerade människor som läser samma färdiga handling. Varje lager hjälper, och varje lager är ytterligare en seriell, trött läsare. Parkeringsberäkningen passerade tre av dem.

Oberoende omräkning är det Deming faktiskt efterfrågade. Kontrollen slutar vara en person som läser resultatet och blir en andra, oberoende produktion av samma resultat. Två härledningar som stämmer överens säger något som en nickning aldrig kan.

Underskriften förblir mänsklig

Inget av det här flyttar underskriften. Ingenjören granskar fortfarande, beslutar fortfarande, skriver fortfarande under och svarar för arbetet, precis som förut. Vem som håller i pennan är avgjort och förblir avgjort; vi har skrivit om det i Ingenjören får sista ordet. Det som flyttar sig är träffsäkerheten: andelen fel som hittas innan beställaren hittar dem.

Varje ingenjör bär på en privat lista över misstag som fångades i sista stund och fortfarande svider. Parkeringsberäkningen är hur den listan ser ut när felet aldrig fångas. Från och med nu möter den sortens fel ett andra par ögon som aldrig tröttnar och aldrig har en torsdagseftermiddag. Nästa siffra som tyst är fel stannar på papperet, upptäckt medan bygget fortfarande är en ritning.