Automatiserede systemer overtager stadig flere opgaver, og i trafikken skal kunstig intelligens nu hjælpe med at sikre, at reglerne bliver overholdt.
Men det er tydeligt, at vi stadig er langt fra, at robotterne tager kontrol over verden. Kunstig intelligens er nemlig ikke fejlfri – den kan stadig begå fejl.
Dette fik en bilist i Holland at føle, da han modtog en bøde på 380 euro (omkring 2.800 kroner) for at bruge sin telefon bag rattet.
Problemet? Han talte slet ikke i telefon.
Tim Hansen blev i november sidste år overrasket over at modtage en bøde for en overtrædelse begået en måned tidligere. Han kunne simpelthen ikke huske at have brugt sin mobil under kørslen og besluttede sig for at undersøge bevismaterialet. På billedet fra politiets AI-kamera så det ud til, at han holdt noget op til øret – men ved nærmere eftersyn var hånden tom. Han kløede sig faktisk bare i hovedet.
Systemet, Monocam, er designet til at genkende, når en bilist bruger en håndholdt enhed. Men som Hansen påpeger, er kunstig intelligens ikke ufejlbarlig.
AI-modellen er sandsynligvis blevet trænet på tusindvis af billeder af mennesker, der holder en telefon op til øret, men måske ikke så mange billeder af folk, der blot rører ved deres hoved med en tom hånd. Dette kan have fået systemet til at drage en forkert konklusion.
"Hvis en model skal afgøre, om noget er 'ja' eller 'nej', kan den naturligvis tage fejl," forklarer han til det hollandske medie Nippur.
AI-fejlen burde dog være blevet opdaget af den menneskelige kontrolinstans, der skal godkende bøderne. Men heller ikke her blev fejlen opdaget, og bøden blev sendt afsted.
Den hollandske bilist klagede over afgørelsen og vandt til sidst sagen i retten, efter at have fremvist algoritme-beregninger, der beviste, at han fysisk ikke kunne have haft en telefon i hånden.
Foto: Tim Hansen
