Hvor går grænsen for test af selvkørende beta-software på offentlig vej?

Da Tesla for et par dage siden sendte en ny udgave af firmaets såkaldte Fully Self Driving-software (FSD) ud til få, udvalgte brugere, kom softwaren med to stempler uden på pakken.

Først og fremmest var den markeret som en beta-udgave, som jo dækker over, at det stadigvæk ikke er en fuld færdig version.

Dernæst kom opdateringen med en regulær advarsel, som bestemt ikke har gjort alle trygge. På den indledende skærm står der klart og tydeligt om den selvkørende softwares evner:

“Den kan gøre den forkerte ting, på det værst tænkelige tidspunkt, så du skal altid holde hænderne på rattet og holde ekstra godt øje med vejen.“

“It may do the wrong thing at the worst time” - sound like a great thing to put on our roads. h/t @NHTSAgov @NTSB pic.twitter.com/tPOvpVgxPH
— Keubiko (@Keubiko) October 22, 2020

Det får blandt andet techjournalisten Owen Williams til at stille spørgsmålet, "hvordan fravælger jeg at Tesla-chauffører ‘beta-tester’ det her i nærheden af mig? 😱."

Og det er jo et ganske relevant spørgsmål.

For lige at klargøre hvad det nye er sammenlignet med tidligere udgaver af Teslas Autopilot, så evner Teslaerne nu at køre på villaveje uden streger, der adskiller vejbanerne, og den kan køre ind og ud af rundkørsler.

Ligeledes kan bilen nu køre helt frem til et kryds og selv foretage højre eller venstre-sving fuldstændig uden at chaufføren skal gøre noget. Det gælder både på veje med og uden trafiklys. Den kan så at sige (i teorien) køre fra A-B på egen hånd, så længe du ikke vil have den til at køre de sidste meter ind i indkørslen eller på parkeringspladsen.

Hvor godt det virker i de første test, der er lagt på nettet, vender vi tilbage til.

Teslas mest potente selvkørende funktioner er ingenlunde godkendt til at blive brugt på europæisk vej endnu. Så udfordringen er i første omgang isoleret til Nordamerika.

Men det ændrer ikke ved problemstillingen. Hvor god skal en selvkørende bil være, før den kan slippes løs på vejene? Og hvordan bliver den nogensinde god nok, hvis den ikke kommer ud i den virkelige verden og indsamler data om, hvor og hvordan helt almindelige bilister nu engang kører?

Flere af Teslas direkte konkurrenter er i hvert fald stærkt utilfredse med beta-lanceringen.

Koalitionen Partners for Automated Vehicle Education (PAVE), som blandt andre består af Ford, Audi, Volkswagen og Toyota, men også Googles selvkørende division, Waymo, og General Motors ditto, Cruise, siger i en udtalelse:

“Test på offentlig vej indebærer et seriøst ansvar. At bruge utrænede forbrugere til at validere beta-software på offentlig vej er farligt og uforeneligt med eksisterende vejledninger og industristandarder.”

Den amerikanske trafikstyrelse National Highway Traffic Safety Administration (NHTSA) har også responderet på nyheden. Dog lidt mere afventende:

”NHTSA er blevet orienteret om Teslas nye funktion, som repræsenterer en udvidelse af dets eksisterende førerassistentsystem. Styrelsen vil overvåge den nye teknologi nøje og vil ikke tøve med at tage skridt til at beskytte offentligheden mod urimelige sikkerhedsrisici,” lyder det fra den ansvarlige amerikansk myndighed.

Som nævnt er det ikke tilladt at bruge denne type software på vejene i Europa endnu. Men der begynder så småt at ske noget.

I Storbritannien overvejer man fra 2021 at tillade bilister at tage hænderne væk fra rattet på motorvejene, hvis de kører med førerassistentsystemer, som selv evner at holde sig i kørebanen og bremse helt ned, hvis den forankørende bil bremser — det der ofte kaldes en adaptiv fartpilot.

Men alene denne langt mere simple funktion bekymrer nogle af de folk, der arbejder med teknologien.

Matthew Avery, som er forskningschef for den den britiske bilforsikrings-industris forskningsgruppe, Thatcham Research, siger om forslaget:

“Teknologien er der bare ikke endnu, uanset hvad producenterne siger,” og henviser helt specifikt til Tesla-ejeres opførsel:

”Vi har set folk lave dumme ting i Teslaer, som fx at kravle om bag i bilen, fordi de føler den er automatiseret, selvom den tydeligvis ikke er det,” siger Avery med henvisning til den ældre Tesla Autopilot som altså nu er ved at blive erstattet af den nye Fully Self Driving software.

Det var lige præcis den slags oplevelser, der for mere end en håndfuld år siden fik Google til at beslutte, at de kun ville udvikle en fuldt førerløs bil og undgå overgangsfasen, hvor chaufføren af og til skal styre bilen.

Googles test viste helt tilbage i 2012, at deres medarbejdere gjorde fuldstændig vanvittige ting i de dengang langt mindre sofistikerede selvkørende biler.

“Vi noterede en hel del dum adfærd, herunder en person der vendte rundt og ledte efter sin bærbare computer (…) mens han kørte med 105 kilometer i timen på motorvejen.”

“Vi så den menneskelige natur på arbejde: folk har meget hurtigt tillid til teknologi, når de først har set, det fungerer. Derfor er det vanskeligt for dem skiftevis at skulle køre bilen og lade bilen køre selv, når de opfordres til at slappe af,” forklarede Google tilbage i 2015.

Tilbage til nutiden. En ting er, hvad alle de kloge hoveder mener, tænker og observerer. En anden er, hvordan Tesla-ejerne, som rent faktisk har installeret den nye selvkørende opgradering, oplever softwaren.

Det har vi heldigvis YouTube og andre sociale medier til at finde ud af.

En af dem, der har været hurtig på aftrækkeren, er YouTuberen Tesla Raj. Han har allerede publiceret flere videoer af en Tesla Model Xs nye evner efter softwareopdateringen til Fully Self Driving.

I den første video sidder Raj sammen med sin ven og jubler og råber af begejstring, mens bilen fortager sit første sving rundt om et gadehjørne: “Elon, you are a mad man”.

Skør eller ej, så er videoen indbegrebet af den (tæt på) tilbedelse af Tesla og Elon Musk, som præger en del Teslaejere og Tesla fanboys. Tesla-religionen har udviklet sig til et vildt aktivt community på nettet, hvor folk deler erfaringer, hjælper hinanden i uhørt grad, og bekræfter hinanden i at Tesla er noget nær guds gave til menneskeheden.

I Tesla Tajs næste video, som varer 15 minutter, kommer vi med på en køretur i dagslys, hvor den selvkørende bil for alvor viser sine evner frem.

Turen starter ned af en villavej uden striber, der deler vejbanen op. Her ligger bilen helt korrekt og undgår parkerede biler og skraldespande uden problemer, mens den følger vejens kurvede forløb.

For enden af vejen fletter Model X'en elegant ind i den øvrige trafik og ligger sig lynhurtigt ud i den venstre svingbane, fordi den skal dreje kort tid efter. Her stopper bilen og venter på der bliver grønt, hvorefter den drejer selvsikkert.

Kun en enkelt gang i videoen, ser man et nøk af usikkerhed, hvor vejstriben pludselig forsvinder et øjeblik. Men ikke mere end, at bilen retter ind på et splitsekund.

Mest imponerende er det, da Teslaen skal dreje ind på en stærkt trafikeret vej, hvor bilen langsomt kryber frem og venter til det helt rette øjeblik, hvor der er et hul i trafikken. Nå ja, og så klarer den da også lige en rundkørsel.

Ifølge Tesla Taj, er der ikke en eneste gang på køreturen, hvor det er nødvendigt at overtage styringen fra bilen, hvilket får ham til at kalde det “a true fully autonomous beta test.”

Men træerne vokser jo sjældent ind i himmelen.

I en YouTube-video publiceret af Brandon M ser man, at softwaren ved flere venstresving har svært ved at finde den rette vejbane og laver nogle relativt hasarderede korrektioner for at finde på plads. I en anden video bliver Brandon M nødt til at overtage styringen, fordi bilen simpelthen “glemmer” at dreje til venstre.

En ting, som er ret vildt i alle videoerne, er, hvordan softwaren på skærmen i Teslaerne viser alle detaljer om, hvad bilen ser. Det er som at se den version, man ville tro var forbeholdt udviklerne i laboratoriet. Men du får de hele med. Alle vejbaner, linjer, streger, biler, fodgængere og en sand farvelade, der viser, hvordan computeren opfatter alle elementer i trafikken. Det er ægte beta.

Jeg startede med at stille spørgsmålet: Hvor går grænsen for test af selvkørende beta-software på offentlig vej?

Kigger man på videoerne, så overholder de selvkørende Teslaer fartgrænserne og almindelig pli langt bedre end de fleste bilister gør.

Men det er også ganske tydeligt at Teslaerne — trods imponerende evner i mange situationer — slet ikke er klar til at blive sluppet fri på egen hånd.

Jeg tænker umiddelbart, at vi skal være glade for, at det ikke er tilladt på danske veje endnu, også selvom jeg godt kan se logikken i, at man jo på et eller andet tidspunkt bliver nødt til at introducere teknologien.

Selvkørende biler bliver aldrig 100 procent ufejlbarlige, men hvis computerens fejl er færre, end dem vi som mennesker laver, så tilsiger logikken jo, at det er et godt bytte.

Mit bedste bud er, at hvis myndighederne i USA ikke går ind og forbyder Teslaer med den nyeste selvkørende software, så vil vi i de kommende måneder se to slags videoer.

Den ene er videoer af Teslaer, der undgår ulykker, som ville være sket, hvis bilen ikke havde styret selv.

Men vi vil formentlig også se Teslaer, der kommer galt afsted, fordi bilen træffer en forkert beslutning, og føreren enten ikke er opmærksom, eller ikke kan nå at reagere. Sker det sidste, ja så er myndighederne jo nærmest tvunget til at sætte ind med et (midlertidigt) forbud, og dermed bremse teknologiens udvikling.

Elon Musk, ja han ryster ikke på hånden. Han har i næste uge tænkt sig at sætte prisen på en opgradering til Fully Self Driving op med 2.000 dollars — fra 8.000 til 10.000 dollar — for de Tesla-ejere, der ikke allerede har købt pakken.

‘Mad man’ eller gud? Den selvkørende Tesla-beta deler helt sikkert vandene. Men jeg kunne virkelig godt tænke mig at prøve den.