Computerens evne til at redde liv - og identificere en puddelhund

En autonom bils intelligens kan være med til at redde menneskeliv, mens en anden computer-intelligens tror at et æble er en iPod. Vi kigger i dag på, hvorfor kunstig intelligens er så fantastisk og problematisk på samme tid.

Computerens evne til at redde liv - og identificere en puddelhund

Få adgang til al Techlivs indhold — inklusive den fulde udgave af podcasten — for 39 kr. per måned. Første måned er gratis.

Abonnér på Techliv

1. Waymo-studie: Autonome biler kan undgå langt de fleste dødsulykker

Phoenix, Arizona er det eneste sted, hvor der foreløbigt findes kommerciel kørsel med fuldt førerløse biler. Her opererer Google-firmaet Waymo deres Waymo One-service i et afgrænset område på omtrent 130 kvadratkilometer.

Selvsamme område ligger højt på listen over dødsulykker i USA, særligt for fodgængere.

Waymo har derfor lavet et akademisk studie, hvor de har indsamlet informationer fra myndighederne om alle de 72 dødsulykker der skete i det område, som Waymo kører i omkring byen Chandler, i perioden 2008-2017. Herefter har Google-firmaet simuleret ulykkerne, hvor de har erstattet de involverede biler med deres kunstigt intelligente Waymo Driver.

I flere af de 72 dødsulykker var der to biler involveret i ulykken, og i disse tilfælde har Waymo først erstattet den bil, der forårsagede ulykken med Waymo Driver, og dernæst den bil der blev ramt.

I alt har de foretaget 91 simuleringer, og skal man tage Waymos egen research for gode varer, så har deres kunstige chauffør gjort det temmelig godt.

I de 52 af tilfældene, hvor Waymo Driver havde rollen som den bil, der var skyld i ulykken, ville Waymos førerløse bil have undgået samtlige ulykker.

Waymo-bilen i rollen som den bil der i den virkelige verden var skyld i ulykken. 

I de resterende 39 tilfælde, hvor Waymo agerede den bil der var uden skyld, ville Waymo have undgået 82 procent af ulykkerne.

I 10 procent af de tilfælde ville den computer-styrede bil have kunne minimere ulykkens omfang, mens den førerløse bil ikke havde haft mulighed for at gøre en forskel i de sidste 8 procent af tilfældene.

Waymo-bilen i rollen som den bil der i den virkelige verden blev påkørt. 

Alle de ulykker, hvor Waymo Driver ikke kunne have gjort en forskel, er — igen ifølge studiet — situationer, hvor bilen holder stille eller kører med en konstant fart, og bliver påkørt bagfra.

Waymo har samtidig publiceret videoer fra studiet (se ovenfor), hvor man ser eksempler på, hvordan bilen formår at undgå ulykker i kryds — både i rollen som den bil der gør noget ulovligt, og den bil som i virkelighedens verden kørte korrekt.

Techlivs take:

Der er naturligvis ganske belejligt for Waymo at kunne præsentere disse resultater, som ret entydigt viser fordelene ved en kunstig chauffør, der ikke er træt, fuld, eller blot overser en anden trafikant.

Udover at det er Waymo selv, der har udført forsøget, er det også vigtigt at have in mente, at simuleringerne er baseret på, hvordan politi og myndigheder mener, at ulykken har fundet sted. Så det er altså ikke en komplet gengivelse af, hvordan ulykkerne rent faktisk fandt sted.

Det ændrer dog ikke på, at førerløse biler tilsyneladende har potentialet til at nedbringe trafikulykker ganske markant.

Spørgsmålet er nok nærmere, hvornår vi vil se det ske. For uanset at mange — inklusive undertegnede — har været (over)optimistiske om, hvornår teknologien for alvor bliver en del af vores liv, så ligger det desværre nok stadigvæk længere ude i fremtiden, end man kunne håbe på.

Hvorfor det er tilfældet, skal vi blandt andet se nærmere på i den næste historie.


2. Snydt af tekst: Kunstig intelligens tror at æble er en iPod

Det er nemt at lade sig forblænde af computerens evne er til at genkende forskellige objekter.

Men lige så nemt er det efterhånden at forstå, hvor lidt der skal til for at snyde ellers virkelig komplekse systemer.

Senest har forskere fra OpenAI fundet fejl i deres eget ellers ret avancerede CLIP-system, som er designet til at forbinde tekst og billeder.

Fx kan du bede CLIP om at finde billeder af ordet banan, og den vil så (i de fleste tilfælde) identificere den gule krumme frugt blandt alle mulige andre objekter.

Men hvad sker der, hvis man sætter et lille stykke papir med ordet iPod på et æble? Ja, så tror computeren pludselig at et æble er en iPod.

Foto af OpenAI
Foto: OpenAI

I et andet forsøg har de tegnet $-tegn på en puddelhund, hvilket får computeren til at identificere billedet som en sparegris.

Forskerne kalder det for et typografisk angreb og skriver:

- Ved at udnytte modellens evne til at læse tekst oplever vi, at selv fotografier af håndskrevet tekst ofte kan narre modellen. (…) det kræver ikke anden teknologi end pen og papir.

Samtidig forklarer forskerne, hvordan det neurale netværk (den kunstige intelligens, red) også har andre udfordringer med det, som man kalder bias — altså at systemet er forudindtaget ofte på baggrund af det datasæt, som det er blevet trænet på.

OpenAI-forskerne nævner blandt andet en neuron i deres system af “Mellemøsten” som i nogle tilfælde associeres med “terrorisme”, og en anden neuron af “Latinamerika” der også aktiverer “immigration”.

Ligeledes har de identificeret en tredje neuron, som både aktiveres på gorillaer og mennesker med sort hud.

Det er i sagens natur stærkt problematisk og OpenAIs forskere konkluderer derfor:

- Vores egen forståelse af CLIP udvikler sig hele tiden, og vi overvejer stadig om, og hvordan vi vil frigive store versioner af CLIP.

Samtidig håber de, at deres forsøg kan være med til at fremme forståelsen af, hvordan denne type systemer virker, og de udfordringer systemerne fører med sig.

For lige at binde en lille krølle tilbage til Waymo-historien, så skal der altså ikke meget fantasi til at forestille sig, hvordan man også vil kunne snyde en førerløs bil, hvis man stiller en papfigur op af et menneske, eller på anden måde ændrer et af de objekter, som bilen er designet til at kunne identificere.


3. App kan spotte Covid-19 på lyden af hoste

Der er dog stadigvæk mange spændende muligheder for at bruge kloge computere og algoritmer i det godes tjeneste.

For kort tid siden skrev vi om et studie, hvor forskere via et Apple-ur kunne identificere folk der var smittet med Covid-19, alene ved at identificere skift i hjerterytmen — og endda flere dage inden de kendte symptomer på Corona-virus kunne spottes.

Men nu er der (måske) kommet endnu en smart computerbaseret måde, hvorpå man kan identificere sygdommen.

Forskere fra Essex University har nemlig udviklet en app, der ved at lytte på en persons hoste kan identificere, om personen er smittet med Covid-19.

Ifølge studiet, som er publiceret i IEEE Computer Society, er metoden 98 procent præcis.

Systemet fungerer ved at bruge en optagelse af en persons hostelyd, og sammenligne den med lyden fra både smittede og ikke smittede personers hoste.

Til formålet har de brugt 8.380 klinisk validerede tilfælde fra hospitaler i Spanien og Mexico.

De 2.339 af optagelserne stammer fra Covid-19 positive, mens hostelydene fra de resterende 6.041 stammer fra folk, der ikke er smittet.

Systemet er ifølge forskerne baseret på et kunstigt intelligent system, som kan identificere mønstre i lydene, som det menneskelige øre ikke kan opfatte — og altså med ret stor præcision.

Forskningleder for Essex Universitys Smart Health Technologies Group, Javier Andreu-Perez, ser appen som endnu et potentielt værktøj i kampen mod Covid-19.

- Vi er meget glade for de lovende resultater af dette nye screeningsværktøj, som kan vise sig at være en rigtig game-changer og en væsentlig tilføjelse til vores arsenal af værktøjer til bekæmpelse af pandemien, da det er langt mindre invasivt end de fleste andre COVID-19-tests, og også kan levere hurtige resultater.

I særdeleshed mener Andreu-Perez, at det kan bruges til at præ-screene folk på steder, hvor der ellers ikke er mulighed for at foretage lyntest.

The Times skriver i øvrigt, at forskere på MIT har udviklet en tilsvarende algoritme, med en nogenlunde tilsvarende præcision på 98,5 procent.

Forskerne fra Essex siger dog til avisen, at deres forsøg er det eneste, der er baseret på hosteprøver fra både smittede og ikke-smittede personer, som er valideret igennem sundhedsvæsenet.

Udover at kunne identificere folk, der er smittede, kan appen ifølge forskerne også være med til at give en indikation på, hvor slemt en person er smittet.

De har inddelt hostene i tre forskellige sværhedsgrader, som de håber kan bruges til at hjælpe sundhedsvæsenet til at vurdere, hvor slemt ramt en patient er, og fx om der kan være behov for en respirator.

Javier Andreu-Perez kalder resultaterne for “endnu et bevis på, at det er værd at forfølge intelligente biometriske systemer” til brug i sundhedsvæsenet.

På trods af projektets lovende resultater, er det dog endnu ikke nået til et stadie, hvor det er valideret til officiel brug.


LINKS TIL LÆSEHESTE

Splinternet? Indien tager flere og flere skridt til at bygge sit eget internet og favorisere indiske apps og services

India is trying to build its own internet
Since November, tens of thousands of farmers in India have been protesting against three agricultural laws introduced by the government. Since then, they have set up multiple camps on the outskirts of the capital, New Delhi, and refuse to leave until the laws are permanently repealed. CNN’s Vedika S…

Endnu en reklamefri søge-konkurrent til Google er på vej: Udviklet af... tidligere Google-topfolk

After Building Google’s Advertising Business, This Founder Is Creating An Ad-Free Alternative
Neeva raises another $40 million from Greylock and Sequoia to scale the subscription-based search startup

En god forklaring: Forstå email-hacket af Microsoft, og hvor kritisk det i virkeligheden er

The “Crazy Huge Hack” of Microsoft, Explained
Last week, Microsoft announced that the on-premises version of its widely used email and calendaring product Exchange had several previously undisclosed security flaws. These flaws, the company said, were being used by foreign threat actors to hack into the networks of U.S. businesses and government…

Ikke kun emails: Kinesiske hackere var angiveligt også en del af angrebet mod SolarWinds (side om side med russerne)

Chinese hackers targeted SolarWinds customers in parallel with Russian op
New data suggests that Russia wasn’t the only nation-state hacking customers.

En god forklaring #2: Når (næsten) alle hader Facebook, hvorfor bliver vi der så?

We all hate Facebook. So why aren’t we deleting our accounts?
“I do not enjoy the platform at all.”

Fysisk mobil-messe på vej: Arrangører offentliggør plan for sommer-udgave af Mobile World Congress

Organisers unveil safety plan for return of Mobile World Congress
The Mobile World Congress organisers unveiled a health and safety plan on Monday that they said would enable the gathering to go ahead in Barcelona this summer after last year’s event was called off due to the coronavirus pandemic.

Mikrofon og højttaler virker ikke så godt: Men iPhone 11 overlever seks måneder på bunden af en sø

iPhone 11 survived six months at the bottom of a lake [Video] - 9to5Mac
An iPhone 11 survived almost six months at the bottom of a lake before being found and rescued by divers. It was a particularly fortunate ...

You've successfully subscribed to Techliv
Perfekt! Hvis du vil have adgang til alt indhold på Techliv, skal du vælge et abonnement.
Velkommen tilbage! Du er nu logget ind på din konto.
Velkommen! Din konto er nu fuldt aktiveret, og du har adgang til alt indhold.