Nye smarte produkter og services — eller algoritmisk grusomhed?
Vi kigger i dag på tre vidt forskellige tech-historier, der har det til fælles, at de både har en super smart og en super problematisk side. Fx når algoritmer minder om årsdage, men ender med at vise dansende tegneseriefigurer på forældrenes grav.
Vi kigger i dag på tre vidt forskellige tech-historier, der har det til fælles, at de både har en super-smart og en super-problematisk side.
Din iPhone kan nu finde alverdens dimser, du har mistet… men kan samtidig også finde dig, selvom du ikke ønsker at blive tracket.
500 millioner Facebook-brugeres offentliggjorte emails og telefonnumre er ligeledes et resultat af en smart feature, der altså ikke var så smart igen.
Og så er der store udfordringer med de algoritmer, der automatisk minder os om årsdage, men i stedet ender med at vise dansende tegneseriefigurer på forældrenes grav eller billeder af ex-kæresten i fotorammen.
1. Nu kan iPhone finde de ting du ikke kan finde — og andre kan (måske) finde dig
Apple har opdateret appen “Find My” der på dansk blot hedder “Find”.
Appen blev oprindeligt udviklet til at man kunne få oplyst lokationen på sin telefon eller computer, hvis man havde misten den, og blev slået sammen med “Find venner”, så man kan dele sin lokation med folk, man kender.
Nu får appen så et tredje ben, som gør det muligt at finde andre genstande, man har mistet.
Appen kan nemlig nu integreres med produkter fra andre firmaer, som indbygger Apples Find-protokol.
I første omgang er der tale om et sæt trådløse Belkin-øretelefoner, den hollandske elcykel VanMoof, og små bluetooth-brikker fra firmaet Chipolo, som man fx kan hægte på sine nøgler eller lægge i sin taske.
Det fungerer ganske enkelt ved, at din iPhone, iPad, Mac eller andet Apple-hardware, som har Bluetooth slået til, kan opfange signalerne fra disse enheder og videresende dem, således at Apples milliarder af devices i fællesskab udgør et kæmpemæssigt netværk.
Blot én enhed med Wi-Fi aktiveret skal i sidste ende sende informationen om, hvor en brik eller cykel befinder sig videre til skyen, og derfra sendes signalet videre til den person, der har mistet sin ting.
Al data-trafikken er end-to-end krypteret og anonymiseret, så hverken Apple eller producenten af brik, cykel eller øretelefoner, kan se, hvor et device befinder sig eller hvem det tilhører.
Og det er jo i udgangspunktet skidesmart — jeg kender op til flere, der ville blive gladere mennesker af at kunne finde deres ting ved hjælp af en app.
Men… som dagens nyhedsbrev omhandler, så kan teknologier, der er udviklet med et positivt sigte, ofte let misbruges.
Det kræver i hvert fald ikke ret meget fantasi at forestille sig, at alt fra paranoide forældre, til jaloux ægtefæller, eller magtsyge bosser kunne finde på at lægge sådan en lille brik ind i en jakke, taske eller bil.
På den måde vil de altså kunne følge en persons bevægelser ned til mindste detalje — vel at mærke uden at personen der bærer brikken rundt, er klar over det.
Måske er jeg bare ekstra paranoid i dag, men det er vigtigt lige at pointere, at der så godt som altid er en bagside af medaljen, selv med de teknologier som er designet til at gøre godt.
2. "Smart" feature skyld i 500 millioner Facebook-brugeres mistede data
Det samme problem gør sig gældende i den næste historie.
Du er ganske sikkert stødt på det seneste store læk af Facebook-brugerdata, hvor mere end 500 millioner email-adresser og andre personlige oplysninger nu ligger frit tilgængeligt på nettet.
Selvom sagen ligner en række andre klassiske datalæk, så er denne her sag temmelig speget.
Først og fremmest, så er det ganske uklart, præcis hvor dataene stammer fra.
Wired har gennemgået sagen på fornem vis, uden fuldstændig at kunne konkludere den præcise oprindelse.
Facebook oplyser, at der slet ikke er tale om et læk, men at ondsindede bagmænd har “scrapet” data — altså udnyttet en nu lukket Facebook-funktion, hvor man kunne hente data om brugere ved at slå emails eller telefonnumre op.
Ligeledes siger Facebook, at de nu offentliggjorte brugerdata ikke stammer fra en enkelt episode, men er data samlet fra flere forskellige kilder.
Af samme årsag mener Facebook ikke, at det har været på sin plads at oplyse brugerne om problemet, fordi der ikke direkte er tale om et hack eller sikkerhedsbrud(!). Den lader vi lige stå et øjeblik 🤡
Det irske datatilsyn, som er ansvarlige for at overse Facebook i Europa, oplyser, at de ikke har modtaget nogen anmeldelse om sagen fra Facebook.
Om det er et brud på GDPR er uklart. Både fordi nogle data kan stamme fra før GDPR blev indført i Europa, og fordi der altså ifølge Facebook ikke er tale om et egentligt brud på deres sikkerhed, men at nogle ondsindede aktører har misbrugt en funktion, der var tiltænkt at være en feature til at finde sine venner og bekendte.
En ting er dog helt sikkert. Mere end en halv milliard brugere — inklusive Mark Zuckerberg selv — har fået oplysninger såsom email-adresse og telefonnummer lækket på nettet. Og det skyldes altså angiveligt et ringe Facebook-design, som har gjort brugernes private data sårbare.
Som et meget lille plaster på såret, kan du nemt finde ud af om du er blandt de 533 millioner personer, hvis informationer nu svømmer i cyberspace.
På hjemmesiden Have I Been Pwned kan du slå dine email-adresse og dit telefonnummer op, og se om de har været lækket. Det gælder ikke blot den omtalte Facebook-sag, men også alle de andre mange læk, der har været i tidens løb.
3. Når algoritmerne strør salt i de dybeste sår
Vi slutter dagens nyhedsbrev med en meget anbefalelsesværdig artikel, som på en helt tredje måde viser, hvordan funktioner der er designet til at gøre godt, nemt kan ende med at gøre rigtig nas.
Wired-journalisten Lauren Goode har skrevet en lang og personlig historie om, hvordan algoritmerne bliver ved med at minde hende om det bryllup, hun havde planlagt med sin ex-kæreste, men som hun i sidste øjeblik valgte at afblæse.
Foto af ex-kæresten bliver ved med at dukke op i hendes iPhone foto-app ('minder') på Facebook ('på denne dag'), og på hendes Google Nest Hub (en fotoramme, der viser gamle billeder).
Tillykke-hilsener med årsdagen fra bryllupsfirmaer rammer stadig Goodes indbakke, og Pinterest bliver ved med at blæse brudekjoler og andre relaterede bryllupsbilleder i hovedet på hende.
Lauren Goode snakker blandt andet med Omar Seyal, som er ansvarlig for Pinterest, og som i den grad genkender Goodes historie.
Seyal kalder det for “abort-problemet” 😳, med henvisning til par der aborterer, men som bliver ved med at se babytøj, børnemøbler og andre lignende genstande i deres feed.
Men han henviser til, at folk som Lauren Goode — og altså folk der aborterer — tilhører et mindretal, og det bare er den pris, de kommer til at betale oveni en i forvejen svær situation.
Men det stopper ikke der. Reklamerne på nettet bliver også ved med at vise nye produkter, du kan købe, hvis du først har signaleret at et barn eller et bryllup er på vej.
Og det er et reelt problem.
Forfatter, journalist og internet-aktivist Cory Doctorow, har netop publiceret en længere tweet-tråd, hvor han påpeger en lang række andre lignende tilfælde.
The wife of one of my elementary school teachers once delivered a full-term, stillborn baby. It was a great tragedy, but far worse came in the months and years that followed, as direct-marketers bombarded them with pitches that tracked the progress of their dead child.
— Cory Doctorow (@doctorow) April 6, 2021
1/ pic.twitter.com/W1svSjr3lM
Bandt andet linker han til en mand, der har oplevet, at Facebook viser animerede tegneseriefigurer, der danser på et billede af hans mors grav.
Facebook is pushing that "share a memory" junk where they make custom videos out of your old photos to boost engagement and I just literally got shown a bunch of happy cartoon characters dancing on my mom's grave. 🤦♂️ pic.twitter.com/6NKIXqqq9I
— Patrick Gerard (@PatrickGerard01) August 21, 2018
Doctorow henviser til udtrykket inadvertent algorithmic cruelty (utilsigtet algoritmisk grusomhed), som stammer helt tilbage fra 2014.
Men han argumenterer for, at man skal droppe utilsigtet, og blot kalde det algoritmisk grusomhed, når vi snakker om denne form for automatisk påmindelse af tidligere billeder og episoder, som vi i virkeligheden helst er fri for — eller onlinereklamer der er med til at forstærke oplevelser, vi måske helst ikke vil mindes om konstant.
Doctorows pointe er, at vi naturligvis skal kunne genopleve vores gamle digitale minder, men at vi skal have mulighed for at fravælge, at algoritmerne gør det for os.
Om det ender sådan, kan man godt tvivle på.
...Og så til dagens links👇.
LINKS TIL LÆSEHESTE
Facebook fyrer op under lyd-kedlerne: Ny “hotline” app klar, mens direkte Clubhouse-konkurrent stadig er under udvikling
Sarah Perez
Bedre aldrig end sent? Will.i.am klar med ansigtsmaske med indbygget HEPA-filter og hørebøffer
Nu kan man betale med bitcoin og ethereum på PayPal — foreløbigt dog kun hvis man bor i USA
Danmark skal være med på AI-vognen: Stor investering skal danne grobund for et nyt dansk center for kunstig intelligens
Hele tech-industrien ånder lettet op: USAs Højesteret giver Google medhold i principiel sag om brug af Oracle-ejet kodesprog
Brian Fung, CNN Business
Patreon har økonomisk vokseværk: Støtte til små indholdsproducenter er blevet en milliard-dollar-forretning
Reuters Staff
Først puttede de dem i havet: Nu sparer Microsoft energi ved at køle servere ned i kølevæske.
Tom Warren
1,6 millioner ud af 1 milliard: YouTube offentliggør, hvor mange video-visninger, som overtræder firmaets regler
Paresh Dave
