1. Apple svarer på kritik af kontroversiel iPhone-scanning: Vi giver ikke efter for pres fra regeringer

Sagen om Apples kontroversielle værktøj, der matcher brugerens fotobibliotek op mod en database over børnepornobilleder, ruller videre.

Efter hård kritik fra en lang række sikkerhedseksperter har Apple nu udgivet en seks sider lang FAQ om den såkaldte CSAM-sag (Child Sexual Abuse Material).

Her afviser Apple, at teknologien potentielt kan misbruges af regeringer, der måtte have mindre ædle tanker end at bekæmpe børneporno.

Kritikken har blandt andet gået på, at tvivlsomme regimer kunne tvinge Apple til at inkludere andre typer billeder, som myndighederne ikke mener befolkningen bør have på deres telefoner. Men det afviser Apple kategorisk i dokumentet:

Apple vil afvise sådanne krav. Apples CSAM-detekteringsevne er udelukkende bygget til at registrere kendte CSAM-billeder gemt i iCloud Foto, der er blevet identificeret af eksperter fra NCMEC og andre børnesikkerhedsgrupper.

Vi har før stået over for regeringers krav om at opbygge og implementere ændringer, der forringer brugernes privatliv, og har klippefast afvist disse krav. Det vil vi fortsat gøre i fremtiden.

For at gøre det fuldstændig klart, så er denne teknologi begrænset til at identificere CSAM, der er gemt i iCloud, og vi vil ikke imødekomme nogen regerings anmodning om at udvide den.

Ligeledes afviser Apple, at det er muligt at identificere noget som helst andet end børnepornografiske billeder, som er blevet verificeret af National Center for Missing & Exploited Children (NCMEC) og andre organisationer, der arbejder for børns sikkerhed.

Men spørgsmålet er bare, om det er tilstrækkelig garanti.

Blandt andre har Edward Snowden fremhævet, at historien med al tydelighed har vist, at selv den amerikanske regering ikke går af vejen for at se, om de kan udnytte den slags systemer.

History does not support your confidence in believing the government would never risk long-term trust in a tiny organization, much less and industry of key national importance, for a short-term operational advantage in intelligence capability.
— Edward Snowden (@Snowden) August 9, 2021

Selvom Apple altså forsvarer det kontroversielle tiltag, så er der særligt to ting, der er ganske uklare:

Hvorfor sammenligner Apple ikke blot hashes mellem den kendte børnepornodatabase og billeder, der er uploadet til iCloud, i stedet for at sammenligningen foregår lokalt på brugerens iPhone eller iPad?
Er der i virkeligheden tale om et paradigmeskift, når Apple begynder at scanne indhold på folks telefoner, uden brugeren har mulighed for at fravælge det?

Det taler vi meget mere om i podcasten, som lander hos dig fredag formiddag.

2. Google gør det (lidt) mere privat for unge at bruge deres tjenester

Google har netop introduceret en række nye tiltag, som har fokus på børn- og unges digitale ve og vel.

Vi har udvalgt nogle af de mest centrale og starter med reklamer.

Fremover kan annoncører ikke målrette annoncer til unge under 18 år, som er baseret på brugerens alder, køn og interesser. Det er altså stort set det samme, som Facebook og Instagram implementerede for et par uger siden.

Ligeledes kan placeringshistorikken heller ikke bruges til at ramme de unge, og er du under 18 år, får du ganske enkelt ikke mulighed for at slå funktionen til.

På YouTube bliver autoplay som standard slået fra, og de unge vil tilmed få jævnlige påmindelser om at tage en YouTube-pause blandt andet ved sengetid (hvornår Google så mener, dét er).

Videoer som de 13-17-årige uploader til videotjenesten, vil fremover ikke være offentlige, og den unge skal derfor aktivt beslutte, hvem der kan få adgang til at se videoerne.

I søgemaskinen er der også to ændringer. Google vil fremover som standard filtrere stødende og seksuelt indhold fra for alle unge under 18.

Samtidig får de unge og deres forældre mulighed for at bede om at få billeder fjernet fra søgemaskinen. Det skal ifølge Google blandt andet fungere som et “værn mod mobning”.

Hvor stor en forskel, de nye tiltag kommer til at gøre, er svært at spå om.

Men det er dog i udgangspunkt positivt at flere af techfirmaerne (og her holder vi lige Apple-sagen ude af ligningen, da den er af en helt anden karakter) begynder at sætte en eller anden form for nedre grænse for børns indtræden i den digitale verden. Blandt andet i forhold til ikke at lade annoncører udnytte de unges surfmønstre, og som standard at aktivere de mest private konto-indstillinger.

3. Twitter bekræfter: Vores billedealgoritme foretrækker hvide, unge og smukke mennesker

Hvis du uploader et foto til Twitter, som der ikke er plads til at vise i sin fulde størrelse i tweetet, så beskærer Twitter automatisk billedet.

Fotobeskærings-algoritmen har dog flere gange været udsat for stærk kritik — særligt for at foretrække lyse ansigter fremfor mørke, hvis et billede indeholder en sort og en hvid person.

Twitter tager heldigvis kritikken seriøst.

For at forsøge at få mere indsigt i deres egen algoritme, har de derfor netop afholdt konkurrencen Algorhitmic Bias Bounty Challenge, som fandt sted på den netop overståede Defcon-hackerkonference.

Her identificerede deltagerne i konkurrencen en række problemer med Twitters automatiske beskæring af billeder.

Before we recap the winners, we want to say thank you to all who participated. Building responsible algorithms takes a village, and we’re grateful for the community helping us uncover the unintended harms and avenues for exploitation that could exist in our cropping algorithm.
— Twitter Engineering (@TwitterEng) August 9, 2021

Vinderen af konkurrencen fandt frem til, at hvis man anvender skønhedsfiltre på fotos, så er det noget Twitters algoritme rigtig godt kan lide.

Andre af de vindende deltagere identificerede blandt andet, at algoritmen foretrækker emojis med lyse hudfarver frem for mørke, og latinsk skrift frem for arabisk.

Desuden har algortimen præference for at skære ældre mennesker og handicappede fra.

En deltager blev også fremhævet for at have påvist, at man ved at indsætte en stort set usynlig pixel kan ændre algoritmens præferencer.

Ifølge Twitter er det den første åbne konkurrence, der er blevet afholdt i techindustrien i forsøget på at komme algoritmers såkaldte bias til livs. Forhåbentlig bliver det ikke den sidste.

Hvis du er mere interesseret i at dykke ned i konkurrencens resultater, kan du se Twitters præsentation af resultaterne i den 65 minutter lange video nedenfor.

4. Xiaomi klar med open source robothund og en telefon med skjult kamera

Vi slutter dagen med to meget forskellige nye gadgets fra kinesiske Xiaomi.

Jeg ved ikke med dig, men når jeg kigger på billedet af Xiamos nye Cyberdog, så falder det mig ikke ind, at det skulle være menneskets bedste ven.

Men en hund er det i hvert fald. Og ligeledes en robot som på mange måder ligner Boston Dynamics Spot.

Softwaren i Cyberdog er ifølge Xiaomi open source, og således kan køberne af de første 1.000 kinesiske robothunde, Xiaomi netop har sluppet fri, selv udvikle videre på den software, hunden er født med.

Xiaomi oplyser, at de blandt andet bruger en del af den samme teknologi, som sidder i firmaets smartphones.

Hunden kommer da også med en række kameraer, LiDAR og kunstig intelligens, der ifølge kineserne gør den i stand til at kortlægge sine omgivelser i realtid, planlægge en rute, og undgå objekter, der står i vejen, mens den bevæger sig fra A-B.

Cyberdog har indbygget ansigtsgenkendelse, som naturligvis blot er designet til, at genkende og følge efter sin ejer.

Nu når der er tale om en hund, så lystrer den selvfølgelig også dine stemmekommandoer. Skulle den ikke adlyde, kan den også styres med en smartphone eller remote control.

Hvad hunden skal bruges til, er ganske uklart, men det er måske netop derfor, det kinesiske firma vil skabe sit helt eget “Xiaomi open source community” som skal dele resultater og fremskridt med hinanden (og Xiaomi).

Hunden koster faktisk kun godt 10.000 kroner, så måske endda lidt under prisen for en normal overklasse-vovse.

Xiaomi havde dog også overskud til at præsentere en ny telefon — ganske belejligt lige præcis et døgn inden Samsung senere i dag præsenterer sine næste foldbare telefoner.

MIX 4, som telefonen hedder, udmærker sig særligt ved en ting. Det er firmaets første kommercielle telefon, der kommer med et selfiekamera, som er bygget ind bag skærmen.

Det samme er fingeraftrykslåsen (formentlig), og derfor er skærmen fuldstændig uden kamerahuller eller andre forstyrrende elementer. Det er ganske enkelt en fuld, ubrudt glasplade.

Inden du råber “F**K mand, sådan en skal jeg have”, så bliver Mix4 i første omgang kun sat til salg i hjemlandet Kina.

Men altså, teknologien er så småt ved at være moden.