Hitting the Books: Hvor mye kan den forsikringsovervåkingsrabatten egentlig koste deg

Machine læringssystemer har i årevis nå vært best sine menneskelige kolleger på alt fra Go og Jeopardy! til legemiddeloppdagelse og kreftoppdagelse. Med alle fremskrittene som feltet har gjort, er det ikke uhørt at folk er på vakt mot roboter som erstatter dem i morgendagens arbeidsstyrke. Disse bekymringene er feilplassert, hevder Gerd Gigerenzer i sin nye bok Hvordan holde seg smart i en smart verden, om ikke av annen grunn enn usikkerheten i seg selv. AI-er er fenomenalt kapable maskiner, men bare hvis de får tilstrekkelige data til å handle på. Introduser den akutt ustadige prekæriteten til den menneskelige naturen i algoritmene deres og se deres prediktive nøyaktighet stupe – ellers hadde vi aldri trengt å sveipe til venstre. I utdraget nedenfor diskuterer Gigerenzer de skjulte personvernkostnadene ved å dele kjøretøyets telematikk med forsikringsselskapet.

Utdrag fra Hvordan holde seg smart i en smart verden av Gerd Gigerenzer. Publisert av MIT Press. Copyright © 2021 av Gerd Gigerenzer. Alle rettigheter forbeholdt.

Når bilen din melder deg til politiet

Hvis selvkjørende biler ikke kommer til å skje, ser det ut til at ett alternativ er å trene opp mennesker til å bruke AI som et støttesystem, men å holde seg våken og beholde kontrollen hvis det mislykkes - som kalles utvidet intelligens. Det tilsvarer delvis automatisering, det vil si sofistikerte versjoner av nivå 2 eller 3. Forsterket intelligens innebærer imidlertid mer enn bare å legge til nyttige funksjoner til bilen din og kan godt føre oss inn i en annen fremtid, der AI brukes til både å støtte og overvåke oss. Den mulige fremtiden drives mer av forsikringsselskaper og politi enn av bilprodusenter. Dens frø er i telematikk.

Unge sjåfører er hensynsløse, selvsikre og en forsikringsrisiko, ifølge stereotypen. Noen er det, men mange er det ikke. Likevel behandler forsikringsselskapene dem ofte som én gruppe og krever en høy premie. Telematikkforsikring kan endre dette ved å tilby bedre priser for trygge sjåfører. Tanken er å beregne premien fra en persons faktiske kjøreatferd i stedet for fra den gjennomsnittlige sjåføren. For å gjøre det, er en svart boks som kobles til forsikringsselskapet installert i bilen (bruk av en smarttelefon er mulig og billigere, men mindre pålitelig). Den svarte boksen registrerer førerens oppførsel og beregner en sikkerhetsscore. Figur 4.6 viser skåringssystemet til en av de første telematikkforsikringsselskapene. Den observerer fire funksjoner og tildeler dem forskjellig vekt.

Rask akselerasjon eller hard oppbremsing tildeles størst vekt, etterfulgt av kjøring over fartsgrensen. Hver sjåfør starter med et månedlig budsjett på 100 poeng for hver av de fire funksjonene. En "hendelse" resulterer i at poeng trekkes fra, for eksempel 20 poeng for den første raske akselerasjonen eller for å kjøre over fartsgrensen. På slutten av måneden vektes de resterende poengene som vist og summeres til en total sikkerhetsscore. Selv om telematikk ofte kalles black box-forsikring, er ikke algoritmen i det hele tatt en black box som de fleste kjærlighetsalgoritmer. Det er forklart i detalj på forsikringsselskapets nettside, og alle kan forstå og verifisere resultatet.

Personlige tariffer annonseres for å fremme rettferdighet. Det gjør de ved å ta hensyn til individuell kjørestil. Men de skaper også nye kilder til diskriminering når man kjører om natten og i byer blir straffet. Sykehuspersonell kan for eksempel ha lite valg for å unngå å jobbe om natten og i byer. Dermed er noen av funksjonene under førerens kontroll, men ikke alle. Interessant nok er en funksjon som er under førerens kontroll fraværende i praktisk talt alle personlige tariffer: tekstmeldinger mens du kjører.

Og den svarte boksen som tillater rettferdighet, muliggjør også overvåking. Vurder en mulig fremtid. Hvorfor skal den svarte boksen sende en registrering av fartsovertredelse kun til forsikringsselskapet? En kopi til politiet ville være svært nyttig og spare dem for mye krefter. Det ville gjøre alle fartsfeller foreldet. Hvis du forterer, skriver bilen ut billetten i tide eller, mer praktisk, trekker boten automatisk fra nettkontoen din. Forholdet ditt til din elskede bil kan endre seg. Det er en glattbakke mellom rettferdighet og total overvåking.

Vil du gå inn for en ny generasjon biler som sender trafikklovbrudd direkte til politiet? I en undersøkelse jeg gjennomførte sa en tredjedel av de voksne ja, mer blant de over seksti og mindre blant de under tretti. Teknologien for denne fremtiden eksisterer allerede, ettersom de fleste nye biler kommer med en svart boks installert. Dataene den samler inn tilhører ikke bileieren og kan brukes i retten mot sjåføren. I Georgia innhentet politiet svarte boks-data uten arrestordre etter en dødelig ulykke, og sjåføren ble funnet skyldig i hensynsløs kjøring og fart.

Mens motivene for overvåking varierer, støtter digital teknologi dem alle. Man trenger ikke engang kjøpe telematikkforsikring. Moderne biler har innebygde internettforbindelser, og – uten at det er gjort gjennomsiktig i brukermanualen – sender de fleste bilprodusenten all data de kan samle inn hvert par minutter, inkludert hvor sjåføren befinner seg, om kraftig oppbremsing skjedde, hvor ofte posisjonen til førersetet ble endret, hvilke gass- eller batteriladestasjoner som ble besøkt, og hvor mange CDer og DVDer som ble satt inn. Dessuten, som soon Når du kobler til smarttelefonen, kan bilen kopiere din personlige informasjon, inkludert kontaktadresser, e-poster, tekstmeldinger og til og med bilder. Bilprodusenter er bemerkelsesverdig stille om denne aktiviteten, og når de blir spurt hvem de deler disse dataene med, gjør de vanligvis ikke reply. Den informasjonen hjelper til med å finne ut mange andre ting av interesse, for eksempel hvor ofte sjåfører besøkte McDonald's, hvor sunt de lever, og hvem de av og til besøker om natten. Tilkoblede biler kan støtte rettferdighet og forbedre sikkerheten, men også spionere på deg. Telematikkforsikring legemliggjør digital teknologis dobbeltside: overvåking i bytte mot bekvemmelighet.