Survey poller verden: Skal en kjøretur spare passasjerer eller barn i veien?


Getty Images I 2014 mistet føreren av en lastebil bremsene på en høyde i Ithaca, NY, og måtte avgjøre mellom å kjøre over byggearbeidere og pløye inn i en kafé. Mannen valgte sistnevnte, og en bartender døde. Det var en real-life tilfelle av en moralsk filosofes favoritt tankeeksperimenter: vognproblemet. I sin bo

Getty Images

I 2014 mistet føreren av en lastebil bremsene på en høyde i Ithaca, NY, og måtte avgjøre mellom å kjøre over byggearbeidere og pløye inn i en kafé. Mannen valgte sistnevnte, og en bartender døde. Det var en real-life tilfelle av en moralsk filosofes favoritt tankeeksperimenter: vognproblemet. I sin bok Driverless: Intelligent Cars og Road Ahead tilbyr Columbia University professor Hod Lipson og teknologi journalist Melba Kurman det som et eksempel på forferdelige dilemmaer som designere av selvkjørende biler må forberede seg på.

I dag har et team ledet av Edmond Awad, en postdok ved Massachusetts Institute of Technology's Media Lab, gitt ut resultatet av sin online gamefied-versjon av dilemmaet, "Moral Machine" -eksperimentet. Noen 2, 3 millioner frivillige over hele verden spilte ut nesten 40 millioner scenarier, dømme over hvem som skulle leve og hvem som skulle dø i ulykker som involverte en skikkelig selvdrevet bil. (Resultatene fra dette crowdsourcing-eksperimentet ble rapportert 24. oktober i naturen .)

I sin sterkeste form er dilemmaet takknemlig sjeldent, og selvkjørende biler, som er tryggere generelt, kan gjøre det enda sjeldnere. Men mange filosofer og ingeniører hevder at det vil være implisitt i de rutinemessige valgene som en autonom maskin må gjøre på veien. "Kjerneproblemet tror jeg kommer til å skje mange ganger om dagen i den virkelige verden, bare ikke i et sprø krasjdilemma, " sier Patrick Lin, filosofeprofessor ved California Polytechnic State University, San Luis Obispo, som spesialiserer seg på etikken til nye teknologier og var ikke involvert i studien. Faktisk gjør sjåfører allerede slike valg, ofte uten å innse. den. I statistisk forstand stopper alle California, Pittsburgh igjen, eller annen tvilsom manøvre er en beslutning om å drepe en del brøkdel av en person.

Moral Machine-nettstedet presenterte brukerne en tegneserie av en bil som kjempet mot fotgjengere i en krysspromenade, og de kunne bestemme seg for å svinge og løpe over en annen gruppe mennesker i stedet. Noen ganger var alternativet en betongbarriere som ville drepe bilens beboere. I motsetning til noen andre versjoner av vognproblemet, var det et rett valg mellom to grupper av ofre, uten den ekstra komplikasjonen av å forestille seg personens kropp til skade. Det var ikke noe tidstrykk, så du kunne veie de to alternativene. De potensielle ofrene varierte i antall, alder, kjønn og andre funksjoner. De kan bli vist å gå med en stokk, skyve en barnevogn eller bære en pose med stjålne penger, og fotgjengere kan krysse med eller mot gåsignalet. Du kan se en bil fylt bare med katter og hunder. Det var jo selvkjøring.

Nettstedet gikk live i juni 2016, og forfatterne presenterer data de samlet inn i desember i fjor. Nyhetene av det spredte seg hovedsakelig gjennom muntlig, men også via fremtredende YouTubers PewDiePie og jacksepticeye. For å se hvordan dine beslutninger sammenlignet med alle andres, måtte du fylle ut et demografisk spørreskjema, og en halv million mennesker gjorde det. De skjevet mannlig (med tre-til-ett-forhold) og ung (med en toppalder på 18 år).

De var stort enige om hva de skulle gjøre. De har sterkt foretrukket å redde mennesker over kjæledyr, grupper over ensomme mennesker, barn over eldre, lovlydige fotgjengere over jaywalkers og personer som bærer kofferter over hakkede figurer som har tattered jakker. De hadde også mildere preferanser for kvinner over menn, fotgjengere over bilpassasjerer og joggere over heavysetfolk. Sjåførene var like sannsynlige at de skulle la bilen fortsette på sitt nåværende kurs - de hadde ingen forstyrrelser mot passivitet. "Det var det minste av deres bekymringer, " sier en av forfatterne av studien, Azim Shariff fra University of British Columbia.

Demografiske grupper og nasjonaliteter var uenige bare om de vektlegger de på ulike faktorer. For eksempel kastet både menn og kvinner menn under bussen, men mennene var litt mindre tilbøyelige til å gjøre det. "Det er ikke noe sted for noen av disse moralske dimensjonene, der for eksempel eldre mennesker var foretrukket blant yngre mennesker, eller handling ble prioritert over gjennomsnittlig handling, sier Shariff. "Det er bare at de moralske prioritetene i den retningen ble holdt mindre, for enkelte land, i forhold til de andre moralske prioritetene."

Forskerne fant landene sortert i tre forskjellige klynger. For eksempel fikk ungdommen høyeste prioritet i Latin-Amerika, mindre i Europa og Nord-Amerika, og minst i Asia. For å være sikker var geografi ikke alltid skjebne. Tsjekkia reagerte som latinamerikanere og srilankere som vesteuropeere.

De nasjonale variasjonene spores andre indikatorer som inntekt, som forskerne tok som bevis, var de overveiende unge mannlige respondentene generelt representative for deres land. Folk fra fattige land var mindre tilbøyelige til å kjøre ned jaywalkers; de fra lande med høy ulikhet var mer utsatt for personer med kofferter; og de fra likestillige land var mer ridderlige mot kvinner. Denne siste tendensen hadde en merkelig konsekvens: Fordi den gjennomsnittlige preferansen allerede var skjev i kvinners favør, var de likestillige landene enda mer skjevne. Så likestillige land var faktisk den mest kjønnsforskjelle i dette spillet.

De mest fortellende uenighetene var ikke blant verdens befolkninger, men mellom dem og ekspertene. "De [folk] foreslår noen uetiske handlinger som prioritering av hunder over kriminelle, " sier Noah Goodall, forsker ved Virginia Transportation Research Council. Folkets moralske instinkter på vognproblemet (og mye annet) er notorisk inkonsekvente. I en tidligere serie studierShariff og to andre Moral Machine medforfattere-Jean-François Bonnefon i Toulouse School of Economics, og Iyad Rahwan av Media Lab-probed nesten 2000 mennesker syn på selvkjørende biler. Deltakere sa at de trodde at en bil burde verdsette passasjerer og fotgjengere, men de selv foretrekker å kjøpe en bil som prioriterte beboerne. "Det vi argumenterte for, er en del av det sosiale dilemmaet til disse autonome bilene, " sier Shariff.

I fjor forbød det tyske transportdepartementet å vedta anbefalinger fra en 14-medlems etikkkommisjon, forbudt å bruke kjønn eller alder for å løse vogndilemmaer. "Den store verdien jeg ser i Moral Machine-eksperimentet er at det bidrar til å snuse ut viktige områder av uenighet som vi trenger å ta opp, " sier Lin. Gitt tid til å reflektere, kan de fleste undersøkelsesdeltakere godt være enige med ekspertene. "Vi vet ikke hvordan folks preferanser når de spiller et spill på nettet, oversetter til faktisk oppførsel, " sier Shariff.

Mange moralske filosofer tegner også et sterkere skille mellom handling og passivitet enn deltakerne gjorde. "Hvis du måtte velge mellom to ondskap, og en dreper og den andre lar seg dø, " sier Lin, "da lar noen dø en mindre ondskap - og derfor er passivitet ikke bra i vognproblemet." Han sier misligholdende til passivitet har grenser-hva om valget er mellom en person og 10? -men det gjør også den utilitarske kalkulatoren foretrukket av undersøkelsesdeltakere. I et papir fra 2015 citerer han dilemmaet mellom å treffe en syklist som bærer hjelm mot en som ikke gjør det. Den hjelmte er mer sannsynlig å overleve - men hvis det var avgjørende, hvem ville noen gang ha på seg en hjelm? (Faktisk bruker noen syklister allerede bilisters reaksjoner på hjelmer som en unnskyldning for ikke å ha på seg en.)

Skeptikere protesterer på at hele øvelsen var altfor forenklet for å være til stor nytte. "Scenariene er troverdige, men bare knapt, " sier Goodall. De innebærer en usannsynlig kaskade av feil: å miste bremsene dine mens du kjører på motorveiledning i en gågate. Verre, de antar perfekt kunnskap og utvetydige resultater mens vi vanligvis opererer i en epistemisk tåke. "Selv om forfatterne erkjenner dette som en mangel, klarer de ikke å innse at det er en dødelig mangel, " sier Aimee van Wynsberghe, professor ved Delft University of Technology som spesialiserer seg på techno-ethic s . Hun mener at selvkjørende biler bør være begrenset til egne motorveier der de ikke trenger å gjøre fiddly moralske beregninger.

Lin ser imidlertid prosjektet akkurat som alle andre vitenskapelige eksperimenter som stryker et problem til dets essens for å gjøre det tractable. "Ja, det er konstruert og kunstig, akkurat som de fleste vitenskapseksperimenter, men det sier ikke noe om hvor nyttig det er eller ikke, " sier han. Vognproblemet lar folk hash ut flere omstridte prinsipper: om passivitet er lik med handling; om antall personer involverte saker; og om noen liv er verdt mer enn andre. Og tiden for bilbedrifter å tenke gjennom disse avgangene er nå, før en jaywalker absorberes med telefonens skritt inn i gaten. "De skriver ut disse vedtakene en til fem år i forveien, sier Lin. "De har mye mer tid enn en ekte person ville hvis de er i et faktisk krasj dilemma."

Shariff sier at moralmaskinen også kunne være bøyd mot andre spørsmål om maskinens etikk, for eksempel algoritmer brukt av domstoler og paroleplanker for å forutsi tilbakevendelsesrisiko. Et system kan være mer nøyaktig - redusere den totale kriminaliteten og holde færre mennesker låst opp - men mindre like hvis reduksjonen ikke forekommer jevnt over raser eller andre kategorier. Anser folk det som et akseptabelt avvei? "Skal vi prioritere nøyaktighet, eller bør vi prioritere likestilling, selv om det innebærer at flere mennesker blir unødvendig i fengsel for å være like om det?" Legger han til. Et dilemma, per definisjon, har ingen enkel løsning, men vi bør i det minste tenke gjennom alternativene og kunne forsvare alt vi velger.

Next Generation Nuclear PowerNy studie beregner år for livet tapt til ekstrem temperaturRhinoceros gjennomgår assistert reproduksjon for å redde arter fra utryddelseOppvarmende troper kan få store konsekvenser for kalde blodarterWeily Soong: En lidenskap for virologi oversetter til en karriere som allergikerEn oppdatering på CP Snow "To kulturer"Kan Outback kutte Australias drivhusgassutslipp?Kan Mexico lede veien i å bevise karbon kutt?