Robotter
Av:
Charlotte Holst

Ny teknologi reiser etiske dilemmaer: Roboter må ha et moralsk kompass

Det er fart i robotteknologien, og spesielt sosiale roboter reiser vanskelige etiske spørsmål, noe som for eksempel produsentene av førerløse biler må forholde seg til. Nordea har snakket med den danske forskeren Martin Mose Bentzen, som er en av de som prøver å sette rammer for roboters moralske oppførsel.

Martin Mose Bentzen
Martin Mose Bentzen

Hvordan blir en robot en ordentlig robot? En robot som tar mest mulig hensyn og sikrer at så få mennesker som mulig kommer til skade? Og, hvis uhell ikke kan unngås, hvordan velger roboten hvem som skal komme til skade?

Etikere og filosofer har fått viktige roller å spille innen robotteknologi. De sosiale robotene, roboter som interagerer med mennesker, er på fremmarsj og skal programmeres til å kunne handle etter etiske standarder. Testing av førerløse biler, der en robot overtar styringen og beveger seg rundt blant bløte trafikkanter, har pågått lenge, og også på viktige velferdsområder vil vi få se at sosiale roboter kommer til å spille en stadig større rolle, sier Martin Mose Bentzen, adjunkt ved DTU Management Engineering og Ph.d i filosofi.

- Der det er størst potensial for utvikling og også flest dilemmaer, er på velferdsområdet: altså innen eldreomsorg, sykehus og barnepass, sier han.

Men der det akkurat nå er mest påtrengende å få tatt stilling til hvordan roboter skal oppføre seg i uhellssituasjoner, er innenfor førerløse biler. Her har utviklingen absolutt kommet lengst, og det pågår et kappløp om å vinne forbrukernes gunst.

Kortene tett til kroppen

Likevel er de store bilprodusentene påfallende stille om de etiske spørsmålene. De færreste har snakket om sikkerhetsspørsmål knyttet til robotenes oppførsel og lister seg på tærne i et marked som plutselig kan eksplodere.

- De er ekstremt forsiktige. De har ansatt folk i sine juridiske avdelinger for å se på de etiske dilemmaene, men de holder kortene tett til kroppen. Det er kjempestor konkurranse på dette markedet, og så er det jo voldsomt kontroversielt, sier Martin Mosse Bentzen.

Hvor kontroversielt fikk Mercedes en smaksprøve på i sommer, da sjefen for Mercedes' selvkjørende biler, Christoph von Hugo kom med følgende uttalelse: "Hvis man vet at man kan redde minst én person, så redd personen i bilen."

Det skapte litt furore og ble til dels trukket tilbake. For hvorfor skal en bil som allerede er en sikker jernkasse, beskytte passasjeren mer en barnet som løper ut i veien, spør Martin Mose Bentzen.

 

En bil som dreper? Nei takk

Professor ved Massachusetts Institute of Technology, Lyad Rahwan har produsert ‘Moral Machine’ som kan skape bilder av hva slags etikk mennesker ønsker implementert i en selvkjørende bil. Han har sier følgende:

“Generelt vil folk ha en bil som er moralsk god, og som minimerer skader på fotgjengere,selv om det betyder at man vil ofre føreren av bilen. Men når de blir spurt om de selv ville kjøpe en slik bil, så er svaret et rungende NEI.”

Kilde: IDA Universe

To voksenliv eller ett barneliv?

Han sitter på DTU og jobber, blant annet sammen med kollegaer i Tyskland, med å utvikle en moralkodeks for roboter med høyt utviklet kunstig intelligens. Altså etiske standarder for hvordan de skal agere mest korrekt i gitte situasjoner. På noen punkter vil man stille høyere krav til roboten enn til et menneske, sier han.

- Fra mennesker kan man kanskje akseptere en hvit løgn i ny og ne. Men vi kan jo ikke lage en kunstig intelligens som går rundt og lyver for oss. Da vil man frykte at det kan komme ut av kontroll.

Det vil også oppstå veldig vanskelige dilemmaer der det nærmest kan være umulig å beslutte hvordan roboten skal handle. For hva skal robotoen i den førerløse bilen gjøre hvis to personer går rett ut i veibanen, og roboten hvis den styrer unna, vil treffe et barn på fortauet? De to personene har handlet feil og dumt ved å gå rett ut i veibanen. Til gjengjeld tar roboten bare ett liv hvis den unngår disse ved å kjøre opp på fortauet der barnet går.

- Det er ikke min oppgave å svare på hva roboten skal gjøre i en slik situasjon. Det vi jobber med som forskere, er å gi prinsipielle råd om hvordan man kan resonnere ut fra prinsipper i den etiske litteraturen som filosofer har jobbet med gjennom tusener av år. Vi kan ikke forvente at den kunstige intelligensen skal være bedre enn den menneskelige, men det vi kan forvente, er at bilprodusentene har tenkt gjennom scenariene og tatt høyde for dem, sier Martin Mose Bentzen.

Kjørte dere virkelig selv i gamle dager?

Selv om bilprodusentene nøler med å snakke om de etiske dilemmaene, har de til gjengjeld fremhevet den økte trafikalske sikkerheten som vil oppstå med førerløse biler. Roboter drikker ikke, de sms-er ikke mens de kjører, og de lar seg ikke påvirke av skrikende barn i baksetet. I de mest optimistisike scenariene har eksperter spådd at selvkjørende biler kan unngå over 90 prosent av ulykkene.

- Bilen er den mest dødbringende personlige eiendelen i verden. Om 50 år vil det bli betraktet som dypt uansvarlig å kjøre rundt selv, og barnebarna våre vil spørre: Gjorde dere virkelig det? Jeg tror fullt og fast at trafikksikkerheten vil øke, sier Martin Mose Bentzen.

Vinneren av markedet og forbrukernes gunst blir til gjengjeld den bilprodusenten som kan skape størst mulig trygghet og tro på at deres robot velger riktig når den, uunngåelig, må treffe vanskelige etiske valg.

- Det skal ikke mange uhell til før det går galt, og opinionen snur seg mot en produsent. Derfor er det også tvingende nødvendig at de tar høyde for hvordan de førerløse bilene deres vil reagere i uforutsette situasjoner.