Autopilotti ja dilemma: kuka «kuolee» – kuljettaja vai jalankulkijat?

Autonomiset autot eivät ole enää pelkkää scifiä: teille ilmestyy autoja, joissa on autopilottitila ja jotka voivat ajaa ilman ihmisen puuttumista. Autoharrastajia kiinnostavat toistaiseksi enemmän perinteiset mittarit – nopeus, teho ja mukavuus. He vertailevat innolla esimerkiksi saksalaisia supersedaaneja BMW M5 F90 ja Mercedes-AMG E63 S niiden ominaisuuksien perusteella. Autopilotin myötä etualalle nousee kuitenkin aivan toinen teema – etiikka ja turvallisuus. Mitä auton pitäisi tehdä, kun onnettomuutta ei voi enää välttää?

Tämä ei ole enää oppikirjojen teoreettinen kysymys, vaan todellinen ongelma tiellä. Kuvitellaan tilanne: itseohjautuva auto kiitää ja sen eteen ilmestyy yhtäkkiä suojatiellä ihmisryhmä. Jarruttamiseen on jo liian myöhäistä. Tapahtumille on kaksi vaihtoehtoista kulkua: väistää ja törmätä seinään (uhraten kuljettajan) tai jatkaa ja ajaa jalankulkijoiden päälle. Tekoälyalgoritmi on ohjelmoitu tekemään tietty ratkaisu – ja tästä ratkaisusta riippuu ihmishenkiä.

Filosofit kutsuvat tällaista traagista valintaa «ratikkadilemmaksi». Aiemmin se oli puhtaasti kuvitteellinen ajatuskoe: ohjataanko hallitsematon raitiovaunu toiselle raiteelle, jotta viisi ihmistä pelastuu yhden hengellä? Nyt samanlainen dilemma kohtaa tekoälyn tiellä – ja sen päätöksillä on todellisia seurauksia.

• Pelasta matkustaja. Jatkaa etenemistä ja suojella kuljettajaa jalankulkijaryhmään kohdistuvasta riskistä huolimatta.
• Pelasta jalankulkijat. Ohjata auto esteeseen tai tien reunaan uhraten auton sisällä olevan ihmisen henki.
• Älä valitse tietoisesti. Välttää erityistä valinta-algoritmia – eli rakentaa mukaan haitan minimointi ilman kohdentamista ja käytännössä antaa tapahtumien edetä spontaanisti.

Joku voi väittää, että tekoäly on niin älykäs, että se löytää aina kolmannen, turvallisen ulospääsyn. Se on kuitenkin enemmän myytti kuin todellisuutta. Käytännössä edes nykyaikaisimmat sensorit ja ohjelmistot eivät pysty kumoamaan fysiikan lakeja ja poistamaan kaikkia riskejä. Kriittisiä tilanteita tulee silti eteen. Siksi ennemmin tai myöhemmin auto voi joutua valitsemaan, kenet se pelastaa toisen hengen kustannuksella.

Ihmiskunta ei ole vieläkään löytänyt tälle dilemmalle yhtä oikeaa vastausta. Sosiologiset tutkimukset tarjoavat silti kiinnostavan näkökulman. Kyselyt osoittavat: useimpien vastaajien mielestä äärimmäisessä tilanteessa autonomisen auton tulisi uhrata matkustaja pelastaakseen ihmisryhmän. Samat ihmiset kuitenkin myöntävät, etteivät he haluaisi matkustaa autossa, joka vaaran hetkellä tietoisesti uhraisi heidät muiden henkien vuoksi. Tämä paradoksi voi muodostua esteeksi itseajavien autojen laajemmalle käyttöönotolle.

Tässä on havainnollinen tulos eräästä «autopilottidilemmaa» koskevasta mielipidetutkimuksesta:

Kuten näemme, yhteiskunta haluaa samanaikaisesti, että robottikuljettajat pelastavat mahdollisimman monta ihmistä, mutta ei halua riskeerata itseään. Tämä kuilu moraalisten ja henkilökohtaisten intressien välillä luo dilemmän valmistajille ja sääntelijöille. Sillä ohjelmoitiin algoritmi miten tahansa, ratkaisu on ristiriitainen ja voi herättää närkästystä.

Kuka joutuu vankilaan, jos itseajava auto aiheuttaa onnettomuuden?

Jos autopilotilla ajava auto kuitenkin aiheuttaa onnettomuuden, jolla on kuolemaan johtavia seurauksia – ketä rangaistaan? Tämä kysymys on vähintään yhtä vaikea kuin moraalinen valinta. Ensimmäiset hälytysmerkit ovat jo näkyneet. Esimerkiksi vuonna 2018 Uberin testikäytössä ollut autonominen auto ajoi jalankulkijan kuoliaaksi; tunnetaan myös muita kuolemaan johtaneita onnettomuuksia, joissa Tesla on ollut autopilotilla. Tällaiset tapaukset, joissa ohjauksesta vastaa tietokone, kyseenalaistavat perinteisen periaatteen, jonka mukaan koko syy lankeaa kuljettajalle.

«Robottikuljettajan» tapauksessa syyllisen määrittelyyn on useita lähestymistapoja. Tarkastellaan keskeisiä skenaarioita:

1. Auton omistaja (matkustaja). Logiikka: hän istui autossa ja kytki autopilotin päälle. Ehkä ihmisen olisi pitänyt valvoa ajoa ja puuttua siihen – eli hän kantaa osan syystä toimettomuudesta.
2. Ohjelmiston (algoritmin) kehittäjä. Juuri ohjelmoijat rakensivat käyttäytymismallin, joka johti tragediaan. Pitäisikö insinöörien kantaa rikosoikeudellista vastuuta koodinsa päätösten seurauksista?
3. Auton valmistajayritys. Itseajavan auton markkinoille tuonut yritys ei ehkä ennakoinut kaikkia riskejä tai säästi sensoreissa. Vastuu voi kohdistua valmistajaan (johtonsa kautta) oikeushenkilönä – esimerkiksi oikeusjuttujen ja sakkojen muodossa.

Toistaiseksi asiasta ei ole selkeää lakinormia. Useimmissa maissa, joissa autonomisia autoja testataan, vastuu asetetaan ratissa olevalle ihmiselle. Nykyiset autopilottijärjestelmät (tasot 2–3) edellyttävät, että kuljettaja pysyy valppaana. Niinpä Tesla-tapauksissa tuomioistuimet pitävät useimmiten syyllisenä kuljettajaa, joka yliarvioi autopilotin kyvyt eikä puuttunut tilanteeseen, kun olisi pitänyt.

Täysin itseajavien autojen (tasot 4–5) myötä syntyy kuitenkin looginen tarve siirtää vastuu teknologian kehittäjille. Saksassa automatisoidun ajamisen kansallinen eettinen toimikunta linjasi jo vuonna 2017: jos ihminen ei enää hallitse autoa, vastuuta sen toiminnasta ei kanna matkustaja vaan järjestelmän valmistaja tai operaattori. Osa autonvalmistajista on itsekin valmis ottamaan tällaisen vastuun – esimerkiksi Volvo on julkisesti luvannut ottaa täyden vastuun, kun sen autot ajavat autonomisessa tilassa.

Vastuun siirtämisellä yritykselle on hyvät ja huonot puolensa. Yhtäältä omistajat luottavat autopilottiin helpommin, jos he tietävät, ettei heistä tehdä «syntipukkeja» onnettomuuden sattuessa. Toisaalta valmistajat pelkäävät ottaa kaiken vastuun, koska se voi johtaa monimillionaiseen korvausvastuuseen ja jopa heidän vastuuhenkilöidensä rikosoikeudelliseen vastuuseen. Mahdollisesti käyttöön otetaan erityisiä vakuutuksia tai oikeudellisia rajoituksia riskien tasapainottamiseksi.

Kaikesta tästä epävarmuudesta huolimatta autonomisen ajamisen teknologia kehittyy jatkuvasti. Uudet automallit saavat yhä älykkäämmät «aivot». Esimerkiksi sähköinen Volkswagen ID.4 -crossover on varustettu Travel Assist -kokonaisuudella puoliautonomiseen ajoon, ja tämän mallin kuljettajat voivat lisätä mukavuutta ja käytännöllisyyttä asentamalla erilaisia lisävarusteita Volkswagen ID.4:ään. Täysin autonominen ohjaus (taso 5) on toistaiseksi tulevaisuuden asia. Siksi keskustelu moraalisista algoritmeista ja oikeudellisesta vastuusta jatkuu – yhteiskunta tarvitsee aikaa päästäkseen yhteisymmärrykseen.

Näin ollen autopilotin moraalisella dilemmalla ei toistaiseksi ole selkeää ratkaisua. Ohjelmoidaanko autot pelastamaan enemmistö matkustajan kustannuksella vai suojelemaan omaa kuljettajaansa kaikissa olosuhteissa? Ketä rangaistaan tekoälyn virheistä – insinöörejä, omistajia vai ei ketään? Näitä kysymyksiä pohtivat filosofit, juristit ja valmistajat itse. Ehkä jo pian on arvioitava uudelleen vakiintuneita etiikan ja vastuun periaatteita teillä. Sillä kun ratissa on tietokone, sekä päätökset että syyllisyys saavat aivan uuden merkityksen – sellaisen, jonka kanssa ihmiskunnan on vasta opittava elämään.