MIT:n moraalikone. HS:n toimittaja Heikki Aittokoski teki jutun tekoälyyn liittyen MIT:n tutkimuksesta, joka on julkaistu Nature-lehdessä 2018. (1) Aittokoski
oikoo hiukan tuota tutkimusta jättämällä pois tutkimukseen liittyvät
tarkemmat luokittelukriteerit. Poimin ne esille alkuperäislähteestä.
(2). Aittokosken kuvasta ja tekstisti selviää se, että nämä kuvan
henkilö/eläin-kategoriat eivät ole keskenään vertailukelpoisia. Jos
ajatellaan, että henkilö joutuu tekemään valinnan auton jarrujen
pettäessä näiden välillä, valinnan tekeminen on tietysti mahdotonta.
Tietysti kysyttäessä kansalaisilta saadaan yleisesti vastaukseksi suurin
piirtein tuo järjestys. Kansalaiskategoriassa pikkulapsi ja raskaana
oleva nainen ovat luonnollisesti kärjessä. Ammattikategoriassa tunnettua
on, että lääkäriammatti on arvostetuin ja siis prioriteetin kärjessä.
Prioriteettijärjestystä tehtäessä nousee esille helposti ns. itse
aiheutetut ihmisen ominaispiirteet. Tässä on noussut esille ylipaino.
Kummeksun, että mukana ei ole vaikkapa alkoholismi.
Aittokoskikin viittaa lääketieteen prioriteettilistoihin. Näitähän on
tehty kautta aikain. Ne ovat saaneet ristiriitaista vastaanottoa
julkisuudessa. Vakuutusyhtiöt ovat myös erilaisia vakuutuksia
markkinoidessaan ja vakuutusmaksuja määritellessään tehneet
priorisointeja iän, painon, elämäntavan mukaan.Kaksinaismoraalikone. HS:n 2.11.2018 paperiversiossa oikealla oli yllä oleva uutinen 7-vuotiaasta Amal Husseinista, joka kuoli torstaina 1.11.2018:" Amal Hussainin kohtalosta uutisoi The New York Times, joka julkaisi kuvan riutuneesta tytöstä alun perin reportaasissaan viime viikolla. Torstaina Amalin perhe kertoi, että hän oli kuollut pakolaisleirillä kuuden kilometrin päässä avustusjärjestö Unicefin kenttäsairaalasta, jossa hänet oli valokuvattu. ”Ei lihaa, vain luita”, lääkäri Mekkia Mahdi sanoi The New York Timesille tarttuessaan Amalin kuihtuneseen käsivarteen.”Kukaan ei välitä hittoakaan heistä.” (3) Samaisessa lehdessä on vasemmalla puolella artikkeli Nature-lehden maailmanlaajuisesta moraalikyselystä. Lapsen ja raskaana olevan naisen henki on arvokkaampi kuin lihavan miehen. Tämä juttu on otsikoitu paperiversiossa "Moraalikone kysyy, kuka saa elää". Toisen puolen otsikko on puolestaan "Jemenin hädän symboli kuoli". HS osoittaa meille joko sattumalta tai ei, mitä tarkoitan juttuni otsikolla "kaksinaismoraalikone". Moraalilla on kaksi puolta ihan niin kuin meissä ihmisissä. Olemme luomakunnan raaimpia eläimiä, joilla kaiken inhimillisen hyvän edelle menee ahneus, valta, itsekkyys ja mitä nyt kaikkia pimeän puolen moraalikäsitteitä onkaan. Naturen moraalikoneessa alimmaksi oli arvioitu rikollinen - pahan ilmentymä.
Tekoäly ja moraali. "Moraali on käsityksiä ja käyttäytymissääntöjä siitä, mikä on hyvää ja pahaa, oikein tai väärin. Moraali-sanaa käytetään sekä kuvailevasti viittaamaan vallitseviin käsityksiin oikeasta ja väärästä että ohjeita antavasti siitä, minkä tulisi olla moraalisesti hyvää ja oikeaa toimintaa." (Wikipedia) Moraalikone irrottaa moraaliset periaatteet inhimillisestä todellisuudesta. Onko siis viisasta yhdistää tekoäly ja moraali toisiinsa? Moraalikoneen tulos osoittaa tällaisen ajattelun vaikeudet. Puheet ja teot saattavat olla ristiriidassa keskenään. "Kaksinaismoraali tarkoittaa ristiriitaa yksilön tai yhteisön moraalivaatimusten ja tekojen välillä tai moraalia, joka asettaa eri vaatimukset eri yksilöille tai ryhmille." (Wikipedia)
Viitteet
(1) Heikki Aittokoski: Moraalikone kysyy, kuka saa elää - Onko raskaana olevan naisen henki arvokkaampi kuin lihavan miehen? Miljoonat ihmiset vastasivat, ja tulokset panevat ajattelemaan, HS 3.11.2018 https://www.hs.fi/ulkomaat/art-2000005887212.html
(2) The Moral Machine experiment (julkaistu 24.10.2018)
Naturevolume 563, pages59–64 (2018)
a, AMCE for each preference. In each row, ΔP is the difference between the probability of sparing characters possessing the attribute on the right, and the probability of sparing characters possessing the attribute on the left, aggregated over all other attributes. For example, for the attribute age, the probability of sparing young characters is 0.49 (s.e. = 0.0008) greater than the probability of sparing older characters. The 95% confidence intervals of the means are omitted owing to their insignificant width, given the sample size (n = 35.2 million). For the number of characters (No. characters), effect sizes are shown for each number of additional characters (1 to 4; n1 = 1.52 million, n2 = 1.52 million, n3 = 1.52 million, n4 = 1.53 million); the effect size for two additional characters overlaps with the mean effect of the attribute. AV, autonomous vehicle. b, Relative advantage or penalty for each character, compared to an adult man or woman. For each character, ΔP is the difference the between the probability of sparing this character (when presented alone) and the probability of sparing one adult man or woman (n = 1 million). For example, the probability of sparing a girl is 0.15 (s.e. = 0.003) higher than the probability of sparing an adult man or woman.
https://www.nature.com/articles/s41586-018-0637-6/figures/2
Aittokoski tiivistää tutkimusasetelman: "Moraalikone on verkkokysely, johon on vastannut miljoonia ihmisiä yli 230 maasta tai alueelta, myös Suomesta. MIT:n tutkijoilla on vastausten pohjalta käytössään 40 miljoonan päätöksen tietomassa, jota analysoidaan mainitussa Nature-lehden artikkelissa. Moraalikoneessa vastaajat saavat eteensä kuvitteellisia yliajotilanteita. Yksinkertaisimmillaan näin: Auton jarrut pettävät. Jos auto ajaa suoraan omalla kaistallaan, suojatietä ylittävä pikkutyttö kuolee. Jos auto väistää viime hetkellä, vastaantulijoiden kaistalla suojatietä ylittävä vanha nainen kuolee. Moraalikoneessa vastaaja joutuu pähkäilemään toimintaansa lukuisissa vastaavissa tilanteissa, joissa mahdollisten kuolonuhrien ominaisuudet ja lukumäärät vaihtelevat. Joissakin tapauksissa mukana on myös eläimiä." https://www.hs.fi/ulkomaat/art-2000005887212.html
(3) Tommi Hannula: Jemenin hädän symboli kuoli, HS 3.11.2018
https://www.hs.fi/ulkomaat/art-2000005886978.html
Ei kommentteja:
Lähetä kommentti