Rikoksen todennäköisyyttä ennustava algoritmi paljastui rasistiksi

[B52]

http://www.mikrobitti.fi/2016/05/rikoksen-todennakoisyytta-ennustava-algoritmi-paljastui-rasistiksi/

Rikolliselle rangaistusta langettava tuomari punnitsee Yhdysvalloissa useita seikkoja, joista teon vakavuus on vain yksi tekijä. Kasvavassa määrin tuomari arvioi myös noin sanottua riskitekijää eli riskiarvoa siitä, miten todennäköisesti tuomittava syyllistyy uusiin rikoksiin.

Engadget kertoo, kuinka ProPublican laatimat raportit osoittavat tätä arvoa laskevien algoritmien olevan rasisteja, sillä ne ovat varsin ennakkoluuloisia afrikkalais-amerikkalaista väestöä kohtaan.

ProPublica tarkasteli 7000 syytetyn dataa Floridassa. Näille syytetyille riskiarvon oli laskenut maan suosituimpiin algoritmeihin kuuluva työkalu. ProPublican mukaan riskiarvot olivat ihan vinksallaan, ja niiden tarkkuus pääsi hädin tuskin kolikon heittoa parempiin tuloksiin.

Algoritmi myös piti mustien rikollisten riskiarvoa käytännössä kaksinkertaisena, ja samalla se luokitteli valkoisten riskiarvon vähäpätöiseksi selkeästi useammin kuin mustien kohdalla.

Algoritmin kehittänyt Northpointe kiistää algoritmissa olevan mitään vikaa ja syyttää sen sijaan tuloksista mustien koulutus- ja työllistymistasoa sekä sosiaalisia tekijöitä.




= Jos suhtaudut maailmaan kuten se on, olet rasisti.



Lähde: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

[Jack Frost-Medow]

Katselin statistiikkaa. Mustia on vankiloissa karvaa alle 40% vankien määrästä. Negroideja on Yhdysvaltain väestöstä 12%.  100000 nee.. mustaa kohden on heitä 3161 vankilassa. Valkoisista 487. Eli negroidi on vankilassa yli 6 x todennäköisemmin kuin valkoinen.


Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.

[nollatoleranssi]

Aina välillä ollut juttua tästä "mustien rikollisuudesta" Yhdysvalloissa. Yleensä se on ollut merkittävästi yleisempää. Mutta yleisyyden sanomisestakin on saanut rasisti-leiman. Vieläpä nämä miljoonia tienaavat rap-kunkutkin ovat olleet osa "jengejä". Kuinka moni rikas valkoinen on sotkeutunut samaan rikollisjengihömppään?

Hölmöin episodi nähtiinkin näiden poliisi-ampumisten kohdalla, vaikka joissakin tilanteissa oli mustiakin poliiseja ammuttu. Heti jos poliisi oli valkoinen ja uhrina väkivaltainen musta, niin se johti jättimielenosoituksiin ja rasistihuutoihin. Kun mustat tappoivat toisiaan, niin mitään ongelmaa ei ollut olemassakaan.

Yhdysvaltojen huonoksi puoleksi voi tietysti sanoa, että rikoskierteestä on todella vaikeaa päästä pois.

[Eisernes Kreuz]

Tässä on kyseessä ns. vihafakta (hate fact).

Epämiellyttävä totuus, jota ei ideologisista syistä saisi lausua julki.

[Reborn]

Katselin statistiikkaa. Mustia on vankiloissa karvaa alle 40% vankien määrästä. Negroideja on Yhdysvaltain väestöstä 12%.  100000 nee.. mustaa kohden on heitä 3161 vankilassa. Valkoisista 487. Eli negroidi on vankilassa yli 6 x todennäköisemmin kuin valkoinen.


Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.

Algorytmi ei laskenut millä todennäköisesti joku syyllistyy ylipäänsä rikokseen vaan millä todennäköisyydellä vankeudessa jo ollut uusii rikoksensa.

[Axlone]

Klassinen esimerkki miten oikeat ongelmat jäävät rotuvouhotuksen jalkoihin. Tässäkin asiassa mielenkiintoisin pointti olisi että toimivatko tällaiset arviointiohjelmat ollenkaan? Nyt taas vouhotetaan mahdollisesta rasismista. Sama asia on Black lives matter -liikkeen kanssa. Poliisiväkivalta olisi tärkeä asia kaikille, mutta sekin hukutetaan rasismista vouhottamiseen ja valkoisten syyllistämiseen.

[Micke90]

Niin. Eiväthän mustat rötöstele enempää kuin valkoisetkaan, ja jos rötöstelevätkin, vika on rakenteellisessa rasismissa.

[Rebane]

Asiasta on tehty ihan oikeaa tutkimustakin, ja tulokset ovat aika jäätäviä. Mustat syyllistyvät lähes mihin tahansa rikoslajiin moninkertaisesti valkoisia useammin. 'The Color of Crime' http://www.amren.com/the-color-of-crime/. Tässä Jared Taylor ruotii lyhyesti näitä tuloksia.https://www.youtube.com/watch?v=oEPS5ArYaKE Tämä teos siis julkaistiin tänä vuonna, joten data on uutta.

[Juffe]

Katselin statistiikkaa. Mustia on vankiloissa karvaa alle 40% vankien määrästä. Negroideja on Yhdysvaltain väestöstä 12%.  100000 nee.. mustaa kohden on heitä 3161 vankilassa. Valkoisista 487. Eli negroidi on vankilassa yli 6 x todennäköisemmin kuin valkoinen.


Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.

Mikrobitin vaillinainen tiivistelmä antaa paikoin vääristyneen kuvan raportista (pointsit B52:lle kun laitoit linkin myös alkuperäiseen raporttiin). Kaksinkertainen tekijä viittasi siihen, että algoritmi antoi mustien kohdalla virheellisen arvion kaksi kertaa useammin kuin valkoisten kohdalla. Ei siis siihen, mikä on mustien todennäköisyys uusia rikos verrattuna valkoisiin.

Alkuperäisessä raportissa ei myöskään muuten käytetty sanaa rasismi (käytettiin sanaa bias). Se on journalistien tarinanväritysjippo.

Edit: Korjaus: Raportin mukaan algoritmi erehtyi valkoisten ja mustien kohdalla suunnilleen yhtä usein, mutta erehdykset olivat erilaisia. Mustat leimattiin virheellisesti rikoksenuusijoiksi kaksi kertaa useammin kuin valkoiset. Valkoiset taas leimattiin virheellisesti alhaiseen riskiryhmään kuuluviksi mustia useammin.

[Skeptikko]

Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.

Algorytmi ei laskenut millä todennäköisesti joku syyllistyy ylipäänsä rikokseen vaan millä todennäköisyydellä vankeudessa jo ollut uusii rikoksensa.

Lisäksi on huomioitava se, että ilmeisesti ohjelmalla ei suinkaan ollut tietoa siitä, että mitä rotua henkilöt edustavat. Jos olisi ollut, niin silloin olisi kenties saatu tarkemmat riskiarviot. Käsittääkseni ohjelma pyrki erilaisista muista taustatiedoista päättelemään uusimisriskiä ja sattui olemaan niin, että nämä ohjelman mielestä riskiä nostavat taustatiedot tuppasivat olemaan yleisempia mustaihoisilla.

[Skeptikko]

Täällä on muuten jotain analyysia asiasta. En nyt tähän hätään ehdi lukea näitä ajatuksella:

Machine Bias | Hacker News
https://news.ycombinator.com/item?id=11753805

[Gunnar Hymén]

noh tietysti siitä tulee väkisinkin "rasisti" kun laskurissa on syötetty ihmisen etninen tausta / rotu. uskomatonta soopaa taas kirjoittelevat.

jos tuonne lisätään vaikkapa erilaisia ruokia, niin voidaan vetää johtopäätös esim. että banaania syövät raiskaavat uudestaan ja uudestaan. ei silloin kannata banaania kenenkään mennä enää syömään, tai on raiskaaja