News:

Ihan vaan ystävällisenä vihjeenä väliaikaisia sähköposteja tai muuten keksittyjä osoitteita käyttäville rekisteröityneille, osoitteen pitäisi olla toimiva tai muuten ette saa koskaan tunnustanne auki.

Main Menu

Rikoksen todennäköisyyttä ennustava algoritmi paljastui rasistiksi

Started by B52, 24.05.2016, 22:17:00

Previous topic - Next topic

B52

http://www.mikrobitti.fi/2016/05/rikoksen-todennakoisyytta-ennustava-algoritmi-paljastui-rasistiksi/

Rikolliselle rangaistusta langettava tuomari punnitsee Yhdysvalloissa useita seikkoja, joista teon vakavuus on vain yksi tekijä. Kasvavassa määrin tuomari arvioi myös noin sanottua riskitekijää eli riskiarvoa siitä, miten todennäköisesti tuomittava syyllistyy uusiin rikoksiin.

Engadget kertoo, kuinka ProPublican laatimat raportit osoittavat tätä arvoa laskevien algoritmien olevan rasisteja, sillä ne ovat varsin ennakkoluuloisia afrikkalais-amerikkalaista väestöä kohtaan.

ProPublica tarkasteli 7000 syytetyn dataa Floridassa. Näille syytetyille riskiarvon oli laskenut maan suosituimpiin algoritmeihin kuuluva työkalu. ProPublican mukaan riskiarvot olivat ihan vinksallaan, ja niiden tarkkuus pääsi hädin tuskin kolikon heittoa parempiin tuloksiin.

Algoritmi myös piti mustien rikollisten riskiarvoa käytännössä kaksinkertaisena, ja samalla se luokitteli valkoisten riskiarvon vähäpätöiseksi selkeästi useammin kuin mustien kohdalla.

Algoritmin kehittänyt Northpointe kiistää algoritmissa olevan mitään vikaa ja syyttää sen sijaan tuloksista mustien koulutus- ja työllistymistasoa sekä sosiaalisia tekijöitä.




= Jos suhtaudut maailmaan kuten se on, olet rasisti.



Lähde: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
On kumma miten vähän saa aikaan, jos vain lakkaa yrittämästä. Paula 8v.

Jack Frost-Medow


Katselin statistiikkaa. Mustia on vankiloissa karvaa alle 40% vankien määrästä. Negroideja on Yhdysvaltain väestöstä 12%.  100000 nee.. mustaa kohden on heitä 3161 vankilassa. Valkoisista 487. Eli negroidi on vankilassa yli 6 x todennäköisemmin kuin valkoinen.


Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.

nollatoleranssi

Aina välillä ollut juttua tästä "mustien rikollisuudesta" Yhdysvalloissa. Yleensä se on ollut merkittävästi yleisempää. Mutta yleisyyden sanomisestakin on saanut rasisti-leiman. Vieläpä nämä miljoonia tienaavat rap-kunkutkin ovat olleet osa "jengejä". Kuinka moni rikas valkoinen on sotkeutunut samaan rikollisjengihömppään?

Hölmöin episodi nähtiinkin näiden poliisi-ampumisten kohdalla, vaikka joissakin tilanteissa oli mustiakin poliiseja ammuttu. Heti jos poliisi oli valkoinen ja uhrina väkivaltainen musta, niin se johti jättimielenosoituksiin ja rasistihuutoihin. Kun mustat tappoivat toisiaan, niin mitään ongelmaa ei ollut olemassakaan.

Yhdysvaltojen huonoksi puoleksi voi tietysti sanoa, että rikoskierteestä on todella vaikeaa päästä pois.

Kriitikon varjo -blogi
http://kriitikonvarjo.blogspot.fi/

Eisernes Kreuz

Tässä on kyseessä ns. vihafakta (hate fact).

Epämiellyttävä totuus, jota ei ideologisista syistä saisi lausua julki.
There is freedom of speech, but freedom after speech, that I cannot guarantee.
- Idi Amin, diktaattori

Reborn

Quote from: Jack Frost-Medow on 24.05.2016, 22:22:16

Katselin statistiikkaa. Mustia on vankiloissa karvaa alle 40% vankien määrästä. Negroideja on Yhdysvaltain väestöstä 12%.  100000 nee.. mustaa kohden on heitä 3161 vankilassa. Valkoisista 487. Eli negroidi on vankilassa yli 6 x todennäköisemmin kuin valkoinen.


Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.

Algorytmi ei laskenut millä todennäköisesti joku syyllistyy ylipäänsä rikokseen vaan millä todennäköisyydellä vankeudessa jo ollut uusii rikoksensa.

Axlone

Klassinen esimerkki miten oikeat ongelmat jäävät rotuvouhotuksen jalkoihin. Tässäkin asiassa mielenkiintoisin pointti olisi että toimivatko tällaiset arviointiohjelmat ollenkaan? Nyt taas vouhotetaan mahdollisesta rasismista. Sama asia on Black lives matter -liikkeen kanssa. Poliisiväkivalta olisi tärkeä asia kaikille, mutta sekin hukutetaan rasismista vouhottamiseen ja valkoisten syyllistämiseen.

Micke90

Niin. Eiväthän mustat rötöstele enempää kuin valkoisetkaan, ja jos rötöstelevätkin, vika on rakenteellisessa rasismissa.

Rebane

Asiasta on tehty ihan oikeaa tutkimustakin, ja tulokset ovat aika jäätäviä. Mustat syyllistyvät lähes mihin tahansa rikoslajiin moninkertaisesti valkoisia useammin. 'The Color of Crime' http://www.amren.com/the-color-of-crime/. Tässä Jared Taylor ruotii lyhyesti näitä tuloksia.https://www.youtube.com/watch?v=oEPS5ArYaKE Tämä teos siis julkaistiin tänä vuonna, joten data on uutta.
Autetaan autetaan, hampaat irvessä, kaula väkisin joukolla nuoltuna ja äiti piestynä, mieli ja pipari joukkoväärinkäytöksistä rikkinäisenä, tytär raiskattuna ja bensalla elävältäpoltettuna, sillä onhan meillä unelmatm

- jäsen kilohauli

Juffe

Quote from: Jack Frost-Medow on 24.05.2016, 22:22:16

Katselin statistiikkaa. Mustia on vankiloissa karvaa alle 40% vankien määrästä. Negroideja on Yhdysvaltain väestöstä 12%.  100000 nee.. mustaa kohden on heitä 3161 vankilassa. Valkoisista 487. Eli negroidi on vankilassa yli 6 x todennäköisemmin kuin valkoinen.


Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.
Mikrobitin vaillinainen tiivistelmä antaa paikoin vääristyneen kuvan raportista (pointsit B52:lle kun laitoit linkin myös alkuperäiseen raporttiin). Kaksinkertainen tekijä viittasi siihen, että algoritmi antoi mustien kohdalla virheellisen arvion kaksi kertaa useammin kuin valkoisten kohdalla. Ei siis siihen, mikä on mustien todennäköisyys uusia rikos verrattuna valkoisiin.

Alkuperäisessä raportissa ei myöskään muuten käytetty sanaa rasismi (käytettiin sanaa bias). Se on journalistien tarinanväritysjippo.

Edit: Korjaus: Raportin mukaan algoritmi erehtyi valkoisten ja mustien kohdalla suunnilleen yhtä usein, mutta erehdykset olivat erilaisia. Mustat leimattiin virheellisesti rikoksenuusijoiksi kaksi kertaa useammin kuin valkoiset. Valkoiset taas leimattiin virheellisesti alhaiseen riskiryhmään kuuluviksi mustia useammin.

Skeptikko

Quote from: Reborn on 24.05.2016, 22:43:36
Quote from: Jack Frost-Medow on 24.05.2016, 22:22:16
Eli algorytmin riskiarviot ovat todella vinksallaan. Kaksinkertainen tekijä,  kun sen pitäisi olla kuusinkertainen.

Algorytmi ei laskenut millä todennäköisesti joku syyllistyy ylipäänsä rikokseen vaan millä todennäköisyydellä vankeudessa jo ollut uusii rikoksensa.

Lisäksi on huomioitava se, että ilmeisesti ohjelmalla ei suinkaan ollut tietoa siitä, että mitä rotua henkilöt edustavat. Jos olisi ollut, niin silloin olisi kenties saatu tarkemmat riskiarviot. Käsittääkseni ohjelma pyrki erilaisista muista taustatiedoista päättelemään uusimisriskiä ja sattui olemaan niin, että nämä ohjelman mielestä riskiä nostavat taustatiedot tuppasivat olemaan yleisempia mustaihoisilla.
En homona toivota tervetulleiksi Suomeen henkilöitä, jotka haluavat tappaa minut:
http://www.bbc.com/news/magazine-33565055

Tanskan pakolaisapu: hallitsematon tulijatulva johtamassa armageddoniin ja yhteiskuntamme tuhoon:
http://jyllands-posten.dk/international/europa/ECE7963933/Sammenbrud-truer-flygtningesystem/

Skeptikko

Täällä on muuten jotain analyysia asiasta. En nyt tähän hätään ehdi lukea näitä ajatuksella:

Machine Bias | Hacker News
https://news.ycombinator.com/item?id=11753805

En homona toivota tervetulleiksi Suomeen henkilöitä, jotka haluavat tappaa minut:
http://www.bbc.com/news/magazine-33565055

Tanskan pakolaisapu: hallitsematon tulijatulva johtamassa armageddoniin ja yhteiskuntamme tuhoon:
http://jyllands-posten.dk/international/europa/ECE7963933/Sammenbrud-truer-flygtningesystem/

Gunnar Hymén

noh tietysti siitä tulee väkisinkin "rasisti" kun laskurissa on syötetty ihmisen etninen tausta / rotu. uskomatonta soopaa taas kirjoittelevat.

jos tuonne lisätään vaikkapa erilaisia ruokia, niin voidaan vetää johtopäätös esim. että banaania syövät raiskaavat uudestaan ja uudestaan. ei silloin kannata banaania kenenkään mennä enää syömään, tai on raiskaaja
09.11.2016
Winnipeg Jets, Patrik Laine - 3+1
POTUS, Donald Trump - 100-0 vs Hillary