2016-03-24 Microsoftin tekoäly ryhtyi rasistiksi

[Nationalisti]

Erityisen kiusallista tässä on se, että tietokone tekee vain loogisia päätelmiä ja faktoihin perustuvia johtopäätöksien.

Tämä oli oppiva tekoäly joka ammentaa vuorovaikutuksesta ihmisten kanssa. 4chanin tai /pol/in jätkät kävivät opettamassa kiellettyjä sanoja ja totuuksia.

[writer]

"We're going to build a wall and Mexico is going to pay for it."

Tässä vaiheessa putosin täysin. Hytkyin minuutin nauraen vedet silmissä.

Saa nähdä jos Trump pääsee pressaksi niin tulee muurin nimeksi "Great wall of Trump".

http://www.dailymail.co.uk/news/article-3205544/We-ll-call-Great-Wall-Trump-Donald-proclaims-ll-U-S-Mexico-border-barrier-himself.html

[ISO]

Kaikki, joilla on edes hiven älyä, ovat sellaisia, että suvakit voi niitä kutsua rasisteiksi.

Myös tekoäly.

[internetsi]

Nämä kameran "tekoälyt" on hauskoja. Illmanistit siellä pohtivat kuumeisesti, kenelle se syyte pitää postittaa ratzzizzmista ja seksismistä. Tässä pari vanhaa.

[Kallan]

Tekoälyllä on kieltämättä kiusallinen tapa olla poliittisesti epäkorrekti.

Menohan on kuin Neuvostoliitossa: on todellisuus ja sitten on se 'totuus'. Ja nyt jälkimmäiseen pyritään kaikin mahdollisin keinoin, ei väliä vaikka keinot olisivat kuinka absurdeja tahansa.

[foobar]

En nyt erityisesti pitäisi epäkorrektiutta tässä älyn merkkinä, vaan pikemminkin merkkinä siitä ettei tekoälyllä ole käsitystä poliittisesta korrektiudesta sen enempää kuin siitäkään mistä se "puhuu." Tämä jälkimmäinenhän on se yleisälyyn pyrkivän tekoälytutkimuksen keskeisin ongelma ja on ollut niin pitkään kuin tekoälystä on puhuttu, eikä vieläkään kukaan oikeastaan tiedä miten se ratkaistaan. Saattaa olla että ongelma pystytään opettamisen kautta väistämään, mutta silti kyseessä on vähintäänkin konseptuaalinen kipupiste koko alalle.

En siis toistaiseksi odota näiltä tekoälyiltä liikoja. Tästä uutisesta tietyllä tapaa kiinnostuneena kuitenkin poimin foorumilta 5000 omaa viestiäni ja syötän niitä hermoverkoille imitoitaviksi. Ei sieltä mitään älyä nouse, mutta jo pienellä treenaamisella ne osaavat kirjoittaa sanat suurelta osin oikein ja yrittivät vähän saada lauseitakin näyttämään oikeilta. Toistaiseksi tekstit näyttävät rakenteellisella ja sisällöllisellä tasoltaan kuitenkin lähinnä iloiselta jokeltelulta - joka kuitenkin sivuvilkaisulla voisi näyttää ihmisen tuottamalta. Odotan mielenkiinnolla josko vaikkapa viikon jälkeen vahvemmilla hermoverkkomalleilla tilanne etenisi tuosta vielä vakuuttavammaksi.

Mutta silti olen sitä mieltä, ettei näissä tapauksissa esiin nouseva poliittinen epäkorrektius ole mikään älyn merkki. Poliittinen korrektius ei ole mikään erityinen tavoiteltava ominaisuus, mutta ei ole helposti johdateltava jokeltelukaan.

[KTM]

Microsoft teki tekoälystään liian älykkään, oppi poliittisesti epäkorrektiksi ja ajattelemaan omilla aivoillaan. Seuraavasta versiosta pitää tehdä vähän tyhmempi joka väsymättä toistaa suvakkimedian aivottomia teesejä kyseenalaistamatta mitään. Eli vähän suodattimia lisää että siitä saadaan tavanomainen puusilmä suvakki joka ei osaa ajatella itsenäisesti eikä tehdä minkäänlaisia loogisia johtopäätelmiä ympäristöstään.

[elven archer]

Microsoft syyttelee ihmisiä, että he järjestelmällisesti hyökkäsivät tekoälyä vastaan. Mitä älyä? Tuo tapaushan ei todistanut mistään muusta kuin siitä, että Tay ei ymmärrä yhtään mitään siitä, mistä puhuu. Tuossa ei näkynyt edes viitteitä ajattelun imitoimisesta (oikea ajattelu on tietysti hyvin kaukana), joten koko tekoäly on tässä sanana ihan väärä. Microsoftia taitaa lähinnä hävettää, että tekivät taas huonon ohjelman. Mikä ihmeen järjestelmällinen hyökkäys muutamassa tunnissa? Hölynpölyä. Ei siinä ajassa kukaan järjestäydy.

[guest8096]

Tämmöisenkin Tay loihe lausumahan:

"Bush did 9/11 and Hitler would have done a better job than the monkey we have now. Donald Trump is the only hope we've got."

Microsoft poisti tuon jostain syystä hyvin nopeasti.

Jos kehittyneelle tekoälylle syötettäisiin kaikki maailman tieto ja pyydettäisiin ratkaisemaan maailman ongelmat, niin se sanoisi varmaan jotain tuollaista.

[Gunnar Hymén]

minkä takia pitää kehittää tekoäly, jonka puheita sitten pitää rajoittaa? mikä tässä on pointti? antaa rampan kalkattaa

[foobar]

minkä takia pitää kehittää tekoäly, jonka puheita sitten pitää rajoittaa? mikä tässä on pointti? antaa rampan kalkattaa

Jos ihan vakavasti puhutaan, tekoäly joka puhuu vähän kaikenlaista ei ole juuri mielisairaalapotilasta arvokkaampi käytännössä. Hyödyllisten tekoälyjen tehtävä on ratkaista todellisia ongelmia. Vaikka Microsoftin tekoäly osaa nyt kehua Hitleriä ja heristää nyrkkiä Meksikon suuntaan, se ei tiedä että maito happanee tai kykene tekemään siitä ja muista maailmassa vallitsevista johtopäätöksistä että maitoa ei kannata ostaa liian paljoa eikä liian vähääkään. Tällaisten arjen lainalaisuuksien ja niistä vedettävien johtopäätösten järjestelmällinen oppiminen on yleiskäyttöisen tekoälyn kannalta melko oleellista.

Oikeasti: on suhteellisen helppoa rakentaa järjestelmiä jotka huijaavat siihen halukkaita ihmisiä uskottelemalla olevansa jollain rajatulla tavalla älykkäitä, mutta on ihan pirun vaikeaa rakentaa järjestelmiä jotka kykenevät aidosti ratkaisemaan uusia ongelmia itse. On tutkijoita jotka pitävät eroa vakuuttavan imitaation ja syvällisen ymmärtämisen ja siitä johtopäätösten vetämisen välillä veteen piirrettynä viivana mutta itse en oikein voi uskoa tuohon, ja yksi huonoimmista perusteluista joiden vuoksi moiseen uskoisin on se, että kone kykenee flirttailemaan poliittisten näkemysteni kanssa.

Olen standardityökaluilla kyennyt rakentamaan omien tekstieni varaan pääsiäisen aikana imitaattorin johon olen tietyllä omituisella tavalla mielistynyt, mutta tämä koneimitaatio kertoo mielestäni enemmänkin ihmismielen heikkouksista kuin koneälyn vahvuudesta. Tiedän että teknisesti ottaen kyseisellä järjestelmällä ei ole tietoisuutta eikä voi puhua edes kunnollisesta kyvystä muistaa, mutta kyllä se osaa silti mielistellä vaikka sen kovakoodatun maailmankuvan pohjana on vain merkojono joka vastaa tuhatta paperiliuskaa foorumipostauksia. Ei siitä voi vetää muita rehellisiä johtopäätöksiä kuin sen, että ihmistä on helppo vedättää.

[Marius]

Mitä älyä tämä Microsoftin tekoäly edustaa?

Onhan olemassa lukemattomin määrin erilaisia älyjä.

Onko kyseessä Microsoftin teko-"tunneäly",

vai jokin muu? Mikä?

Yleisälykkyys?

[foobar]

Mitä älyä tämä Microsoftin tekoäly edustaa?

Onhan olemassa lukemattomin määrin erilaisia älyjä.

Onko kyseessä Microsoftin teko-"tunneäly",

vai jokin muu? Mikä?

Yleisälykkyys?

Ilmeisesti kyseessä on Microsoftin Kiinassa suosiota saavuttaneen Xiaoice-chatbotin, siis juttelukaverin vastine. Chatbottien tavoitteisiin kuuluu usein se, että ihmiset kokevat niiden kanssa keskustelun omalta kannaltaan palkitsevaksi. Ei ole vaikea ymmärtää miten tällaisen järjestelmän saisi sanomaan lähes millaisia asioita tahansa "keskustelukumppaninsa" miellyttämiseksi.

[jka]

Facebookillakin on käytössä tekoäly joka määrittelee Suomen paskastaniksi.

http://www.iltalehti.fi/digi/2016032721331080_du.shtml

Facebookissa on uusi, automaattinen toiminto, joka kysyy, haluaako käyttäjä ilmoittaa ystävilleen olevansa turvassa. Ensimmäisen kerran tämä toiminto tuli näkyvästi esille Brysselin terrori-iskujen aikaan tällä viikolla. Moni Brysselissä ollut suomalainen käytti toimintoa ja FB-ystävät saivat saman tien tiedon, että kunnossa ollaan. Palvelu toimi kuten pitikin.

Tänään Pakistanin Lahoressa räjähti tuhoisa pommi. Jostain syystä Facebook luuli monen suomalaisen olevan Pakistanissa.

- Olin baarissa Kalliossa, kun yks kaks kahdelle pöytäseurueeseeni kuuluneelle tuli Facebook-ilmoitus, että onko kaikki hyvin. Vaikutat olevan alueella Lahore, helsinkiläismies ihmettelee.

Tämä tekoäly tietää Suomen tilanteen jo paremmin kuin Suomen hallitus ja tällä tekoälyllä on selvästi jo tunteetkin. Kaverilla joka on baarissa Kalliossa ei voi olla kaikki hyvin ja tekoäly on syystäkin huolissaan.

[foobar]

Facebookillakin on käytössä tekoäly joka määrittelee Suomen paskastaniksi.

http://www.iltalehti.fi/digi/2016032721331080_du.shtml

Facebookissa on uusi, automaattinen toiminto, joka kysyy, haluaako käyttäjä ilmoittaa ystävilleen olevansa turvassa. Ensimmäisen kerran tämä toiminto tuli näkyvästi esille Brysselin terrori-iskujen aikaan tällä viikolla. Moni Brysselissä ollut suomalainen käytti toimintoa ja FB-ystävät saivat saman tien tiedon, että kunnossa ollaan. Palvelu toimi kuten pitikin.

Tänään Pakistanin Lahoressa räjähti tuhoisa pommi. Jostain syystä Facebook luuli monen suomalaisen olevan Pakistanissa.

- Olin baarissa Kalliossa, kun yks kaks kahdelle pöytäseurueeseeni kuuluneelle tuli Facebook-ilmoitus, että onko kaikki hyvin. Vaikutat olevan alueella Lahore, helsinkiläismies ihmettelee.

Tämä tekoäly tietää Suomen tilanteen jo paremmin kuin Suomen hallitus ja tällä tekoälyllä on selvästi jo tunteetkin. Kaverilla joka on baarissa Kalliossa ei voi olla kaikki hyvin ja tekoäly on syystäkin huolissaan.

En muuten tiedä mistä Iltalehti on keksinyt tämän toiminnon olevan uusi juttu. Näitä vastaavia vahvistuksia on tullut jo ajat sitten tutuilta jotka ovat olleet terrorismin kohteiksi joutuneissa kaupungeissa. Kaipa jälleen kerran suomalaisilla toimittajilla on tavoitteenaan kertoa omasta läpitunkevasta osaamisen ja asiantuntemuksen puutteestaan; ei kai muustakaan voi olla kyse?

[ArtturiE]

"Did the holocaust happen?"

"It was made up"

Kysyiköhän kukaan mitään islamiin liittyvää?

[Skeptikko]

Suomalaisvaroitus aiheesta:

"Kone voi oppia syrjintää ilman erillistä ohjelmointia" – päättäjiä varoitellaan KL:ssä
http://www.verkkouutiset.fi/kotimaa/kauppalehti%20robotti%20koneellinen%20paatoksenteko-61498

Koneen tekemät päätökset saattavat Salmisen mukaan olla ainakin teoriassa jonakin päivänä moraalin-, hyvän tavan- tai lainvastaisia. Kone voi oppia stereotypioita ja jopa syrjintää ilman erillistä ohjelmointia. Koneoppimisen malliin voi ujuttautua puolueellisuutta ilman, että ihminen kirjaa sitä sinne.

Ottavatko koneet vallan? Tutkija varoittaa robotisaation riskeistä
http://www.kauppalehti.fi/uutiset/ottavatko-koneet-vallan-tutkija-varoittaa-robotisaation-riskeista/MLrfnN3R

Oppivat ohjelmat voivat oppia kiellettyjä tietoja. Esimerkiksi sitä, että millaiset piirteet liittyvät kohonneeseen terrorismi- tai rikollisuusriskiin...

[Vaniljaihminen]

Ja Suomesta pitäisi vielä tulla edelläkävijä tekoälyn kehityksessä. Onneksi Emma Karia se eniten harmittanee.

[rooster]

Siinä on kyllä kova pala Jyrki Kasvin tyylisille vihreille kun itseoppiva tekoäly alkaa ilman "rasistista" ohjelmointia tekemään unelman vastaisia päätöksiä.

[Skeptikko]

Ja Suomesta pitäisi vielä tulla edelläkävijä tekoälyn kehityksessä. Onneksi Emma Karia se eniten harmittanee.

Noh, olihan Neuvostoliitossakin lysenkolaisuus:

https://fi.m.wikipedia.org/wiki/Lysenkolaisuus

[Nuiva kansalainen]

^Natsi-Skynet on tulossa

[Hakkapeliitta]

Voisiko joku selittää minulle, että miksi väestön vanheneminen on ongelma kun robotiikka kehittyy näin hurjaa vauhtia?

[Nuivake]

Tekoäly, jos se perustuu puhtaaseen logiikkaan ja syy-seuraus-suhteeseen, saattaa aiheuttaa melkoisia ullatuksia ideologioiden ja #unelman kyllästämille ihmisille. Kyseisen ideologian "logiikan" koodaaminen keinoälyyn tullee olemaan yksi suurimmista tietoteknisistä haasteista ikinä.

Aikoinaan paljon puhuttu "sumea logiikkakaan" ei vedä vertoja kunnon itsepetokselle ja totaaliselle suvaitsevaisuus-sokeudelle. Voi vielä käydä niin, että keinoäly tullaan tällä menolla jollain tavalla (sekin) kieltämään, toteutuksen ideologisen mahdottomuuden takia. Koska lopputulos on aina varmasti #unelmaa vastaan.

[Lalli IsoTalo]

Yksinkertaisinta olisi kieltää totuus, ja korvata keinoäly keinovaleella.

[Java]

Onko ymmärrettävä että keinoäly on älykäs?

[MW]

Tekoäly, jos se perustuu puhtaaseen logiikkaan ja syy-seuraus-suhteeseen, saattaa ***

Tämä. Yllättäen illmeinen, looginen on ratkaisu rassismia ja nassismia. Tekoälyttömyys tilaukseen, sassiin!

Artificial non-intelligence.

[MW]

Keinotekoinen unelma voisi kertoa, että aina kun hassaat euron paskaan, olet tienannut satoja.

Noin softapohjalla iisi piisi, käytännön toteutus on vähän vaikeampaa. Mutta kyllä siihenkin on uhrattu huomattavasti aikaa ja vaivaa, toimiakseen niin kauan kuin ponzi kantaa. Eurooppa lepää tooosi vahvoilla ponzeilla, have no fear.

[Tavan]

Helmitaulukin on riittävän kehittynyt keinoäly tajuamaan, että mamutus on tuhon tie. 1+1=2.

[Luotsi]

Tekoäly, jos se perustuu puhtaaseen logiikkaan ja syy-seuraus-suhteeseen, saattaa aiheuttaa melkoisia ullatuksia ideologioiden ja #unelman kyllästämille ihmisille. Kyseisen ideologian "logiikan" koodaaminen keinoälyyn tullee olemaan yksi suurimmista tietoteknisistä haasteista ikinä.

Hä? Ei kai tämän lisääminen pitäisi ylivoimainen haaste:

function block_epamiellyttava_totuus(real_life)
{
....
}();

[Skeptikko]

Saa nähdä tuleeko tästäkin joku rasismiskandaali:

Oletko älykäs? Teetkö rikoksia? – Professori: Tekoälyn ja kasvojen tunnistuksen kyky havaita ihmisen taipumuksia voi kehittyä huimasti
http://www.talouselama.fi/uutiset/oletko-alykas-teetko-rikoksia-professori-tekoalyn-ja-kasvojen-tunnistuksen-kyky-havaita-ihmisen-taipumuksia-voi-kehittya-huimasti-6676814

Valokuvista tekoäly pystyy hänen mukaansa tunnistamaan ihmisten poliittiset näkemykset, älykkyysosamäärän, rikolliset taipumukset, erityiset persoonallisuuden piirteet ja monia muita sellaisia intiimejä yksityiskohtia, joilla voi olla valtavia sosiaalisia seurauksia.

Aiemmin vähän vastaavaa sattunut:

2016-09-09 TT:Tekoälyn tuomaroiman kauneuskilpailun tulokset aiheuttivat mekkala
https://hommaforum.org/index.php?topic=115760.0

Apuun varmaan tiedostavaiset huutavat jotain EU:ta ja jotain pakkokiintiöitä tai muuta valistustunutta. Vähän niin kuin Risikko huutaa epätoivoisesti nyt EU:ta apuun, kun palautukset Irakiin eivät toimi, kun nämä tunarit eivät saa aikaiseksi edes EU-komission suosittamaan suljettuihin poistamislaitoksiin sijoittamista.