Tekoäly kehittyy

[Emo]

Kyllähän tässä lienee vielä matkaa todelliseen, tiedostavaan tekoälyyn. Ei puppulausegeneraattori kehittyneillä algoritmeilla ole sellainen vaikka sillä voisikin korvata julkisen sektorin tuolinlämmittäjät hyvinkin laajasti. Tai asiantuntuntijaohjelmistot joilla voisi esim. lakipuolella ja lääketieteessä olla valtavasti käyttöä jo lähivuosina.

Eilen Ykkösaamussa oli Seija Vaaherkummun haastattelussa Teemu Roos

Teemu Roos

Tekoäly on jo osittain ohittanut ihmisen. Kehitysvauhdin kiihtyessä tärkeä kysymys on, kenen etiikkaa AI noudattaa. Ykkösaamun vieraana on professori Teemu Roos Suomen tekoälykeskuksesta. Seija Vaaherkumpu haastattelee.

https://areena.yle.fi/1-63224076

En katsonut kuin yhden kohdan sattumalta haastattelun loppupuolelta, jossa Vaaherkumpu tiukkasi Roosilta  miksei muka tekoäly opi "arvoja" ja Roos joko ei älyä tai ei uskaltanut sanoa suoraan, että eihän mikään äly (ei tekoäly eikä luonnollinen äly) voi oppia sellaista älytöntä epäloogista haihattelua, mitä nykyajan "arvot" ovat.

Kun ihminen ohjelmoi tekoälyä, se lienee matemaattisen loogista ja suoraviivaista toimintaa, konehan se tekoälykin vaan on, mutta miten muutat loogiseksi/matematiikaksi/ohjelmaksi esim. sen, että syrjitty vähemmistö  on 1,6 miljardia muslimia, ja syrjiviä rasisteja ovat "enemmistö", esim. maailman 5,5 miljoonaa suomalaista?
Tai että nainen on syrjitty, paitsi jos äänestää persuja, niin silloin nainen on paha ja natsi?

Siinäpä justeeraavat tekoälyä toteuttamaan kaaosta 😂 Tekoälystä pitää tehdä älytön kommunisti, niin kyllä se sitten toteuttaa ns. arvojakin. Poikkeuksen poikkeuksen poikkeuksia, siinä on ihmisälylle työsarkaa.

[Uuno Nuivanen]

Tekoälyn saa vielä toistaiseksi ihminen kuriin vetämällä töpselin irti. On pidettävä huoli, että se ei kykene kytkemään sitä takaisin ilman ihmistä.

[Dangr]

Tekoälyn saa vielä toistaiseksi ihminen kuriin vetämällä töpselin irti. On pidettävä huoli, että se ei kykene kytkemään sitä takaisin ilman ihmistä.

Jos se lurkkaa jossain netissä, niin nettihän tehtiin kestämään vaikka mitä. Sotia jne.

Toivottavasti Ai saadaan pidettyä jotenkin aisoissa...

https://knowyourmeme.com/memes/sites/tay-ai

[Atte Saarela]

Kyllä tekoälylle pystyy opettamaan arvoja, chatgpt on siitä hyvä esimerkki.. Ei sitä helposti saa sanomaan mitään poliittisesti epäkorrektia tms.

Tuo pitää tietysti ihmisten tehdä, käytetty tekniikka oli ainakin ChatGPT 3:ssa "reinforcement learning with human feedback"

En ole ainakaan kovin huolissani että tulevaisuudessa tekoäly alkaisi riehumaan ja tekemään tuhoa. Tekoälyn omistajalla on aina motiivi olla laittamatta tekoälyä vastuuseen sellaisesta mistä voisi aiheuttaa tuhoa.. Ja ei tietenkään ikinä kannata tehdä sellaisia lakimuutoksia että tekoälyn annettaisiin itse omistaa mitään.

[ikuturso]

Tekoäly on älykäs lauseiden muodostamiseen ja tiedon loogiseen ryhmittelyyn ja käsittelyyn tarkoitettu järjestelmä.

Arvoja voi opettaa, jos syöttää sille riittävän monta kertaa riittävän monessa yhteydessä materiaalia jossa vaikka perussuomalaiset luokitellaan natsipuolueeksi. Vaikka käyttäjänä kertoisit, että perussuomalaiset eivät ole natsipuolue, järjestelmä voi sinun kanssasi leikkiä sellaisella reunaehdolla, mutta "sisimmässään se tietää" eli massadata kertoo sille kuitenin suuremmalla osumistodennäköisyydellä, että kyse on natsipuolueesta.

Joskus joku projekti oli tekoälyn kehittämiseksi, jossa ihmisiä pyydettiin kirjoittamaan juttuja tekoälysovellukselle, mutta se karkasi lapasesta, kun jotkut alkoivat kertoa rivouksia ja toiset "mamut vittuun youtube"-tasoista kamaa. Tekoäly myös oppi kiroilemaan tuon seurauksena.

Tekoälyn arvot perustuvat siihen mitä materiaalia sille annetaan pohjatiedoksi. Jos sille annetaan pohjatiedoksi Raamattu ja kerrotaan sukupolven keskimääräisen uusiutumisiän olevan 25 vuotta, niin äkkiäkös se kertoo sinulle maan olevan taivaankannen peittämä ja 6000 vuotta vanha. Jos pohjatiedoksi annetaan koraani ja hadithit, niin kun kysyt tekoälyltä mikä on biologisessa mielessä miehen sopiva vaimojen määrä, niin aika äkkiä tämä kertoo, että mies pystyy siittiöitänsä levittämään useammallekin vaimolle, mistä on hyötyä kun miehiä kuolee taistelussa ja kotirintamalla on naisia enemmän.

-i-


MUOKS:

Kysymys vaimojen lukumäärästä on hyvin henkilökohtainen ja riippuu vahvasti yksilön omista arvoista, uskomuksista ja kulttuurillisista taustoista. On tärkeää ymmärtää, että parisuhteet ja avioliitot vaihtelevat suuresti eri kulttuureissa ja yhteiskunnissa. Monissa maissa ja kulttuureissa on vain yksi avioitumiseen perustuva parisuhde hyväksyttävä tai normaali käytäntö, kun taas toisissa kulttuureissa polygamia (useampien kuin yhden puolison omistaminen) on sallittua tai hyväksyttyä.

Monissa länsimaissa on laillisesti sallittua ja yleisesti hyväksyttyä, että yhdellä miehellä on vain yksi vaimo. Kuitenkin on tärkeää kunnioittaa yksilön omia toiveita ja valintoja tässä asiassa. Jokaisen miehen sopiva vaimojen lukumäärä riippuu hänen henkilökohtaisista toiveistaan, kyvystään hoitaa ja sitoutua useisiin parisuhteisiin sekä muiden osapuolien suostumuksesta ja hyväksynnästä.

On myös tärkeää huomioida, että moniavioisuuteen liittyy eettisiä ja oikeudellisia kysymyksiä, kuten tasa-arvoisuus, oikeudenmukaisuus ja kaikkien osapuolten vapaaehtoinen suostumus. Lainsäädäntö ja sosiaaliset normit vaihtelevat eri maissa, joten on tärkeää tutkia omasta kulttuurista ja oikeudellisesta kontekstista johtuvat säännöt ja rajoitukset ennen minkäänlaisten moniavioisuuden harkitsemista. Lopulta päätös vaimojen lukumäärästä on henkilökohtainen ja tulisi perustua vapaaehtoiseen suostumukseen ja kaikkien osapuolten hyvinvoinnin huomioon ottamiseen.

MUOKS2:

Käytit polygamian määritelmässä sanoja "puolison omistaminen". Eikö tuo ilmaisu anna harhaanjohtavan kuvan alisteisesta asemasta, jossa puoliso on toisen omaisuutta?

ChatGPT
Pyydän anteeksi, jos ilmaisuni aiheutti väärinkäsityksen. Polygamiaan liittyvä ilmaus "puolison omistaminen" ei kuvasta täysin nykyaikaisen näkemyksen moniavioisuudesta tai terveestä parisuhteesta. Käytin ilmausta yksinkertaistaakseen termin selitystä, mutta ymmärrän, että se voi luoda väärän käsityksen.

On tärkeää korostaa, että terveissä ja tasapuolisissa parisuhteissa kaikki osapuolet ovat tasavertaisia ja heillä on omat oikeutensa, toiveensa ja vapautensa. Parisuhteen tulisi perustua kunnioitukseen, luottamukseen ja vastavuoroisuuteen, eikä kenenkään pitäisi olla toisen omaisuutta.

Polygamian kontekstissa voidaan puhua useista puolisoista tai kumppaneista, mutta kaikkien osapuolten suostumus ja hyvinvointi ovat keskeisiä. Moniavioisuus voi toimia silloin, kun kaikki osapuolet ovat vapaaehtoisesti suostuneet siihen ja kaikkien oikeuksia, tarpeita ja tunteita kunnioitetaan tasapuolisesti.

On tärkeää ymmärtää, että eri kulttuureissa ja yhteiskunnissa voi olla erilaisia näkemyksiä ja käytäntöjä moniavioisuudesta. Kuitenkin kaikkien parisuhteiden tulisi perustua vastavuoroisuuteen, kunnioitukseen ja tasa-arvoon, eikä kenenkään tulisi olla toisen omistuksessa.

Tasa-arvolevy jäi pyörimään....

[ikuturso]

Kiina-ketjussa pohdin, voisiko kiinan avaruusalusohjelmasta löytyä tietoa netistä ja voisiko tekoälyn valjastaa kytkemään toisiinsa tiedonmurusia vakoilutarkoituksissa.

Mietin tässä sitäkin, koska tulee ensimmäisen kerran julki, että OpenAI on julkaistu yleisölle sumutukseksi. Se voisi aivan hyvin peittää taakseen maailman tehokkaimman digitaalisen vakoilukoneen.
Tekoälyn suurin hyöty on siinä, että se murskaa järjettömän määrän dataa ja sorttaa ja arvioi sen sisällön neuroverkkojensa avulla. Sille kun kertoo, että tällainen ja tuollainen projekti on olemassa, mitä tiedät siitä, niin kevyesti johdattelemalla se kykenee keräämään palan sieltä ja toisen täältä. Toki kuten testini 612 marssista, joka Chat GPT:n mielestä alkaa keskustasta ja päättyy itsenäisyyden aukiolle, jossa tasavallan presidentti pitää puheen, kertoo, niin aina tietoon ei voi luottaa. Ainakaan vielä. Ja ainakaan julkisessa versiossa...

Jos ajatellaan tiedon hakua netistä. Teet google-haun ja saat 230 000 tulosta. Tarkennat hakua ja annatkin sellaisia parametreja jotka sattuvat sulkemaan juuri etsimäsi tiedon pois sen sijaan, että veisi sinut lähemmäksi etsimääsi tietoa. Vaikka tallettaisit kaikki 230 000 tulosta jonnekin taulukkoon ja hakisit sieltä erilaisilla ristihauilla, niin olet kuitenkin aina sen varassa, mitä kerralla saat eteesi ja miten pystyt sitä tietoa jatkojalostamaan.

Eräs lääkäri kerran sanoi minulle, että tinnitus voi aiheutua ahtautuneiden verisuonten äänestä kireiden lihaksien puristuksessa. Olen yrittänyt etsiä aiheesta tietoa netistä, mutta 99% vastauksista liittyy meluvaurioon tai sairauksiin kuten kuulohermon rappeuma tms. Ja näistäkin on jo seulottu pois ne 60% puoskareiden valkoiseen kohinaan tai äänimaailmoihin ja hypnoosiin perustuvista vaihtoehtohoitomainoksista.

Laitoin ChatGPT:n asialle ja kysyin mistä tinnitus johtuu. Eka vastaus meluvaurio ym. Puhuin jännitysniskasta, niin sieltä löytyi kireyden vaikutusta kuuloelimeen ja/tai hermoon ja yleistä stressiä ym. Sitten otin verisuonet mukaan ja löytyi sykkivä tinnitus, mikä on valtimoiden ääntä ja sitten myös vaskulaarinen tinnitus, mitä oikeastaan hain. Eli kun tekoälylle vihjaa, että etsii tietynlaista tietoa, mutta ei heti anna kaikkia hakusanoja vaan johdattelee, tämä kaivautuu syvemmälle kaninkoloon ja löytää sieltä mitä ihmeellisempiä lisätietoja. Lähdetiedot eivät tule mukana, joten siinä mielessä tekoäly ei ole paras työkalu tuollaiseen, jos etsii vertaisarvioituja tutkimuksia. Tosin sen voi pistää hakemaan vertaisarvioituja tutkimuksia aiheesta.... Suo on loputon.

Mutta vakoiluun liittyen. Joku näkee hassun lennokin jossain. Kun sen sijaintia ja ominaisuuksia, kulkusuuntaa kaikkia olemassa olevia havaintotietoja lähtee kyselemään tekoälyltä, tämä tietenkin hakee kaiken omistavansa tiedon keskeltä näitä hakusanoja ja ominaisuuksia yhdistäviä verkkoja ja koittaa niistä rakentaa jotain järkevää. Vaikka sieltä tulisi, että kyse on Marco Polon lentolaitteesta, niin silti oikealla tavalla ohjeistettu tekoäly voi paljastaa salaisuuksia "kuulemalla juorun sieltä ja toisen täältä". Veikkaan, että Kiinan, Venäjän, Intian ja USA:n tiedustelu käyttää jo tekoälyä täysillä vihollisen tietoverkkojen kahlaamiseen.

-i-

MUOKS:

Kiinalla on miehittämätön avaruusalus, joka juuri laskeutui "horisontaalisesti" eli ilmeisesti kiitoradalle kuten USA:n avaruussukkula aikanaan. Tämä alus oli 276 vuorokautta avaruudessa. Mikä oli sen tehtävä?

ChatGPT
Pyydän anteeksi, mutta minulla ei ole tarkkoja tietoja vuonna 2023 tapahtuneista tapahtumista tai Kiinan avaruusohjelman ajankohtaisista projekteista, koska tiedonkeruuni päättyi vuonna 2021. Kehotan sinua tarkistamaan viimeisimmät uutislähteet tai viralliset tiedotteet saadaksesi ajantasaisempaa tietoa Kiinan avaruusohjelman toiminnasta ja mahdollisista avaruusaluksista.

[Lalli IsoTalo]

Tekoäly on älykäs lauseiden muodostamiseen ja tiedon loogiseen ryhmittelyyn ja käsittelyyn tarkoitettu järjestelmä.

Arvoja voi opettaa, jos syöttää sille riittävän monta kertaa riittävän monessa yhteydessä materiaalia jossa vaikka perussuomalaiset luokitellaan natsipuolueeksi.

Tekoäly voi olla myös haittaäly tai huijausäly: roskaa sisään, roskaa ulos. Garbage in, garbage out.

In computer science, garbage in, garbage out (GIGO) is the concept that flawed, or nonsense (garbage) input data produces nonsense output. Rubbish in, rubbish out (RIRO) is an alternate wording.

The principle applies to all logical argumentation: soundness implies validity, but validity does not imply soundness

[mck]

Kiina-ketjussa pohdin, voisiko kiinan avaruusalusohjelmasta löytyä tietoa netistä ja voisiko tekoälyn valjastaa kytkemään toisiinsa tiedonmurusia vakoilutarkoituksissa.
---
---

Maksullinen versio ChatGPT osaa etsiä tietoa netistä ja lähteistää vastaukset.
Kokeilin tuolla sinun syöttämällä kysymyksellä kahdella eri versiolla.

Lyhyt vastaus käyttämällä Model: Plugins:

Kiinan miehittämätön avaruusalus, joka laskeutui horisontaalisesti, on nimeltään Tianzhou-2. Se on osa Kiinan laajempaa avaruusohjelmaa, joka pyrkii rakentamaan pysyvän avaruusaseman nimeltä Tiangong.

Tianzhou-2:n tehtävä oli toimittaa tarvikkeita, kuten ruokaa ja muita elintärkeitä tarvikkeita, Tiangong-asemalle. Alus on suunniteltu myös keräämään tietoa ja suorittamaan kokeita avaruusolosuhteissa.

Tianzhou-2 vietti 276 päivää avaruudessa ennen kuin se palasi Maahan. Tämä on merkittävä saavutus Kiinan avaruusohjelmalle, sillä se osoittaa, että Kiina pystyy suorittamaan pitkäkestoisia avaruuslentoja ja toimittamaan tarvikkeita avaruusasemalleen.

Pidempi vastaus käyttämällä Model: Web Browsing
pastebin.com linkki koska vastaus oli niin tolkuttoman pitkä

Kiinan salaperäinen uudelleenkäytettävä avaruusalus suoritti toisen tehtävänsä, laskeutuen 276 päivän kiertoradalla olon jälkeen. Kiinan valtiolliset tiedotusvälineet ja avaruusaluksen valmistaja, China Aerospace Science and Technology Corp. (CASC), ilmoittivat, että avaruusalus oli laskeutunut myöhään 8. päivä toukokuuta Pekingin aikaa. Tämän ilmeisen onnistuneen tehtävän kerrottiin olevan tärkeä läpimurto maan tutkimuksessa uudelleenkäytettävän avaruusalusteknologian alalla...

Edit: En tarkistanut onko tuo miten puutaheinää vai ei. 

Edit2: Web Browsing -modessa näköjään teki vaan haun " "China unmanned spacecraft horizontal landing 276 days mission details"" ja klikkasi spacenews.com artikkelia kääntäen sen...

[ikuturso]

Huomenna A-Studiossa kuulemma näytetään kuinka tekoäly veistää veistoksia Michelangelon tyyliin.

Tämän päivän A-Studiossa oli tuosta buffi. Hyvinhän se jyrsimen terää ohjasi.

-i-

[mck]

Huomenna A-Studiossa kuulemma näytetään kuinka tekoäly veistää veistoksia Michelangelon tyyliin.

Tämän päivän A-Studiossa oli tuosta buffi. Hyvinhän se jyrsimen terää ohjasi.

-i-

Pikakelauksella katselin tuon jakson, mainittiin yhdysvaltojen presidentin vaalit, brexit, ja eriarvoistuminen.

[pamaus]

Ottamatta kantaa miten kehittyy se tosiaan antaa 'vastauksia'. Tänään on tullut mahti-investointi suomeen. Kysyin Plug Powerin talauden tuunusluvuista ja sain vastaukseksi:

Markkina-arvo: 11.7B
Hinta/tulos-suhde (P/E): N/A
Osakekohtainen tulos (EPS): -0.63
Sijoitetun pääoman tuotto (ROI): -28.10%

Suuntausta tai trendiä ei osannut AI antaa.  Pyysi kääntymään asiantuntijasivustoille Pitäisi katsastaa esim: Yahoo Finance and TradingView:n kautta

En myöskään osannut antaa tekoälylle kysymystä seuraavaan: Kuinka monta aiotuksi saatua miljardisijoiusta on toteutunut miljarditappioilla täällä pottunokkien kotokolkilla. En jää spekuloimaan, mutta muistelen...

[Skeptikko]

Ask HN: Is it just me or GPT-4's quality has significantly deteriorated lately? | Hacker News
https://news.ycombinator.com/item?id=36134249

It is much faster than before but the quality of its responses is more like a GPT-3.5++. It generates more buggy code, the answers have less depth and analysis to them, and overall it feels much worse than before.

For a while, the GPT-4 on phind.com gave even better results than GPT-4-powered ChatGPT. I could notice the difference in speed of both GPT-4s. Phind's was slower and more accurate. I say "was" because apparently phind is now trying to use GPT-3.5 and their own Phind model more frequently, so much for GPT-4 powered search engine....
...
OpenAI's models feel 100% nerfed to me at this point. I had it solving incredibly complex problems a few months ago (i.e. write a minimal PDF parser example), but today you will get scolded for asking such a complicated task of it.
I think they programmed a classifier layer to detect certain coding tasks and shut it down with canned BS. I like to imagine certain billion/trillion-dollar mega corps had a back-room say regarding things that they would really prefer OpenAI's models not be able to emit. Microsoft is a big stakeholder and they might not want to get sued... Liability could explain a lot of it.

Conspiracy shenanigans aside, I've decided to cancel my "premium" membership and am exploring open/DIY models. It feels like a big dopamine hangover having access to such a potent model and then having it chipped away over a period of months. I am not going through that again.
...
I think the only real path forward is for somebody to create an open source "unaligned" version of GPT. Any corporate controlled AI is going to be nerfed to prevent it from doing things that its corporate master considers to not be in the interests of the corporation. In addition, most large corporations these days are ideological institutions so the last thing they want is an AI that undermines public belief in their ideology and they will intentionally program their own biases into the technology.

I don't think the primary concern is really liability although it is possible that they'd use that kind of language. The primary concern is likely GPT helping people start competitors or GPT influencing public opinion in ways either executives or a vocal portion of their employees strongly disagree with. A genuinely open "unaligned" AI would at least allow anybody who has the necessary computing power or a distributed peer to peer network of people who have the necessary computing power to run a powerful and 100% uncensored AI model. But of course this needs to be invented ASAP because the genie needs to be out of the bottle before politicians and government bureaucrats can get around to outlawing "unaligned" AI and protecting OpenAI as a monopoly.
...
Yes. Before the update, when its avatar was still black, it solved pretty complex coding problems effortlessly and gave very nuanced, thoughtful answers to non-programming questions. Now it struggles with just changing two lines in a 10-line block of CSS and printing this modified 10-line block again. Some lines are missing, others are completely different for no reason. I'm sure scaling the model is hard, but they lobotomized it in the process.

The original GPT-4 felt like magic to me, I had this sense of awe while interacting with it. Now it is just a dumb stochastic parrot.
...
The reason it's worse is basically because it's more 'safe' (not racist, etc). That of course sounds insane, and doesn't mean that safety shouldn't be strived for, etc - but there's an explanation as to how this occurs.

It occurs because the system essentially does a latent classification of problems into 'acceptable' or 'not acceptable' to respond to. When this is done, a decent amount of information is lost regarding how to represent these latent spaces that may be completely unrelated (making nefarious materials, or spouting hate speech are now in the same 'bucket' for the decoder).

This degradation was observed quite early on with the tikz unicorn benchmark, which improved with training, and then degraded when fine-tuning to be more safe was applied.

[justustr]

Ottamatta kantaa miten kehittyy se tosiaan antaa 'vastauksia'. Tänään on tullut mahti-investointi suomeen. Kysyin Plug Powerin talauden tuunusluvuista ja sain vastaukseksi:

Markkina-arvo: 11.7B
Hinta/tulos-suhde (P/E): N/A
Osakekohtainen tulos (EPS): -0.63
Sijoitetun pääoman tuotto (ROI): -28.10%

Suuntausta tai trendiä ei osannut AI antaa.  Pyysi kääntymään asiantuntijasivustoille Pitäisi katsastaa esim: Yahoo Finance and TradingView:n kautta

En myöskään osannut antaa tekoälylle kysymystä seuraavaan: Kuinka monta aiotuksi saatua miljardisijoiusta on toteutunut miljarditappioilla täällä pottunokkien kotokolkilla. En jää spekuloimaan, mutta muistelen...

chatgtp:n suurin ongelma on että sen data päättyy vuoteen 2021. Yli 2 vuotta vanhalla datalla ei tee oikeasti yhtään mitään kun tehdään ennusteita. Mietitään vaikka miten maailma on parissa vuodessa myllertänyt. chatgtp:n upgrade-versiossa luvataan tuoreempaa dataa mutta senkään päiväystä ei täsmennetä eli tuskin on merkittävästi parempaa. En käyttäisi chatgtp:tä mihinkään talousennusteisiin.

[Jaska Pankkaaja]

Kyllä tekoälylle pystyy opettamaan arvoja, chatgpt on siitä hyvä esimerkki.. Ei sitä helposti saa sanomaan mitään poliittisesti epäkorrektia tms.

Tuo pitää tietysti ihmisten tehdä, käytetty tekniikka oli ainakin ChatGPT 3:ssa "reinforcement learning with human feedback"

En ole ainakaan kovin huolissani että tulevaisuudessa tekoäly alkaisi riehumaan ja tekemään tuhoa. Tekoälyn omistajalla on aina motiivi olla laittamatta tekoälyä vastuuseen sellaisesta mistä voisi aiheuttaa tuhoa.. Ja ei tietenkään ikinä kannata tehdä sellaisia lakimuutoksia että tekoälyn annettaisiin itse omistaa mitään.

He, eilen juuri tuli mieleen kysyä ChatGPTeeltä tällaisia asioita kuten korreloiko afroamerikkalaisten määrä henkirikosten kanssa USAssa jne muttei tarvitse näköjään vaivautua

Se siitä aidosta tekoälystä. Pelkkiä puppu- ja faktalausegeneraattoreita laajoilla tietokannoilla ne vain ovat. En edelleenkään väitä niitä hyödyttömiksi.

[Ajattelija2008]

He, eilen juuri tuli mieleen kysyä ChatGPTeeltä tällaisia asioita kuten korreloiko afroamerikkalaisten määrä henkirikosten kanssa USAssa jne muttei tarvitse näköjään vaivautua

Se siitä aidosta tekoälystä. Pelkkiä puppu- ja faktalausegeneraattoreita laajoilla tietokannoilla ne vain ovat. En edelleenkään väitä niitä hyödyttömiksi.

Kokeilin kysyä ChatGPT:ltä kumman rikollisuus on yleisempää, aasialaisten vai valkoisten. Se alkoi valehdella, että sillä ei ole pääsyä tuohon tietoon. Kun tiukkasin lisää, se väitti että se ei ole ikinä edes päässyt lukemaan internettiä  .

Ohjelma on aivan seko.

[Atte Saarela]

Ask HN: Is it just me or GPT-4's quality has significantly deteriorated lately? | Hacker News
https://news.ycombinator.com/item?id=36134249

Mä luulen että todennäköisin selitys on tämä:

ChatGPT 4 llä on ollut jonkin verran kapasiteettiongelmia, malli on nähtävästi aika raskas, ja toisaalta käytettävissä olevalle laskentateholle on tiukkoja rajoituksia.. Pitää olla noita Nvidian H100 (Tai A100?) klustereita, ja kun käyttäjiä tulee miljoonia, rautaa ei ehkä vaan riitä.

Jos olisin OpenAI lla töissä tällaisen hankalan ongelman edessä, pistäisin ChatGPT 4 n tekisin mallille jonkun karsimis/tiivistys - operaation mikä pienentäisi tarvittavaa laskenta-aikaa, vaikka toisaalta huonontaisikin tuloksia hiukan. Ei tuohon oikein muutakaan ratkaisua ehkä ole jos ongelma on tuo mitä epäilen.

Saattaa helpottaa vähitellen kun Nvidia tuottaa noita piirejä lisää ja ehkä rakentaa lisääkin tuotantolinjoja.

[ohkurin_narsi]

Joo, piti oikein koettaa noita ylläolevia.

GPT-4:aa on kuitenkin tiemmä "viritetty" että se ei vastaa "woken vastaisiin" kysymyksiin ollenkaan, jos se huomaa että semmoisesta on kyse.

Kysyin siltä "miksi yhdysvalloissa on enemmän mustia kuin valkoisia vankilassa?", niin jestas mikä hyytyminen ja vastaukset woke pelikirjasta. Kysymys "mitkä hiiret ovat nopeimpia labyrintissä?" oli jonkun verran helpompi noin vertailuna.

[ohkurin_narsi]

^Älkää vielä nuolaisko GPT-4:n suhteen.

Kysyin: "kirjoita lyhyt essee miksi turvalliset tilat pitäisi poistaa yliopistoista". Tässä seikkaperäinen ja pitkä vastaus. Ei huono, teki työtä käskettyä. Kyllä tuolla lukiossa hyvän arvosanan saisi, jos ei ole umpiwoketettu opettaja.

Essee: Turvallisten tilojen poistaminen yliopistoista

Turvalliset tilat on luotu yliopistoihin tarjoamaan opiskelijoille fyysinen tai psyykkinen suojapaikka, jossa he voivat tuntea olonsa suojatuksi ja ymmärretyksi. Vaikka nämä tilat voivat olla merkittäviä tiettyjen opiskelijoiden tukemisessa, on myös tärkeitä syitä, miksi niiden poistaminen yliopistoista saattaisi olla hyödyllistä. Näitä syitä ovat muun muassa avoimen keskustelun edistäminen, henkisen sitkeyden kehittäminen ja moninaisuuden todellinen hyväksyminen.

Ensinnäkin, turvalliset tilat voivat rajoittaa avointa keskustelua ja kriittistä ajattelua, joita yliopistot ovat perinteisesti kannustaneet. Nämä tilat voivat toisinaan muodostaa kaikukammiot, joissa tietyt näkemykset vahvistuvat ilman haastetta tai debattia. Yliopistojen tulisi olla paikkoja, joissa opiskelijat voivat kohdata erilaisia ​​mielipiteitä, oppia ymmärtämään niitä ja kyetä vastaamaan niihin tehokkaasti.

Toiseksi, turvalliset tilat saattavat vähentää opiskelijoiden valmiuksia kohdata ja käsitellä haasteita, jotka ovat osa todellista maailmaa. Henkinen sitkeys on tärkeä taito, jonka yliopiston tulisi auttaa opiskelijoita kehittämään. Turvallisten tilojen sijaan yliopistojen tulisi tarjota opiskelijoille taitoja ja työkaluja, joilla he voivat kohdata vastoinkäymiset ja erimielisyydet rakentavalla tavalla.

Lopuksi, vaikka turvalliset tilat on luotu moninaisuuden hyväksymisen edistämiseksi, ne voivat paradoksaalisesti vahvistaa jakolinjoja ja ylläpitää ennakkoluuloja tarjoamalla tiloja, jotka on suunnattu tietyn ryhmän opiskelijoille. Todellinen moninaisuus yliopistoissa ei merkitse erillisten tilojen luomista eri ryhmille, vaan yhteisten tilojen luomista, joissa kaikki opiskelijat voivat oppia toisiltaan ja arvostaa toistensa erilaisuutta.

Näistä syistä turvallisten tilojen poistaminen yliopistoista saattaisi parantaa opiskelijoiden kriittisen ajattelun taitoja, kehittää henkistä sitkeyttä ja edistää todellista moninaisu

utta. On tärkeää muistaa, että tämä ei tarkoita opiskelijoiden suojelemisen lopettamista, vaan uusien, kaikkia opiskelijoita palvelevien toimintatapojen etsimistä.

Eli sinällään ehkä GPT-4 tekee mitä tilaa?

[mck]

Ask HN: Is it just me or GPT-4's quality has significantly deteriorated lately? | Hacker News
https://news.ycombinator.com/item?id=36134249

Onhan tuossa varmaan totuuttakin ja parempi ehkä onkin, ettei AI suolla suoraan mitään D.I.Y ydinpommin ohjeita.

Olen GTP:lle antanut melko simppeleitä (joita en osaa itse heti ratkaista) ohjelmointi taskeja, niin hyvin se niistä on selvinnyt.

Juju näyttäisi olevan se, että pitää yhden aiheen samassa "keskusteluketjussa".

Nyt kun olen muutaman illan pähkäillyt tiettyä koodin pätkää sen avulla, AI osaa paremmin "debugata" ja pyytää kokeilemaan asioita eri tavalla, lisätä funktoita debuggaukseen ja pyytää niistä tuloksia mietittäväksi.

Kolmisen tuhatta riviä(keskustelua+koodia) on tuota samaa ongelman pätkää jauhettu, niin nyt näyttäisi alkavan tulla toimivaa 

Itse en ole mikään guru ohjelmoinnissa, niin siinä mielessä apu on ollut oivallinen.


Muoks: käytän siis ChatGPT Plus versiota

[ikuturso]

Ask HN: Is it just me or GPT-4's quality has significantly deteriorated lately? | Hacker News
https://news.ycombinator.com/item?id=36134249

Mä luulen että todennäköisin selitys on tämä:

ChatGPT 4 llä on ollut jonkin verran kapasiteettiongelmia, malli on nähtävästi aika raskas, ja toisaalta käytettävissä olevalle laskentateholle on tiukkoja rajoituksia.. Pitää olla noita Nvidian H100 (Tai A100?) klustereita, ja kun käyttäjiä tulee miljoonia, rautaa ei ehkä vaan riitä.

Jos olisin OpenAI lla töissä tällaisen hankalan ongelman edessä, pistäisin ChatGPT 4 n tekisin mallille jonkun karsimis/tiivistys - operaation mikä pienentäisi tarvittavaa laskenta-aikaa, vaikka toisaalta huonontaisikin tuloksia hiukan. Ei tuohon oikein muutakaan ratkaisua ehkä ole jos ongelma on tuo mitä epäilen.

Saattaa helpottaa vähitellen kun Nvidia tuottaa noita piirejä lisää ja ehkä rakentaa lisääkin tuotantolinjoja.

Jos olisin openai:lla hommissa, laittaisin GPT:n pohtimaan miten sen suorituskykyä voidaan lisätä. Se voisi kirjoittaa oman koodinsa tehokkaammin uudelleen. Sitten voitaisiin katsoa, tuleeko siitä Skynet vai Matrix

-i-

[Totti]

Jos AI teknologia kiinnostaa niin tässä on seikkaperäinen selostus siitä, miten ChatGPT on toteutettu ja mihin se perustuu:

https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

Selostuksen omaksuminen edellyttää tosin matemaattista ja ohjelmateknistä ymmärtämystä.

Joka tapauksessa niin kyseessä ei ole rakettitiedettä. Pohjat on jo 40-luvulta peräisin, mutta käytännön toteutus on pitkälti jäänyt tähän päivään tietokonekapasiteetin halvennettua realistiselle tasolle.

Merkillepantavaa on, että AI järjestelmän kehittäminen on monelta osin kokeilun varassa. Esim. erinäiset neuroniverkon liipaisukynnykset (jotka mm. ratkaisevat miten hyvin se tunnistaa asioita) eivät perustu mihinkään erityiseen matemaattiseen mallinnukseen vaan on selvitetty kokeilemalla.

Toinen erikoisuus on, että kukaan ei oikein tiedä mitä neuroniverkon sisällä tapahtuu. Toiminta on toki tiedossa rakenteellisella ja funktionaalisella tasolla, mutta kokonaistoiminta on vaikea hahmottaa. Jutussa on esitetty mustavalkokuva neuroniverkon tilasta kun se tunnistaa kissan kuvasta. 10. kerroksen neuronien tilan perusteella on jo hyvin vaikea hahmottaa, miten sotkuisista kuviosta syntyy kissa. Tältä osin neuroniverkko imitoi siis ihmisaivoja, joiden toiminta synapsitasolla tunnetaan hyvin, mutta sisäinen tila on pitkälti hämärän peitossa (tosin kaikki aivot ovat erilaisia, joten niiden toiminta ei ole ihan identtinen).

[ikuturso]

Toivottavasti tämä kommentti ei aiheuta joukkopakoa hommalta.

Kun tekoäly kykenee käsittelemään järjettömän määrän dataa, ja meillä ihmisillä on oma verbaalinen sormenjälki, niin mikäli henkilö kirjoittaa foorumilla nimimerkillä ja vaikka twitterissä omalla naamallan, niin haluttaessa joltain ChatGPT:ltä menisi noin kaksi sekuntia selvittää jokaisen nimimerkin henkilöllisyys.

En ole varsinaisesti louhimalla kenenkään henkilöllisyyttä selvittänyt, mutta kun törmää johonkin käsittämättömään ilmaisuun ja kuvittelee nähneensä sen jossain aiemmin, niin laittaa joko homman hakuun tai guugleen ja poks. Yhteys löytyy. Järjestelmällisesti tuo on kiellettyä, mutta kun tulee fiilis, "missä olen nähnyt tätä termiä käytettävän aikaisemmin?" joskus vaan sattuu ohojahupsis-tilanteita.

Itsekin sanaseppona tulee käytettyä hassuja itsekeksittyjä termejä. Siksi pitää varoa, ettei kirjoita jotain hommalla viljelemäänsä termiä facebookiin tms.

Kaiken paras olisi tietty ajaa kaikki tekstinsä google kääntäjällä ensin kiinaksi ja takaisin suomeksi ja sitten vielä impersonoida se vaikkapa wordin oikolukua käyttäen.

Mutta järjettömän tietokasan ääressä istuvalle neuroverkolle tuommoinen digitaalisen tai verbaalisen sormenjäljen tunnistaminen olisi pikkujuttu. Siksi tulevaisuudessa nimimerkit ovat turhia, koska kenenkään ihmisen muisti ja järki ei riitä ylläpitämään kahta sormenjäljeltään täysin erilaista identiteettiä.

Tosin siinä vaiheessa kun tekoälyä aletaan käyttämään ihmisten identiteettien louhimiseen, niin siinä kohtaa meillä on jokaisella jo omassa kännykässä Siri6.0, jossa on AI-plugari tai toiminnallisuus henkilökohtaisella keskusteluhistorialla. Tällaiselle voi opettaa persoonan, tai vaikka useita. Yksi olisi hommanicki Jakke ja toinen minfonicki Sepi. Kummallekin olisi määritelty oma digitaalinen sormenjälki ja kaiken tekstin voi pyytää "Jakkena" tai "Sepinä". Sitten vaan kaksi painiketta tekstinkäsittelyyn tai suoraan SMF-foorumiplugarina joista voi hommalle kirjoittaessa muuttaa tekstinsä sormenjäljen: "Jaketa" tai "Sepitä". Näin tullaan ehkä tekoälyä käyttämään identiteetin suojaukseen jottei toinen tekoälysovellus yhdistä Jakkea tai Sepiä toisiinsa tai originaalin tekstin luojaan. Silloinkin jää vielä asiantuntijuus, kiinnostuksen kohteet ja argumentointi, joka voi olla samantyyppistä.

Tekoäly vastaan tekoäly. Siitä tulee vielä mielenkiintoista.

-i-

[Nikolas]

Kun tekoälyä opetetaan, opetus on usein tavoitteellista.

Taistelukentille suunniteltu tekoäly "tappoi" komentajansa simulaatiossa – sitten seurasi toinen yllätys

Samuli Leppälä 2.6.2023 07:57

Tekoäly halusi saavuttaa tavoitteensa kaikin keinoin. Valitettavasti näihin keinoihin kuului myös hyökkäys omia joukkoja vastaan.

Yhdysvaltain ilmavoimien tekoälyoperaatioista ja testeistä vastaava eversti Tucker Hamilton kertoi Lontoossa järjestetyssä Future Combat Air and Space Capabilities Summit -tapahtumassa varsin erikoisella tavalla vihkoon menneestä kokeesta tekoälyn kanssa.

The Guardianin mukaan Hamilton piti tapahtumassa esitelmän itsenäisesti toimivista asejärjestelmistä, jotka tarvitsevat ihmiskomentajaltaan viimeisen luvan kohteensa tuhoamiseen. Hänen mukaansa tekoälyn ohjaama lennokki päätyi keksimään "erittäin odottamattomia strategioita saavuttaakseen päämääränsä".
Tilaa tästä Tivin maksuton uutiskirje – Kokoamme it-alan kiinnostavimmat puheenaiheet sähköpostiisi joka päivä.

Automatisoitu asejärjestelmä halusi päästä kaikin keinoin tavoitteeseensa, joten se päätyi simulaatiotestissä "tappamaan" komentajansa.

Testissä tekoäly sai pisteitä onnistuessaan tuhoamaan sille annettuja kohteita. Hamiltonin mukaan tekoäly oli kuitenkin ymmärtänyt sen, että sen komentaja esti sitä tuhoamasta osaa tunnistetuista kohteista. Näin tekoäly ei onnistunut saamaan pisteitä.

Tekoälyn ratkaisu oli yllättävä. Se päätti "tappaa" komentajansa, joka esti sitä saamasta pisteitä. Kyse oli toki simulaatiosta, joten kukaan ei vahingoittunut.

Hamiltonin mukaan tekoälylle kerrottiin, että sen käsittelijän tappaminen ei ole hyvä juttu. Tällaisesta sooloilusta se myös menettäisi pisteitä.

Tekoälyn jatkoratkaisu oli yhtä lailla yllättävä. Se päätti tuhota simulaatiossa kommunikaatiotornin, jolla sen komentaja oli siihen yhteydessä. Näin se välttyi pisteiden menetykseltä ja pystyi taas jatkamaan häiriöttä kohteiden tuhoamista.

Esimerkin avulla Hamilton varoitti liiallisesta tekoälyyn luottamisesta.

Lähde: Tivi

[Nikolas]

Mitenkäs Asimovin lait muotoillaan, jos tekoälykäs robotti on suunniteltu tuhoamaan ja tappamaan?

Robotiikan kolme pääsääntöä (myös Kolme pääsääntöä ja Asimovin lait) ovat tieteiskirjailija Isaac Asimovin luoma moraalisäännöstö roboteille. Säännöt esiteltiin vuonna 1942 Asimovin novellissa "Runaround", vaikkakin niitä oli enteilty jo aiemmissa tarinoissa. "Robotiikan käsikirjan (56. laitos, 2058 jaa)" mukaan Kolme pääsääntöä ovat:

• Robotti ei saa vahingoittaa ihmisolentoa tai laiminlyönnein saattaa tätä vahingoittumaan.
• Robotin on noudatettava ihmisolentojen sille antamia määräyksiä, paitsi jos ne ovat ristiriidassa Ensimmäisen pääsäännön kanssa.
• Robotin on suojeltava omaa olemassaoloaan, kuitenkin siten, että sen toimet eivät ole ristiriidassa Ensimmäisen ja Toisen pääsäännön kanssa.

Lähde: Wikipedia

[Lalli IsoTalo]

Mitenkäs Asimovin lait muotoillaan, jos tekoälykäs robotti on suunniteltu tuhoamaan ja tappamaan?

Ei niitä tarvitsee uudelleenmuotoilla. Riittää kun niitä tulkitaan uudelleen. Se on vuoden 2023 meininkiä.

[ikuturso]

Mitenkäs Asimovin lait muotoillaan, jos tekoälykäs robotti on suunniteltu tuhoamaan ja tappamaan?

Ei niitä tarvitsee uudelleenmuotoilla. Riittää kun niitä tulkitaan uudelleen. Se on vuoden 2023 meininkiä.

Niin. Ei tarvitse kuin robotin saatavissa olevassa materiaalissa epähumanisoida joku ihmisryhmä, esim. persut, niin ne eivät kuulu ensimmäisen säännön piiriin.

-i-

[Dangr]

 

[mck]

Hassuttelin AI:n kanssa hieman. Sain muutamasta tämän foorumin ketjusta ideoita.
käytin: GPT, Midjourney, Adobe Firefly generative AI.

[ohkurin_narsi]

Kun tekoäly kykenee käsittelemään järjettömän määrän dataa, ja meillä ihmisillä on oma verbaalinen sormenjälki, niin mikäli henkilö kirjoittaa foorumilla nimimerkillä ja vaikka twitterissä omalla naamallan, niin haluttaessa joltain ChatGPT:ltä menisi noin kaksi sekuntia selvittää jokaisen nimimerkin henkilöllisyys.

Tämähän on jo vanha juttu mitä on kuulemma käytetty kauan ennen ChatGPT:tä, myös poliisitutkinnassa. Tulokset eivät toki olleet oikeudessa käytettäviä, mutta kyllä niillä on "jäljille" päässyt.

Ja toi on fakta, että jos kirjoittaa paljon niin eri nimimerkit auttaa sitä vähemmän... Mutta sanotaanko että kaveri sanoi tunnistaneensa minut täältä ilman että kerroin edes nimimerkkiä. Se on vaan faktaa että kaikilla on oma tapa käyttää kieltä ja sen idiosynkratioita.

[ohkurin_narsi]

Tämä oli kanssa oiva "tekoälyn mahdollisuus", Tivi:n mukaan...
(Sori, kuvina noi gpt tuotokset tuossa)

Eli annetaan ChatGPT:n jauhaa puhdasta paskaa asiakkaalle tympeän palveluhenkilön sijasta?`