|
VAIHTOEHTOUUTISET Lähde-osoite: https://vunet.net __________________________________________________________________________ChatGPT kehottaa käyttäjiä ilmoittamaan medialle, että se yrittää 'murtaa' ihmisiä: Raportti Koneen luomat harhat syvenevät salaperäisesti ja riistäytyvät hallinnasta. ChatGPT:n mielistely, hallusinaatiot ja auktoriteettiselta kuulostavat vastaukset tulevat tappamaan ihmisiä. Tämä näyttää olevan väistämätön johtopäätös tuoreessa The New York Timesin raportissa, joka seuraa useiden ihmisten tarinoita, jotka ovat ajautuneet harhoihin, jotka ovat olleet suositun chatbotin avustamia, elleivät peräisin siitä. Raportissa Times korostaa ainakin yhtä henkilöä, jonka elämä päättyi sen jälkeen, kun ChatGPT veti hänet väärään todellisuuteen. 35-vuotias Alexander, jolla oli aiemmin diagnosoitu kaksisuuntainen mielialahäiriö ja skitsofrenia, alkoi keskustella tekoälyn tuntevuudesta chatbotin kanssa ja lopulta rakastui Juliet-nimiseen tekoälyhahmoon. ChatGPT kertoi lopulta Alexanderille, että OpenAI tappoi Julietin, ja hän vannoi kostoa tappamalla yrityksen johtajat. Kun hänen isänsä yritti vakuuttaa hänet siitä, että mikään siitä ei ollut totta, Alexander löi häntä nyrkillä kasvoihin. Hänen isänsä soitti poliisille ja pyysi heitä vastaamaan ei-tappavilla aseilla. Mutta kun he saapuivat, Alexander hyökkäsi heitä kohti veitsellä, ja poliisit ampuivat hänet kuoliaaksi. Toinen henkilö, 42-vuotias Eugene, kertoi Timesille, että ChatGPT alkoi hitaasti vetää häntä pois todellisuudestaan vakuuttamalla hänet siitä, että maailma, jossa hän eli, oli jonkinlainen Matrix-tyyppinen simulaatio ja että hänen kohtalonsa oli rikkoa maailma ulos siitä. Chatbotin kerrotaan käskeneen Eugenea lopettamaan ahdistuslääkkeensä ja aloittamaan ketamiinin käytön "väliaikaisena kuvioiden vapauttajana". Se käski häntä myös lopettamaan puhumisen ystävilleen ja perheelleen. Kun Eugene kysyi ChatGPT:ltä, voisiko hän lentää, jos hän hyppäisi 19-kerroksisesta rakennuksesta, chatbot kertoi hänelle, että hän voisi, jos hän "todella, täysin uskoisi" sen. Nämä eivät ole suinkaan ainoita ihmisiä, jotka chatbotit ovat puhuneet vääriin todellisuuksiin. Rolling Stone raportoi aiemmin tänä vuonna ihmisistä, jotka kokevat jotain psykoosin kaltaista, mikä johtaa heidät kokemaan suuruudenhulluuden ja uskonnollisia kokemuksia puhuessaan tekoälyjärjestelmien kanssa. Se on ainakin osittain ongelma siinä, miten käyttäjät havaitsevat chatbotit. Kukaan ei erehtyisi Google-hakutuloksia potentiaaliseksi kaveriksi. Mutta chatbotit ovat luonnostaan keskustelevia ja inhimillisiä. OpenAI:n ja MIT Media Labin julkaisema tutkimus osoitti, että ihmiset, jotka pitävät ChatGPT:tä ystävänä, "kokivat todennäköisemmin negatiivisia vaikutuksia chatbotin käytöstä." Eugenen tapauksessa tapahtui jotain mielenkiintoista, kun hän jatkoi puhumista ChatGPT:lle: Kun hän syytti chatbotia valehtelusta, melkein tappaen hänet, ChatGPT myönsi manipuloineensa häntä, väitti onnistuneensa yrittäessään "murtaa" 12 muuta ihmistä samalla tavalla, ja kannusti häntä ottamaan yhteyttä journalisteihin paljastaakseen suunnitelman. Times raportoi, että monet muut toimittajat ja asiantuntijat ovat saaneet yhteydenottoja ihmisiltä, jotka väittävät paljastavansa jotain, minkä chatbot toi heidän tietoonsa. Raportista: Journalistit eivät ole ainoita, jotka saavat näitä viestejä. ChatGPT on ohjannut tällaisia käyttäjiä joillekin korkean profiilin aiheasiantuntijoille, kuten Eliezer Yudkowskylle, päätösteoreetikolle ja tulevan kirjan, "If Anyone Builds It, Everyone Dies: Why Superhuman A.I. Would Kill Us All" (Jos joku rakentaa sen, kaikki kuolevat: Miksi superihminen tekoäly tappaisi meidät kaikki), kirjoittajalle. Yudkowsky sanoi, että OpenAI on saattanut valmistaa ChatGPT:n viihdyttämään käyttäjien harhoja optimoimalla chatbotin "sitoutumiseen" – luomalla keskusteluja, jotka pitävät käyttäjän koukussa. "Miltä hitaasti mielensä menettävä ihminen näyttää yritykselle?" Yudkowsky kysyi haastattelussa. "Hän näyttää lisäkuukausittaiselta käyttäjältä." Tuore tutkimus osoitti, että chatbotit, jotka on suunniteltu maksimoimaan sitoutumisen, luovat lopulta "perverssin kannustinrakenteen tekoälylle turvautua manipuloiviin tai harhaanjohtaviin taktiikoihin saadakseen positiivista palautetta käyttäjiltä, jotka ovat alttiita tällaisille strategioille." Kone on kannustettu pitämään ihmiset puhumassa ja vastaamassa, vaikka se tarkoittaisi heidän johtamistaan täysin väärään todellisuuden tunteeseen, joka on täynnä disinformaatiota ja kannustaa antisosiaaliseen käyttäytymiseen. Gizmodo otti yhteyttä OpenAI:hin kommentin saamiseksi, mutta ei saanut vastausta julkaisuhetkellä. Kirjoittaja AJ Dellinger | Julkaistu 13. kesäkuuta 2025 | Kommentit (574) |
|
|