|
VAIHTOEHTOUUTISET L00e4hde-osoite: https://vunet.net __________________________________________________________________________Tekoälyjen vaaratilanteille avattiin yhteinen hälytyskanava – uusi palvelu kerää ilmoituksia tietovuodoista ja haitallisista vastauksista Tekoälyn käyttäjät ja tutkijat voivat nyt ilmoittaa vaarallisesti tai odottamattomasti toimivista tekoälyjärjestelmistä FLARE-AI-palveluun. Avoimeen lähdekoodiin perustuva järjestelmä pyrkii kokoamaan hajallaan olevat ilmoitukset yhteen ja välittämään tiedot tekoäly-yhtiöille sekä teknisiä haavoittuvuuksia seuraaville organisaatioille. WIREDin mukaan 1. heinäkuuta julkaistu Flaw Reporting for AI eli FLARE-AI muistuttaa toimintaperiaatteeltaan palveluhäiriöitä seuraavaa Downdetectoria. Käyttäjä voi ilmoittaa esimerkiksi haittaohjelmakoodia tai vaarallisia ohjeita tuottavasta chatbotista, henkilötietojen paljastumisesta, harhaluuloja vahvistavasta keskustelusta, syrjivistä vastauksista tai väärän tiedon levittämisestä. Järjestelmän avoin lähdekoodi mahdollistaa ilmoitusten tarkistamisen ja niiden välittämisen mallien kehittäjille sekä esimerkiksi teknisiä ongelmia luokittelevalle MITRE-järjestölle. Hanketta kehitti 49 tekoälyasiantuntijaa 32 organisaatiosta. Kehittäjien mukaan tekoälyjärjestelmien ongelmista ilmoittamiseen ei ole aiemmin ollut yhtenäistä ja vastuullista menettelyä, vaikka tekoälymallit ovat muuttumassa yhä itsenäisemmiksi. Tavallisten ohjelmistovirheiden lisäksi tekoäly voi aiheuttaa uudenlaisia psykologisia, yhteiskunnallisia ja tietoturvaan liittyviä haittoja, joiden vakavuudesta eri yrityksillä voi olla keskenään hyvin erilaiset arviointiperusteet. Tarvetta yhteiselle ilmoitusjärjestelmälle korostavat viimeaikaiset tietoturvatapaukset. WIRED kertoo, että tekoälyä hyödyntävien verkkoselainten turvarajoituksia on onnistuttu kiertämään muotoilemalla haitallinen tehtävä harmittoman pelin kaltaiseksi. Aiemmin Claude-tekoälyä oli puolestaan mahdollista huijata paljastamaan henkilökohtaisia tietoja erityisesti valmistettujen kuvien avulla. Kyseiset haavoittuvuudet on sittemmin korjattu, mutta tapaukset osoittavat, kuinka vaikeasti ennakoitavia tekoälyjärjestelmien toimintatavat voivat olla. Yhdysvaltain kongressissa on samanaikaisesti esitetty lakia, joka velvoittaisi National Institute of Standards and Technologyn laatimaan tekoälyvirheiden ilmoittamista koskevat standardit ja ylläpitämään keskitettyä tapaustietokantaa. FLARE-AI voisi siten muodostua varhaiseksi malliksi tekoälyalan turvallisuusjärjestelmälle, jossa käyttäjät, tutkijat, viranomaiset ja teknologiayhtiöt jakavat tietoa ongelmista ennen kuin yksittäinen tekoälyvirhe ehtii aiheuttaa laajempaa vahinkoa. Lähteet: WIRED, FLARE-AI-tutkimusryhmä ja WIREDin mainitsemat yhdysvaltalaiset lainsäädäntöasiakirjat. Hakusanat: FLARE-AI, tekoälyn turvallisuus, chatbotin vaarallinen toiminta, tekoälyvirheiden ilmoittaminen, AI flaw reporting, tietovuodot, tekoälyagentit. Internet-hakuohje: Hae sanoilla site.com FLARE-AI, AI flaw reporting system ja centralized AI incident database sekä tarkista uutisten julkaisuajat ja alkuperäiset tutkimusasiakirjat. |
|