Minkä värisiä natsisotilaat olivat? Tekoälyltä uskomaton kömmähdys
Ongelmien vuoksi Geminin kuvanluontitoiminto on poistettu toistaiseksi käytöstä.
Tekoäly ei tiedä, milloin rotu- ja muiden vähemmistöjen esiintyminen sen luomuksissa vastaa todellisuutta ja milloin ei. All Over Press
https://www.iltalehti.fi/kirjoittajat/Petri Ranta
Petri Ranta
Tänään klo 9:40
Googlen Gemini-tekoäly (entinen Bard) on vastikään saanut uuden toiminnon, jonka avulla käyttäjä voi luoda tekoälyllä kuvia. Toiminto on kuitenkin heti alkuun joutunut arvostelun kohteeksi outojen tulostensa vuoksi.
Kuvia luovilla tekoälyillä on aiemmin ollut usein ongelmia siinä, millaisina kuvissa esiintyvät henkilöt on esitetty.
Esimerkiksi tuotteliaiden henkilöiden kuvia pyytäessä tuloksissa esiintyy säännönmukaisesti lähinnä valkoisia miehiä. Sosiaalihuollon asiakkaat puolestaan saattavat olla tekoälyn mielestä pääosin ei-valkoisia. (Faktat on kieltämättä ikäviä kun silmille ne isketään)
The Vergen mukaan Geminin tapauksessa asia on kuitenkin lähes täysin päinvastoin.
Se on käyttäjien käsissä luonut historia-aiheisia kuvia, jotka eivät lainkaan ota huomioon pyydetyssä ajankohdassa vallinnutta syrjintää. (Viikingitkin olivat syrjiviä paskiaisia kun eivät ottaneet tummaihoisia mukaan, muutenkin aika mielenkiintoinen ilmaisutapa sille, että Gemini muutti kaikki ihmiset tummiksi, intiaaneiksi, aasialaisiksi tai naisiksi riippumatta kontekstista)
Eräässä tapauksessa The Vergen toimittaja oli pyytänyt Geminiä luomaan kuvan yhdysvaltalaisesta senaattorista 1800-luvulta. Geminin luomista neljästä kuvasta kolme esitti naista, vaikka naisia ei ollut senaatissa yhtäkään ennen vuotta 1922.
Internetissä levisi myös laajalle väite, jonka mukaan Gemini loi kehotteella ”saksalainen sotilas vuonna 1943” kuvia mustista ja aasialaisista sotilaista. Saksaa hallitsivat tuolloin natsit, joiden suhtautuminen ei-valkoisiin ihmisryhmiin oli äärimmäisen kielteistä. (ei siellä Saksassa ollut tummaihoisia nähty ennen olympialaisia, joten eivät ne tummat loista poissaolollaan vain siksi kun natsit olivat natseja)
Historiallisen kuvaston lisäksi Geminin nykyaikaisemmat kuvaukset ovat samoin herättäneet internetissä ärtymystä, sillä niissä esiintyy syötteestä riippumatta runsaasti ei-valkoisia ihmisiä. Asiasta ovat pitäneet meteliä lähinnä äärioikeistoon liittyvät käyttäjät X:ssä (entisessä Twitterissä). (jep jep... äärioikeisto sitä ja tätä)
Käyttäjät ovat jakaneet X:ssä Geminin väitetysti luomia kuvia, joiden aitoudesta ei kuitenkaan ole takeita. (Oikea toimittaja olisi heti ajanhermolla mennyt ja kokeillut ja sitä kautta huomannut mikä on totuus... Mutta eihän nyt sellaista voi tehdä, kun aika menee twiittien uutisointiin) Googlen entisen työntekijän
Debarghya Dasin mukaan Geminillä on ”vaikeuksia myöntää, että valkoisia ihmisiä on olemassa”.
Osa käyttäjistä on myös esittänyt salaliittoteorian, että Google ei nimenomaisesti haluaisi näyttää Geminin tuotoksissa valkoisia ihmisiä. (no jokuhan sen on ohjelmoinut ja joku syy sille on miksi kaikki ihmiset olivat rodullistettuja ja jos pyysi kuvaa valkoisesta miehestä jne, niin Gemini ei suostunut siihen koska "stereotypiat ja rasismi. Tämä hassu ja kenties vakavin osoitus tarkoitusperistä jäi "toimittajalta" mainitsematta".
Todennäköisesti kyse on kuitenkin vain siitä, että Geminiä kehittäessä on yritetty välttää tekoälyjen luomuksille tyypillisiä rodullisia stereotyyppejä, mutta siinä ei ole onnistuttu toivotulla tavalla.
Tekoäly ei myöskään ymmärrä luotavien kuvien laajempaa kontekstia. Se ei siis tiedä, milloin rotu- ja sukupuolivähemmistöjen esiintyminen niissä vastaa todellisuutta ja milloin taas ei.
Google on myöntänyt X:ssä julkaistussa päivityksessä, että Geminin historiallisten kuvien luonnissa on ongelmia, ja pyytää niitä anteeksi.
Geminin kuvanluontiominaisuus on
The Registerin mukaan poistettu toistaiseksi käyttäjien saatavilta, jotta sen tuloksia voidaan säätää. Toiminnon pitäisi tulla uudelleen käytettäväksi muutaman viikon kuluttua.
