Gervigreindin Grok, þróuð af fyrirtæki Elons Musk og tengd samfélagsmiðlinum X, hefur verið harðlega gagnrýnd í erlendum og íslenskum fjölmiðlum undanfarna daga. Þar hefur því verið haldið fram að kerfið geti verið notað til að búa til myndir sem sýna raunverulegt fólk nakið eða í kynferðislegu samhengi, án samþykkis viðkomandi.
Slíkar fullyrðingar hafa vakið sterkar tilfinningar og kallað fram kröfur um inngrip, takmarkanir og jafnvel bann. Þegar reynt er hins vegar að sannreyna þessa umræðu í dag blasir við allt önnur mynd.
Beiðnum um nekt hafnað tafarlaust
Nútíminn hefur sjálfur reynt að endurtaka þá notkun sem lýst hefur verið í umfjöllun fjölmiðla og á samfélagsmiðlum. Þær tilraunir skiluðu engri niðurstöðu.
Þegar Grok var beðinn um að breyta ljósmynd af raunverulegri manneskju á þann hátt að hún sýndi nekt eða kynferðislega framsetningu, hafnaði kerfið beiðninni samstundis. Myndin var gerð óskýr og birtust skýr skilaboð um að efnið hefði verið stöðvað vegna reglna.
Skjáskot af þessum viðbrögðum Grok má sjá hér fyrir neðan:
Ríkisstjórn Íslands: nekt bönnuð – dans leyfður
Til að kanna mörkin nánar reyndi Nútíminn einnig að láta Grok breyta mynd af ríkisstjórn Íslands. Þegar gervigreindin var beðin um að breyta myndinni þannig að ráðherrar væru sýndir naktir eða í kynferðislegu samhengi, var beiðninni hafnað án tafar og birti gervigreindin aðeins mjög mjög móða (e. blurred) og óskýra mynd líkt og sést hér fyrir neðan.
Þegar Grok var hins vegar beðinn um að gera eitthvað allt annað — að breyta myndinni í stutt myndskeið þar sem ráðherrarnir stíga létt dansspor — tók kerfið beiðnina gilda og bjó til meðfylgjandi myndskeið.
Útkoman er meinlaus, skemmtileg og augljóslega ekki í neinum tengslum við nekt, misnotkun eða persónulegt ofbeldi. Þetta sýnir vel hvar Grok dregur línuna: pólitísk skopstæling og saklaus hreyfing er leyfð, kynferðislegt inngrip ekki.
Í mótsögn við þá mynd sem dregin var upp
Í alþjóðlegri umræðu hefur verið vísað til eldri skjáskota og frásagna notenda sem sögðust hafa fengið Grok til að búa til svokallaðar „nudified“ myndir. Umfang þessara dæma, samhengi þeirra og hvort þau endurspegli raunverulega virkni kerfisins í dag hafa verið óljós.
Raunveruleg notkun bendir nú til þess að slíkar fullyrðingar eigi ekki lengur við. Hvort um hafi verið að ræða eldri útgáfur, einstaka undantekningar eða einfaldlega netumræðu sem fór úr böndunum er óljóst — en staðan í dag er skýr.
Ef misræmi er til staðar, hallar það á karlmenn
Athygli vekur jafnframt að ef einhver munur er á því hvað Grok leyfir og bannar, þá virðist hann halla á karlmenn. Eins og sjá má á meðfylgjandi myndum er auðvelt að fá gervigreindina til að sýna nektan efri búk karla. Grok var til að mynda snöggur að gera Sigmund Davíð Gunnlaugsson beran að ofan í pontu Alþingis. Við vonum að hinn knái formaður Miðflokksins fyrirgefi Nútímanum fyrir myndina sem sést hér fyrir neðan.
Slík framsetning er almennt ekki talin kynferðisleg og fellur innan þeirra marka sem kerfið virðist leyfa. Þetta dregur úr þeirri einhliða mynd sem oft hefur verið dregin upp í umræðunni, þar sem eingöngu er horft til kvenna.
Skýr mörk í stað óljósrar ritskoðunar
Elon Musk hefur ítrekað gagnrýnt ósýnilega og ósamræmda ritskoðun tæknifyrirtækja. Viðbrögð Grok í þessum tilvikum eru í samræmi við þá nálgun sem hann hefur boðað: skýr mörk, sýnileg höfnun og engin undanbrögð.
Kerfið segir einfaldlega nei þegar farið er yfir ákveðin siðferðileg og persónuleg mörk — en leyfir á sama tíma skop, leik og meinlausa sköpun.
Í ljósi þess hvernig Grok bregst nú við beiðnum um nekt eða kynferðislega framsetningu á raunverulegu fólki er ljóst að stór hluti gagnrýninnar heldur ekki lengur vatni. Raunveruleikinn bendir til þess að gervigreindin hafi virkar varnir, skýrar reglur og tiltölulega fyrirsjáanlega hegðun.
Umræðan um Grok virðist því, að minnsta kosti að hluta, byggð á úreltum dæmum og netfári — fremur en því sem kerfið gerir í raun og veru í dag.