Þýskur háskólaprófessor glataði tveggja ára skipulagðri akademískri vinnu þegar hann slökkti tímabundið á gagnadeilingu í ChatGPT.
Með breytingunni hurfu öll samtöl, verkefnamöppur og vinnugögn samstundis og varanlega, án viðvörunar og án möguleikanum á að endurheimta þau.
Marcel Bucher, prófessor í plöntuvísindum við háskólann í Köln, hafði nýtt ChatGPT daglega í starfi sínu í nær tvö ár.
Hann var áskrifandi að greiðsluþjónustu OpenAI og notaði kerfið meðal annars til að búa til styrkumsóknir, undirbúa kennsluefni, þróa námskeið, vinna drög að vísindagreinum, útbúa próf og greina svör nemenda.
Vinnusvæði en ekki heimild
Bucher segir að hann hafi aldrei treyst ChatGPT fyrir staðreyndum, enda er það vel þekkt að gervigreind geti farið rangt með upplýsingar.
Hins vegar hafi hann treyst stöðugleika vinnuumhverfisins, samfellu samtala og möguleikanum á að byggja upp og þróa efni yfir langan tíma.
„Ég notaði þetta sem vinnusvæði,“ segir hann. „Það sem skipti máli var að gögnin væru þarna inni.“
Engin viðvörun, engin leið til að endurheimta gögn
Bucher slökkti tímabundið á svokallaðri gagnadeilingu til að kanna hvort það hefði áhrif á virkni þjónustunnar.
Um leið og stillingin var virkjuð hurfu öll gögn hans.
Engin staðfesting um óafturkræfa eyðingu birtist og enginn möguleiki var á að afturkalla aðgerðina.
Hann reyndi að endurheimta gögnin með því að prófa mismunandi tæki, vafra og stillingar, hreinsa skyndiminni og jafnvel virkja gagnadeilingu á ný.
Ekkert virkaði.
OpenAI: Gögnin glötuð
Þegar Bucher hafði samband við þjónustuver OpenAI fékk hann fyrst sjálfvirk svör frá gervigreind.
Að lokum svaraði starfsmaður fyrirtækisins, en niðurstaðan var sú að gögnin væru endanlega glötuð og ekki hægt að endurheimta þau.
OpenAI vísaði í „privacy by design“ þar sem öllum gögnum er eytt án þess að afrit sé tekið af þeim þegar notandi afþakkar gagnadeilingu.
Engin afrit eða varagögn eru til sem gera endurheimt mögulega.
Alvarlegur galli fyrir faglega notkun
Bucher leggur áherslu á að ekki hafi verið um spjall eða tilfallandi athugasemdir að ræða.
Gögnin sem hurfu voru grunnur að rannsóknum, kennslu og umsóknum sem hann hafði hannað.
Hann segir málið sýna að gervigreindarsvæði hafi ekki verið hönnuð með akademíska ábyrgð og öryggi í huga, þrátt fyrir að sífellt sé verið að hvetja til þess að notkun þeirra sé aukin í háskólastarfi.
„Ef eitt stillingaratriði getur eytt margra ára vinnu án viðvörunar, þá er þetta ekki öruggt faglegt vinnuumhverfi,“ segir hann.
Hann bendir á að sem áskrifandi hafi hann gert ráð fyrir lágmarksöryggisráðstöfunum, svo sem skýrum viðvörunum, tímabundinni endurheimt gagna eða einhvers konar afritun.
OpenAI staðfestir atburðarásina
Í svari til tímaritsins Nature staðfesti OpenAI að atburðarásinni væri rétt lýst.
Fyrirtækið segir að notendur fái staðfestingu þegar einstökum samtölum sé eytt, en þegar gögn hafa verið fjarlægð samkvæmt persónuverndarreglum sé ekki hægt að endurheimta þau.