Evropska komisija, zajedno sa zemljama i dionicima predstavljenim u ERA Forumu, prepoznala je ogroman potencijal generativnih AI alata, poput ChatGPT-a, u istraživačkom procesu. Kako bi se osigurala odgovorna primjena ovih tehnologija, Komisija je razvila niz preporuka namijenjenih istraživačkoj zajednici. Ove smjernice imaju za cilj pomoći istraživačima da koriste generativne AI alate na etički i odgovoran način, uz poštivanje zakona, očuvanje integriteta naučnog rada i zaštitu privatnosti.
Ključne preporuke za istraživače
- Zadržavanje odgovornosti za naučni rad
- Istraživači su krajnje odgovorni za integritet sadržaja generisanog uz pomoć AI alata.
- Potrebno je zadržati kritički pristup prema izlazu AI-a, svjesni njegovih ograničenja, poput pristranosti, halucinacija (generisanje netačnih ili besmislenih informacija) i mogućih netačnosti.
- AI alati nisu autori niti koautori, jer autorstvo podrazumijeva agenciju i odgovornost koja pripada isključivo ljudskim istraživačima.
- Ne smije se koristiti fabricirani ili lažni materijal kreiran od strane AI-a u naučnom procesu, posebno kada je riječ o manipulaciji istraživačkim podacima.
- Transparentna upotreba generativnih AI alata
- Istraživači bi trebali jasno navesti koji su AI alati korišteni u istraživačkom procesu, uključujući ime, verziju i način na koji je alat uticao na istraživanje.
- Važno je uzeti u obzir stohastičku prirodu AI alata (sposobnost generisanja različitih rezultata na isti unos) i objasniti ograničenja alata, kao i moguće pristranosti u generisanom sadržaju.
- Pažnja prema privatnosti, povjerljivosti i intelektualnim pravima
- Istraživači trebaju biti svjesni da podaci uneseni u AI sisteme mogu biti korišteni za obuku budućih modela, te moraju zaštititi neobjavljene ili osjetljive podatke, kao i tuđe lične podatke.
- EU pravila o zaštiti podataka moraju se striktno poštovati, a svaki unos ličnih podataka mora biti transparentan i uz saglasnost nositelja podataka.
- Poštivanje zakona i regulativa
- Generativni AI alati mogu generisati sadržaj koji uključuje tuđe intelektualno vlasništvo ili lične podatke. Istraživači trebaju izbjegavati plagijat i pravilno citirati radove drugih autora. Takođe, važno je biti pažljiv sa sadržajem koji može sadržavati lične podatke i postupati u skladu sa EU pravilima o zaštiti privatnosti.
- Kontinuirano učenje
- AI alati se brzo razvijaju, pa istraživači trebaju biti u toku s najboljim praksama i redovno dijeliti nova saznanja sa kolegama.
- Izbjegavanje AI alata u osjetljivim aktivnostima
- Generativni AI alati ne bi trebali biti korišteni za osjetljive zadatke kao što su recenzije i evaluacije, kako bi se izbjegle nepravedne procjene ili izlaganje neobjavljenih radova.
Primjenom ovih smjernica, istraživači mogu koristiti generativne AI alate na odgovoran i etički način, osiguravajući visok kvalitet naučnih rezultata. Evropska komisija će nastaviti ažurirati preporuke u skladu s brzim tehnološkim razvojem, a istraživačka zajednica je pozvana da doprinese svojim idejama kako bi unaprijedila buduće verzije smjernica.
