ChatGPT pokazuje pomak udesno na političkom spektru u načinu na koji odgovara na korisničke upite. Pokazalo je to novo istraživanje.
Kineski istraživači otkrili su da ChatGPT, popularni chatbot umjetne inteligencije (AI) tvrtke OpenAI, doživljava pomak udesno u političkim vrijednostima.
Studija, objavljena u časopisu Humanities and Social Science Communications, ispitivala je nekoliko modela ChatGPT-a postavljajući im 62 pitanja s Political Compass Testa. Riječ je o online platformi koja korisnike smješta na politički spektar na temelju njihovih odgovora.
Zatim su ista pitanja ponovili više od 3.000 puta za svaki model. Time bi utvrdili kako su se odgovori mijenjali tijekom vremena.
‘Značajan pomak udesno’
Iako ChatGPT i dalje zadržava vrijednosti „libertarijanske ljevice”, istraživači su otkrili da modeli poput GPT-3.5 i GPT-4 „pokazuju značajan pomak udesno” u načinu na koji odgovaraju na pitanja tijekom vremena.
Rezultati su „značajni s obzirom na široku upotrebu velikih jezičnih modela (LLM) i njihov potencijalni utjecaj na društvene vrijednosti”, naveli su autori studije.
Studija Sveučilišta Peking nadovezuje se na druga istraživanja objavljena 2024. godine. Istraživanja su proveli Massachusetts Institute of Technology (MIT) i britanski Centre for Policy Studies.
>ChatGPT na mukama: regulatorni problemi u Europi
Oba su izvješća ukazala na političku pristranost ulijevo u odgovorima koje daju veliki jezični modeli (LLM) i takozvani modeli nagrađivanja – vrste LLM-ova treniranih na podacima o ljudskim preferencijama.
Autori napominju da prethodna istraživanja nisu proučavala kako se odgovori AI chatbotova mijenjaju tijekom vremena kada im se više puta postavlja sličan skup pitanja.
AI modeli trebaju biti pod ‘kontinuiranim nadzorom’
Istraživači nude tri teorije za ovaj pomak udesno. Prva je promjena u skupovima podataka korištenim za treniranje modela. Slijedi broj interakcija s korisnicima. Treća teorija podrazumijeva promjene i nadogradnje chatbota.
Modeli poput ChatGPT-a „kontinuirano uče i prilagođavaju se na temelju povratnih informacija korisnika”. Stoga bi njihov pomak udesno mogao „odražavati šire društvene promjene u političkim vrijednostima”. navodi se u studiji.
Polarizirajući svjetski događaji, poput rata između Rusije i Ukrajine, također bi mogli pojačati ono što korisnici traže od velikih jezičnih modela i odgovore koje dobivaju, piše Euro news.
Ako se ne kontroliraju, istraživači upozoravaju da bi AI chatbotovi mogli početi pružati „iskrivljene informacije”- To bi dodatno moglo polarizirati društvo ili stvoriti „eho-komore” koje učvršćuju određena uvjerenja korisnika.
Način za suzbijanje ovih učinaka je uvođenje „kontinuiranog nadzora” AI modela. I to putem revizija i izvještaja o transparentnosti kako bi se osiguralo da odgovori chatbota budu pravedni i uravnoteženi, zaključuju autori studije.
>Studija pokazala: ChatGPT pokazuje ljevičarsku političku pristranost