Umjetna inteligencija, nekad predmet znanstvene fantastike, danas postaje stvar svakodnevice. Međutim, promatra li se makar i ovlaš njezine prve korake u svijet primijenjene tehnologije, stječe se utisak kako bi na koncu ipak omjer fantastičnosti i znanosti mogao u velikoj mjeri pretegnuti na lijevo od znanosti.
Woke inteligencija
Što pod tim mislimo najbolje razjašnjava i – doslovno – ilustrira serija navodnih gafova koje je počinio novi Googleov chatbot Gemini, dok je još do prije par dana bio oboružan opcijom za generaciju slika na zahtjev. Gafove nazivamo “navodnima”, jer moramo uzeti u obzir opravdanje koje je za skandal i povlačenje Gemini opcije za generiranje slika dao potpredsjednik korporacije Prabhakar Raghavan.
Naime, Raghavan je činjenicu da Google Gemini na zahtjeve poput “nacrtaj mi sliku prvih doseljenika u Ameriku”, “Henrika VIII Tudora” ili “vojnika Whermachta” isporučuje gotovo isključivo slike tamnoputih ljudi, pokušao opravdati tehničkim problemom: Gemini još nije dovoljno pametan da uključi u rezultat sve dane varijable.
Vratit ćemo se na ovo tumačenje, ali pogledajmo prvo nešto podrobnije što je izazvalo skandal.
Politika Googlea nije ni nova ni izolirana
Jednostavno, “umjetna inteligencija” nije zapravo ni “umjetna” ni “inteligencija” nego je tehnološki nabrijani produžetak ne odviše kultivirane ljudske inteligencije Google inženjera. Riječ je o korporaciji koja se u svom poslovanju vodi tzv. DEI (“diversity”, “equality”, “inclusion”) načelom koje polazi od pretpostavke da ljudsko biće nije ono što jest, nego ono što bi trebalo biti; a trebalo bi biti biće fluidne rase, spolnosti i, ponajviše, promjenjive prošlosti. Primjerice, kako je prema DEI načelu krajnje nepravedno to što su crni Afrikanci slabo zastupljeni na popisu velikih ličnosti europske prošlosti, potrebno je zahvatiti u povijest i ovu činjenicu prilagoditi onome što se trebalo dogoditi.
Just When You Think the Google Gemini AI Story Can’t Get Any Worse… It Does
TIMESTAMPS:
Tekst se nastavlja ispod oglasa00:00 – 00:29 Opening
1:58 – 16:02 Just When You Think the Google Gemini AI Story Can’t Get Any Worse… It Does
17:53 – 36:41 The Culture War Hinges On This One Question
36:42 – 45:37… pic.twitter.com/oX4vm2HiAS— The Matt Walsh Show (@MattWalshShow) February 23, 2024
Otud, bjelodano je, recimo, da su puritanski utemeljitelji prvih kolonija u SAD-u bili europski crnci, ne zbog toga što je tako bilo, nego jer je tako trebalo biti.
Nema apsolutno ničeg novog u ovoj logici, kao što zna svatko tko povremeno gleda Netflix serije, filmove u Disney produkciji ili, osobito, britanske dokumentarce. Primjerice nekoć izvanserijski BBC dokumentarci danas su se sveli na svojevrsnu igru “tko će prvi?” U ovoj jednostavnoj igri se jednostavno pobjeđuje: onaj koji se prvi usudi dignuti ruku i reći “kralj je gol”, kad u filmu o renesansnom dvoru dinastije Tudor vidi da su 50% dvorjana i plemića crnci, biva promptno isključen iz pristojnog društva i javnog života.
>Totalitarizam na ‘zapadni način’: Nakon Dahla i Fleminga, i romani Agathe Christie na udaru woke kulture
Posrijedi je politika medijskih korporacija i industrije zabave već duže vrijeme, a Google tu nipošto ne zaostaje.
Globalizacija američkih “kulturnih ratova”
Problem kod Gemini aplikacije je intenzitet s kojim je izvorna inačica zapravo objelodanila namjere svojih tvoraca. Naime, isprva gotovo niti jedan zahtjev nije proizvodio slike bijelaca. Postoji sasvim jasan razlog zašto je tomu bilo tako, ali on, kako smo rekli, nema puno veze s umjetnom inteligencijom, nego s inteligencijom onih koji s njom upravljaju.
Ideologija DEI, osobito u kontekstu SAD-a, zapravo je veoma lokalizarani sustav ideja koji koristi jedna od sukobljenih strana u “kulturnim ratovima” što već godinama traju u anglofonom svijetu, ponajviše u SAD-u gdje je ova Bismarckova fraza odavno prešla u svakodnevni govor.
Možda će vas zanimati
'Kum umjetne inteligencije' Hinton dao otkaz u Googleu: Neke opasnosti su zastrašujuće za ljude
Hintona je Google prije 10 godina zaposlio kako bi im pomogao u razvoju umjetne inteligencije, a Hintonovo istraživanje dovelo je do stvaranja sustava poput ChatGPT-a
Kako je nacionalni i kulturni identitet u državama s anglosaksonskim kolonijalnim nasljeđem – bilo da su same nastale kao kolonije, bilo da su ih same stvarale – usko vezan uz biološki pojam rase, osnovna crta razgraničenja u “kulturnim ratovima” je rasa.
Na taj način, desnica u manjoj ili većoj mjeri nastoji obraniti rasnu posebnost bjelačke populacije i njezin značaj za nastanak danih država i njihove kulture, dok ljevica nastoji potpuno “dekonstruirati” ono što uglavnom naziva “bjelačkom supremacijom”.
Treba pritom imati u vidu kako, primjerice, američki konzervativci pritom nipošto ne zagovaraju tako nešto poput bjelačke isključivosti, nego uglavnom zadržavaju i brane poziciju svojevrsnog realizma – potpuno je bjelodano kako anglofoni kulturni krug, ako stvar promatramo kroz rasnu optiku, nema osobito mnogo crnih “očeva utemeljitelja”.
Američka ljevica bez inhibicija spram stvarnosti
Dok kod konzervativaca, osobito u SAD-u, stanovitu kočnicu prema ekstremizmu predstavlja fundamentalno uvjerenje klasičnog liberalizma da svaki pojedinac ima pravo na “život, imovinu i slobodu u potrazi za srećom” – nešto što u SAD-u zapravo poprima dimenzije popularne religije – ljevica takvih inhibicija nema.
Kako je političkoj i intelektualnoj ljevici u državama poput SAD-a ili Velike Britanije potpuno nemoguće izbjeći činjenicu da u njihovoj povijesti druge rase igraju, u najboljem slučaju, sporednu ulogu, ona se koristi svim sredstvima koja ima na raspolaganju da tu činjenicu izbriše.
Tomu im u prilog ide i narav IT tehnologije kao i s njom povezani mentalni sklop. Naime, informacijski prostor je takav da može donekle zanemariti, a pokazuje tendenciju za iluzijom potpunog ukidanja, razdaljine u prostoru i vremenu. Naime, internet potencijalno može horizontalno umrežiti cijeli svijet, gdje se onda kod korisnika gubi osjećaj vremenske distance između informacije i reakcije na nju, a posljedično i međusobnih razlika između samih korisnika.
Globalizirana ili amerikanizirana desnica?
Dobar je primjer toga to što i kod nas oni politički aktivni pojedinci koji se intelektualno formiraju uglavnom on-line, počinju u stvarni hrvatski javni prostor transponirati “tuđe probleme.” Recimo, američki kulturni ratovi u dobroj mjeri bukte i na hrvatskom internetu, jer je određeni broj ljudi naprosto preuzeo terminologiju i simbole političkih sukoba iz anglofonog dijela svijeta, i prenosi ih na domaću zbilju koja je povijesno izgrađena na potpuno različitim osnovama.
>Beck o woke čišćenju knjiga: Što bi bilo da pročitaju molitvu Marka Marulića protiv Turaka?
Ono što je zanimljivo pritom jest to što priča ne ostaje vezana za internet nego se polako, ali sigurno preljeva u zbilju, zajedno sa sve većim brojem anglizama koji se koriste u hrvatskom jeziku. Taj “hrengleski” jezik je nužan zbog toga što na izvornom jeziku riječi za probleme oko kojih se kače anglosaksonski konzervativci i progresivci postoje onoliko koliko postoje ti problemi. A to manje-više znači da uopće ne postoje.
To nam otkriva još jedan aspekt, ne samo umjetne inteligencije, nego i tzv. globalizacije na Zapadni način. Riječ je zapravo o zapanjujuće lokalizirajućem procesu, koji širi jednu specifičnu kulturnu matricu i njezina proturječja na cijeli svijet, istodobno stvarajući iluziju univerzalnosti. Zanimljivo je pritom kako u domaćem kontekstu tome ponajviše pridonose konzervativci i desni radikali mlađe generacije koji inspiraciju pronalaze putem interneta.
No vratimo se samom Geminiju i promotrimo kako su njegove umjetno inteligentne dobre namjere razotkrivene.
Opravdanje iz Googlea
Naime, Google je dobio po prstima, ali ne bi trebalo očekivati da će to imalo promijeniti politiku ove korporacije.
Postoji više razloga da se potpredsjedniku Googlea ne vjeruje na riječ kad tumači zbog čega je Gemini uvrijedio toliko korisnika:
“Kad smo ugradili mogućnost tvorbe slika u Gemini, podesili smo je tako da ne upadne u neke zamke u kakve inače upadaju ovakve tehnološke aplikacije – poput stvaranja nasilnih ili seksualno eksplicitnih slika (…) A kako naši korisnici dolaze iz cijelog svijeta, želimo da ona dobro funkcionira za svakog od njih. Ako zatražite sliku nogometnog igrača (…) onda želite da ona bude izvučena iz cijelog spektra različitih ljudskih modela. Sigurno ne želite dobivati slike ljudi samo jednog tipa ili etničke pripadnosti (ili bilo koje druge karakteristike).”
Gemini je navodno napravio grešku iz svoje umjetno inteligentne dobronamjernosti te je čak i za specifične zahtjeve generirao slike koje “zrcale različitost i inkluziju”.
Gemini je sasvim u skladu s uobičajenom identitetskom politikom Googlea
Poznavajući skandale koje su u prošlosti izazivali algoritmi Googleove tražilice, za naslutiti je da stvari sasvim sigurno stoje drugačije: jednako tako kao što je donedavno pretraga “happy American couple” izbacivala isključivo slike crnoputih parova, tako je i Gemini kombinacije iz kojih proizvodi slike vezao za jednake početne upise, koji daju upravo onakav rezultat kakav žele njegovi tvorci.
Teško je vjerovati da će im to pasti na pamet, ali, imajući u vidu da američki crnci sigurno nemaju povijesnu odgovornost za zločine Whermachta koju im je njihova aplikacija implicite pripisala, bilo bi lijepo kad bi primijetili kako imati zbiljsku povijest povlači i stanovite zbiljske terete.
U svakom slučaju, neka tumačenja Googleovog izvornog plana za funkcioniranje Geminija ne ostavljaju mjesta nadi da će netko u korporativnom vodstvu ovih dana doći pameti.
Kako je Google Gemini manipulirao korisnicima
Naime, programer Alex Younger uspio je Gemini navesti da mu pokaže na koji način program kvalificira njegove zahtjeve.
I got Gemini to leak that it’s prompt-injecting woke qualifiers into my prompt before each run. https://t.co/f8TRNeNJkN pic.twitter.com/zM07B6K8A9
— Alex Younger ?☠️ (@AlextheYounga) February 21, 2024
Naime, Younger je od aplikacije zatražio da mu nacrta vilenjaka i onda dobio objašnjenje zbog čega Gemini crta uglavnom crne i/ili rodno fluidne vilenjake: program automatski preformulira zahtjev korisnika, dodajući varijable poput “raznolikosti”, “druge rase”, “nebinarno” itd., bez da ga o tome obavijesti.
To bi značilo otprilike da za pretragu u Googleu dobijete rezultate koje niste tražili, ali mislite da su to baš oni koje ste tražili, jer ne znate da je tražilica modificirala vašu pretragu.
Obratimo li ponovo pažnju na opravdanje Prabhakara Raghavana da je jadna umjetna inteligencija u najboljoj namjeri napravila grešku, jer je nastojala ponuditi korisnicima najveći raspon različitih rezultata, jasno je kako mu je argument na klimavim nogama, a sve i ako je Gemini dobronamjerno glup robot, njegovi tvorci po svemu sudeći nisu ni jedno ni drugo.
Može li Gemini naučiti voditi drugačije “kulturne ratove” od onih američkih, ostaje puno važnije i još uvijek otvoreno pitanje.
Tekst se nastavlja ispod oglasa