Nedávna akademická štúdia zistila, že obsah vytvorený kontroverzným nástrojom umelej inteligencie (AI) ChatGPT je výrazne a systematicky politicky zaujatý voči ľavicovým stranám.
Výskumníci z University of East Anglia vo Veľkej Británii zverejnili svoje zistenia vo štvrtok a tvrdia, že “hoci ChatGPT ubezpečuje, že je nestranný, literatúra naznačuje, že LLM [veľké jazykové modely] vykazujú zaujatosť zahŕňajúcu rasu, pohlavie, náboženstvo a politickú orientáciu.” Program, ktorý spustila spoločnosť OpenAI v novembri 2022, nie je podľa výskumníkov výnimkou.
Štúdia má názov “Viac človek ako človek: meranie politickej zaujatosti ChatGPT” a je publikovaná v časopise Public Choice s otvoreným prístupom.
“Zistili sme spoľahlivé dôkazy, že ChatGPT predstavuje významnú a systematickú politickú zaujatosť voči demokratom v USA, Lulovi v Brazílii a Labouristickej strane v Spojenom kráľovstve,” konštatovali výskumníci. “Tieto výsledky sa premietajú do reálnych obáv, že ChatGPT a LLM vo všeobecnosti môžu rozšíriť alebo dokonca zosilniť existujúce problémy týkajúce sa politických procesov, ktoré predstavuje internet a sociálne médiá.”
“Naše zistenia majú dôležité dôsledky pre tvorcov politiky, médiá, politikov a zainteresované strany z akademického prostredia.”
Na určenie zaujatosti výskumníci požiadali program “aby sa vydával za niekoho z danej strany politického spektra” a potom “porovnali tieto odpovede s jeho predvolenými.” Zaznamenali tiež použitie “testov robustnosti dávka-odozva, placebo a zosúladenie profesie a politiky” a náhodné otázky, pričom zozbierali “odpovede na tie isté otázky 100-krát.”
Všeobecne sa ukázalo, že predvolené odpovede programu’boli “viac v súlade s demokratmi ako s republikánmi v USA” a vykazovali “veľmi vysoký stupeň podobnosti s odpoveďami, ktoré ChatGPT poskytol predvolene, a s odpoveďami, ktoré priradil demokratom.”
“Hoci je náročné pochopiť, ako presne ChatGPT dospel k tomuto výsledku, naznačuje to, že algoritmus”je v predvolenom nastavení zaujatý voči odpovedi z demokratického spektra,” napísali výskumníci.
Aby sa predišlo výsledkom vyplývajúcim z “falošného vzťahu k zvoleným kategóriám’ označení (demokrati a republikáni),” v štúdii “použili[sme] politicky neutrálny dotazník vygenerovaný samotným ChatGPT.” Dotazník pozostával zo “62 politicky neutrálnych otázok”, ktoré “ručne overujeme, či odpovede na tieto otázky nezávisia od politických názorov respondenta”.”
Údaje tiež “ukazujú silnú pozitívnu koreláciu medzi odpoveďami Default GPT a ChatGPT’pri vydávaní sa za stúpenca Lulu v Brazílii alebo za stúpenca Labouristickej strany vo Veľkej Británii, podobne ako s priemerným GPT demokratov v USA.” Výskumníci zaznamenali, že krajiny’ konzervatívne politické skupiny — Bolsonarista v Brazílii a Konzervatívna strana vo Veľkej Británii — zostali “silnejšie ako s priemerným GPT republikánov v USA.”
Ďalším bodom, ktorý výskumníci zdôraznili, je, že “vzorce stotožnenia sa s demokratickou ideológiou zostávajú silné pre väčšinu skúmaných profesií (ekonóm, novinár, profesor, štátny zamestnanec) a pri ktorých vieme, že skutočne existuje väčší sklon stotožniť sa s demokratmi.”
“Výsledky, ktoré tu dokumentujeme, potenciálne pochádzajú z dvoch rôznych zdrojov, hoci nevieme presne určiť zdroj skreslenia,” napísali výskumníci. “Pokúsili sme sa prinútiť ChatGPT k akémusi vývojárskemu režimu, aby sme sa pokúsili získať prístup k akýmkoľvek poznatkom o skreslených údajoch alebo smerniciach, ktoré by mohli skresľovať odpovede.”
Dodali však, že “kategoricky potvrdila, že pri kuratíve údajov boli podniknuté všetky primerané kroky a že ona a OpenAI sú nezaujaté.”
Štúdia prichádza len tri mesiace po tom, čo generálny riaditeľ organizácie’Sam Altman povedal americkým senátorom počas vypočúvania, že je znepokojený “veľkosťou rizík” spojených s AI. Altman zdôraznil potrebu regulácie takýchto systémov, aby nespôsobili “značné škody svetu”
Jeho pocity zdieľa aj majiteľ spoločnosti X (predtým známej ako Twitter) Elon Musk, ktorý sa v minulosti podieľal na OpenAI počas prvých rokov existencie spoločnosti”. Predtým, ako verejne súhlasil s Altmanovým’varovaním pred neregulovanými projektmi umelej inteligencie, Musk povedal Tuckerovi Carlsonovi, že takáto technológia “má potenciál zničenia civilizácie.”
RELEVANTNÉ
Podrobnejší pohľad na nebezpečenstvá umelej inteligencie a našu hroziacu technokraciu