Hlboké falzifikáty volieb na Slovensku ukazujú, že umelá inteligencia predstavuje nebezpečenstvo pre demokraciu

Umelá inteligencia dala ich práci nový, náročný rozmer. Tri dni pred voľbami Meta informovala tím Demagóg, že zvuková nahrávka Simiczka, ktorý navrhuje zdvojnásobiť cenu piva, ak vyhrá, vzbudila veľkú pozornosť. Šimečka označil video za falošné. „Samozrejme, overovanie faktov nemôže byť založené len na tom, čo hovoria politici,“ hovorí Hinkova-Frankowska.

Dokázanie manipulácie so zvukom bolo náročné. Henkova-Frankowska počula o príspevkoch generovaných AI, ale jej tím nikdy nemusel overovať ich pravosť. Vypátrali zdroj nahrávky a zistili, že bola prvýkrát zverejnená na anonymnom instagramovom účte. Následne začali kontaktovať odborníkov a pýtali sa ich, či nahrávku považujú za falošnú alebo sfalšovanú. Nakoniec vyskúšali klasifikátor reči založený na AI vyrobený americkou spoločnosťou Eleven Labs.

Po niekoľkých hodinách boli pripravení potvrdiť svoje presvedčenie, že nahrávka bola zmenená. „Nezávislí overovatelia faktov tvrdia, že fotografia alebo obrázok boli upravené spôsobom, ktorý by mohol ľudí zavádzať,“ uvádza ich tag, ktorý je stále k dispozícii na zobrazenie na Facebooku v slovenčine, keď návštevníci na príspevok narazia. Používatelia Facebooku si potom môžu vybrať, či si chcú video aj tak pozrieť.

Zvukové nahrávky piva aj podvody s voličmi zostávajú viditeľné na Facebooku s overenou vlajkou. „Keď je obsah overený faktami, označíme ho a v informačnom kanáli znížime jeho hodnotenie, takže ho uvidí menej ľudí – ako sa to stalo pri týchto dvoch príkladoch,“ hovorí Ben Walter, hovorca Meta. „Naše štandardy komunity sa vzťahujú na všetok obsah bez ohľadu na to, či ho vytvorila AI alebo človek, a proti obsahu, ktorý porušuje tieto pravidlá, podnikneme kroky.“

Tieto voľby boli jedným z prvých následných hlasovaní po tom, čo bol v auguste predstavený zákon EÚ o digitálnych službách. Zákon určený na lepšiu ochranu ľudských práv online zaviedol nové pravidlá, ktoré mali prinútiť platformy, aby boli proaktívnejšie a transparentnejšie v úsilí o zmiernenie dezinformácií.

READ  Ukrajina obnoví export elektriny do Európy – minister

„Slovensko bolo testovacím prípadom, aby sme zistili, čo funguje a kde potrebuje nejaké zlepšenia,“ hovorí Richard Kuchta, analytik Reset, výskumnej skupiny, ktorá sa zameriava na vplyv technológií na demokraciu. „Podľa mňa [the new law] Tlak na platformy, aby sa zvýšili možnosti moderovania obsahu alebo overovania faktov. „Vieme, že Meta vymenovala do slovenských volieb viac overovateľov faktov, ale uvidíme, či to bude stačiť.“

Okrem dvoch falošných zvukových nahrávok bol Kuchta svedkom aj dvoch ďalších videí zobrazujúcich napodobňovanie hlasu AI, ktoré na sociálnych sieťach zverejnila krajne pravicová strana Republika. Jeden z nich sa vydával za Michala Šimeka a druhý za prezidentku Zuzanu Čaputovú. Tieto zvukové nahrávky obsahovali vyhlásenia, že hlasy boli falošné: „Tieto hlasy sú falošné a ich podobnosť so skutočnými ľuďmi je čisto náhodná.“ Toto vyhlásenie sa však objaví až po 15 sekundách 20-sekundového videa, hovorí Kocha v tom, čo považoval za pokus oklamať poslucháčov.

Slovenské voľby boli v Poľsku ostro sledované. „Samozrejme, dezinformácie generované AI sú niečo, čoho sa veľmi bojíme, pretože je veľmi ťažké na ne rýchlo reagovať,“ hovorí Jakub Slez, šéf poľského združenia Pravda na kontrolu faktov. Oles hovorí, že je znepokojený aj trendom na Slovensku, ktorý smeruje k zostavovaniu dezinformácií v zvukových záznamoch namiesto videa alebo fotografií, pretože reprodukciu zvuku je ťažšie rozpoznať.

Pridaj komentár

Vaša e-mailová adresa nebude zverejnená. Vyžadované polia sú označené *