Šogad visā pasaulē gaidāmas vairākas būtiskas vēlēšanas. Tiks izvēlēti tautas priekšstāvji Eiropas Parlamentā, ASV prezidents. Parlamenta vēlēšanas gaidāmas arī Indijā.
Taču šogad vēlētājiem jāspēj izsvērt ne tikai politiķu solījumus, bet arī to, vai runātājs, kas redzams datora vai viedtālruņa ekrānā, patiešām ir īsta persona vai tehnoloģiju uzņēmumu radīts smalks viltojums.
Palielinoties ērtu mākslīgā intelekta rīku pieejamībai, Indijas politisko partiju – tostarp arī Indijas premjerministra Narendra Modi vadītās Indijas Tautas partijas – komandas izmanto dziļviltojumu tehnoloģijas jeb "deep fakes", lai ietekmētu vēlētājus, Katarā bāzētajam medijam "Al Jazeera" atzina gandrīz 40 kampaņu vadītāji.
Daļa no šiem rīkiem ir bezmaksas. Citi pieejami, abonējot par 10 ASV centiem par video.
Indijas tehnoloģiski vismodernākā partija ir Modi pārstāvētā Indijas Tautas partija. Jau 2014. gadā tā izmantoja trīsdimensiju hologrammas projekcijas, lai tolaik vēl premjera amata kandidāts priekšvēlēšanu laikā varētu vienlaicīgi uzstāties un uzrunāt potenciālos vēlētājus desmitiem vietās vienlaicīgi.
Iespējams, pateicoties tieši šādai pieejai, Modi kļuva par valdības vadītāju.
2020. gadā šīs pašas partijas deputāts Manojs Tivari kļuva par vienu no pirmajiem politiķiem pasaulē, kas savā kampaņā izmantoja dziļviltojumu tehnoloģijas. Viņš priekšvēlēšanu laikā "uzrunāja" savus atbalstītājus trīs dažādās valodās – hindi, harjāniešu un angļu valodā, tādējādi sasniedzot trīs atšķirīgas auditorijas.
Watch how BJP used #deepfake in Delhi elections where a voice mimicking Manoj Tiwari is used, making it look like he is speaking.
— Gaurav Pandhi (@GauravPandhi) February 19, 2020
Vid 1: Deepfake in English
Vid 2: Deepfake in Haryanvi
Vid 3: Original Video
Report: https://t.co/8zcKwnSxbL
This is dangerous, should be illegal! pic.twitter.com/WEXb0zaXdl
Tiesa, autentisks bija tikai viens no šiem videoklipiem – tas, kurā politiķis runāja hindi valodā. Viņa balss un sejas mīmika, kā arī lūpu kustības tika izmainīti tik profesionāli, ka, noskatoties video, nebija iespējams saprast, ka tie nav īsti.
Indijas mākslīgā intelekta jaunuzņēmuma "The Indian Deepfaker" vadītājs Devendra Sings Žaduns atzina, ka, lai arī, viņaprāt, uzņēmuma ikdienas darbs ir oficiāls un "tīrs", pēdējos mēnešos viņa darbinieki saņēmuši arvien vairāk "neētisku pieprasījumu" no politisko kampaņu vadītājiem.
Sazinoties netieši un izmantojot dažādus telefona numurus un tādus saziņas kanālus kā "WhatsApp" vai "Telegram", saņemti vairāk nekā 50 šādu neētisku pieprasījumu, kuros potenciālie klienti vēlējās izmainīt un viltot video un audio materiālus, tostarp arī radīt kompromitējošu pornogrāfisku saturu par saviem politiskajiem konkurentiem.
Indijas valdība, gluži tāpat kā vairāku citu valstu valdības, ir uzrunājusi pasaules lielākos tehnoloģiju uzņēmumus, tostarp "Google" un "Meta", lai tie palīdzētu savās platformās ierobežot saturu, kas radīts ar dziļviltojumu tehnoloģiju palīdzību.
Tikmēr ASV, kas šogad gatavojas prezidenta vēlēšanām, janvāra beigās tūkstošiem Ņūhempšīras vēlētāju saņēma negaidītu zvanu no tagadējā ASV prezidenta Džo Baidena.
"Kas par muķībām," viņš šķietami pauda. "Jūsu balss izšķirošā nozīme būs novembrī, nevis šajā otrdienā," viņš teica.
Taču runātājs nebūt nebija Baidens. Tas bija mākslīgā intelekta radīts ziņojums, kurā izmantotas balss klonēšanas programmatūras. Ņūhempšīras ģenerālprokurors pēcāk pavēstīja, ka vēlētājiem "zvanījis" kāds Teksasas telemārketinga uzņēmums, un pret to uzsākta izmeklēšana par vēlētāju nelikumīgu ietekmēšanu.
Taču neētiska mākslīgā intelekta iespēju izmantošana priekšvēlēšanu laikā novērota ne tikai Indijā un ASV, bet arī Eiropā.
Tā piemēram, Polijā tās premjera pārstāvētā partija "Pilsoniskā koalīcija" priekšvēlēšanu kampaņā izmantojusi reklāmu, kurā nu jau aizgājušās valdības premjera Mateuša Moravecka teiktie vārdi tika apvienota ar mākslīgā intelekta viltus radītajiem.
Jak tak naprawdę wyglądają relacje w "zjednoczonej" prawicy? Przekonajcie się sami! #MailePrawdy pic.twitter.com/ehytYIqwKf
— PlatformaObywatelska (@Platforma_org) August 24, 2023
"Viņi sevi dēvē par "vienotajiem labējiem"," sākas mikroblogošanas vietnē "X" ievietotā reklāma, atsaucoties uz valdošās nacionālkonservatīvās koalīcijas nosaukumu. "Bet jūs droši vien zināt, kā ir patiesībā. Un ko jūs domājat par premjerministru? Klausieties paši."
Pēc tam videoklipā pārmaiņus tika atskaņoti īsti videoieraksti ar premjerministra Moravecka runu un audioieraksti, kuros balss, kas skanēja kā Moravecka balss, lasīja fragmentus no noplūdušajām e-pasta vēstulēm, kurās viņš kritizēja valdības darbu un viņa "valdībai nejolālo" tieslietu ministru.
Lai gan valdība ir atzinusi, ka kādreizējā premjera preses sekretāra e-pasts patiešām tika uzlauzts, daļa no materiāliem, kas pēc tam noplūda tiešsaistē, esot safabricēti. Tomēr tā ir arī atteikusies precizēt, kuras atsevišķas e-pasta vēstules ir īstas un kuras viltotas.
Līdz ar to reklāmas klipā izmantota, iespējams, ne tikai viltota e-pasta sarakste, bet arī "klonēta" premjera balss.
Tikai dažas stundas pēc videoklipa publicēšanas, saņemot plašu komentētāju kritiku, "Pilsoniskā koalīcija" taisnojās, ka daļa šī materiāla ir mākslīgi radīta. Tomēr video nekur nav norādīts, ka balss, kas lasa citātus no nopludinātajiem e-pastiem, nav pats Moraveckis, bet gan mākslīgā intelekta radīta balss, kas veidota tā, lai skanētu kā viņš.
Tas lika daudziem ekspertiem kritizēt partiju, vēstīja Polijas neatkarīgais medijs "Notes from Poland".
Dziļviltojumu tehnoloģijas izmantotas arī Slovākijā, kur tikai divas dienas pirms parlamenta vēlēšanām 2023. gadā sociālajā tīklā "Facebook" tika publicēts kāds audioieraksts, kurā dzirdamas divas balsis.
Viena no tām it kā piederēja liberālās partijas "Progresīvā Slovākija" politiķim Mihalam Šimečkam, bet otra – žurnālistei Monikai Todovai no slovāku laikraksta "Dennik N". Šajā ierakstā Šimečka it kā esot lepojies, kā viņš ir uzlabojis savas partijas izredzes vēlēšanās, pērkot balsis no valstī marginalizētās romu minoritātes.
Ziņu aģentūras AFP faktu pārbaudes departaments paziņoja, ka audioierakstā ir pazīmes, kas liecina, ka audio materiāls ir manipulēts, izmantojot mākslīgo intelektu. Taču ieraksts tika publicēts 48 stundu laikā pirms vēlēšanu iecirkņu atvēršanas – kad komunikācija par vēlēšanu kandidātiem medijos ir liegta. Tāpēc ierakstu bija grūti plaši atspēkot.
Un šajās vēlēšanās NATO atbalstošā partija "Progresīvā Slovākija" zaudēja promaskaviskajai un patreizējā Slovākijas premjera Roberta Fico partijai "Virziens – sociāldemokrātija" (Smer – SD).