A pornóból nőtte ki magát, a hiszékenységünkre és a megtévesztésre épít. Egyre nehezebb lesz kiszúrni, így a jövő legdurvább manipulációs fegyverének tartják, de vajon a fejünkre nőnek-e a mesterséges intelligenciával manipulált videók?
A nem is olyan távoli jövőben akár egyetlen szóval is elintézhetnek egy Borkai- vagy Strache-féle botrányt: deepfake. A digitálisan manipulált videó, amelynek szereplője pont olyan lesz, mint akit annak készítői a közvéleménnyel láttatni szeretnének. Ez elsőre talán hajmeresztő, ám érdemes beszélni róla, mert – ha az előrejelzések helyesnek bizonyulnak – az előttünk álló évtizedben ez a jelenség lehet a (politikai) manipuláció egyik új zászlóshajója.
Kétélű, megállíthatatlan és akár halálos fegyver, amellyel tömegpánikot, mi több, fegyveres konfliktust is elő lehet idézni. Egyre kevésbé tudjuk majd eldönteni, megállapítani: mi a valóságos és mi a manipulált tartalom. Életveszélyes forgatókönyv, amelynek a felszínes hír- és tartalomfogyasztási szokásaink különösen kedveznek. Ráadásul a technológia már az előszobánkban van – megállítani pedig szinte lehetetlen, hiába szeretné „betiltani” a Facebook, ahogy azt a napokban a közösségi médiaóriásnál jelezték.
A jelenség nagyjából három éve tűnt fel az internet kloákájának is nevezett Reddit bugyraiban. Ismert női hírességek arcait „montázsolták” pornójelenetekre. Noha olykor még esetlennek, de már megtévesztésre alkalmasnak tűnt a technika. A klipek pedig egyre jobbak lesznek, egyre nehezebben lehet eldönteni, valós vagy manipulált felvételt látunk. A technológia lényege: egy létező videón szereplő személy arcára, mimikájára – mesterséges intelligencia, egy tanulásra képes okosprogram segítségével – egy másik személy jellegzetességeit helyezik rá.
Alapvető jog-e a digitális adatvédelem? | Magyar Hang
Nem árt nyitott szemmel járni, és tisztában lenni azzal, a személyes adataink a mi, és nem a netes óriások és az állami szektor techcégeinek tulajdonai.
Vagy fordítva: egy „dublőr” által eljátszott dolgot, annak minden apró rezdülésével, kivetítenek egy másik karakterre, mintha azt a „célszemély” csinálná. Így bárki „belebújhat” például egy vezető politikus bőrébe, úgy, hogy annak hanglejtése, grimaszai a hamis felvételen is pont úgy hatnak, mintha azt a hús-vér valója csinálná. A leghátborzongatóbb az egészben pedig az – ahogy arra egyre több, a témával foglalkozó szakember figyelmeztet –, hogy lassan már digitális képelemzéssel sem lehet megkülönböztetni a manipulált tartalmat a valódiaktól.
Ha tehát ártani akarunk politikai riválisunknak, elég lesz készíteni egy deepfake videót, amelyen úgy tűnik, a delikvens ezt és ezt mondja, ezt és ezt teszi, elterjeszteni a világhálón, majd várni a hatást. Amely nem marad el. Sokan már a kiposztolt híreket sem olvassák el, szalagcímek alapján alakítják ki – olykor végletesen sommás – véleményüket. Ha úgy írunk kommenteket, hogy abban sem merülünk el tisztességesen, amihez épp hozzászólunk, akkor képzeljük el, mi lesz itt, ha a megszólalásig hasonló deepfake Orbánok és Gyurcsányok, Trumpok és Putyinok, Erdoganok és Hszi Csin-pingek lepik majd el világhálót.
Az a baj a Facebook „betiltjuk és töröljük a deepfake videókat” szlogenjével, hogy jól hangzik, csak kivitelezhetetlen. Ezt sajnos nem lehet „betiltani”. Nemcsak azért, mert olyan mennyiségben árasztják el az idővonalakat, eszik be magukat mindenhová, hogy kezelhetetlenné válik az egész, hanem mert lesznek olyan felvételek, amelyekről egyszerűen nem lehet megállapítani, hogy hamisak – hiába fejleszt ezt kiszűrni akaró algoritmust, és szeretné törvényileg szabályoztatni a folyamatot a Google.
Big data és a leépülő társadalom | Magyar Hang
Az intellektuálisan leépülő társadalom olyan kihívásokkal kényszerül szembenézni, amelyeknek a NER keretei között az ország évről évre csökkenő mértékben tud megfelelni.
Mindezt megfordítva: egy botrány kirobbanásakor egy politikus simán jöhet majd azzal a rém egyszerű magyarázattal, hogy az egész fikció, a kompromittáló hanganyag, videó csupán deepfake. És ember legyen a talpán, aki a rettentő zajban igazságot tud tenni. A probléma ugyanis épp az, hogy ez ellen igazából védekezni sem lehet.
Nem tudjuk megtanítani magunknak, hogyan szúrjuk ki minden kétséget kizáróan a kamut. Ahogy a történelmi források igazolják, a pletykára, a híresztelésre, a susmusra már az ókorban is fogékonyabb volt az ember. Miért lenne ez másképp manapság – látjuk ezt sima posztok, álhírek esetében is. A többség ma sem fog jobban elemezni, kételkedni, utánajárni a dolgoknak, nem vet, nem ütköztet össze megannyi forrást.
A szakértők az első komoly politikai deepfake botrányt már az idei amerikai elnökválasztási kampányra valószínűsítik.
Ennek a cikknek a nyomtatott változata a Magyar Hang 2020/5. számában jelent meg január 31-én.
Hetilapunkat megvásárolhatja az újságárusoknál, valamint elektronikus formában a Digitalstandon! És hogy mit talál még a 2020/5. számban? Itt megnézheti!
