Skip to content

Szele Tamás: A deepfake és a világ

Az MI-t még lehet szabályozni. De a természetes hülyeséget nem.

Table of Contents

Azért valami nagyon nagy baj van ám a mesterséges intelligenciával felhasználói szinten is. A szabályozásával meg főleg. De sokat elmondanak a humán ostobaságról és az emberi természetről az utóbbi idők deepfake-kel, deepvoice-szal kapcsolatos hírei is, Már tegnap lépni kellett volna, erre fel mi, akik az evolúció csúcsának hisszük magunkat, csak akkor reagáltunk, amikor... de lássuk a híreket.

Az első úgy szól, hogy 2023 decemberében a Nyomozó Bizottság büntetőeljárást indított Borisz Akunyin (Grigorij Cshartisvili) és Dmitrij Bikov írók ellen „terrorizmus igazolása” és az orosz hadseregről szóló „álhírek terjesztése” miatt. Az író felkerült a „terroristák és szélsőségesek” listájára, később pedig „külföldi ügynöknek” nyilvánították. Akunyin könyvei eltűntek az orosz kiadókból és a boltok polcairól. Az üldözést a Kreml-barát „tréfamesterek”, Vovan és Lexus provokációja váltotta ki, akik az ukrán hatóságok nevében felvették a kapcsolatot Borisz Akunyinnal és Dmitrij Bikovval, és arra késztették őket, hogy Ukrajna mellett foglaljanak állást. Vovan és Lexus különben már a fél világot becsapták a kis mesterséges intelligenciás hanggenerátorukkal. De mit mond erről Akunyin?*

„Nem, nem ismertem fel, hogy a „tréfamesterek” átvertek. Én író vagyok. Miért lennék okosabb, mint Stephen King vagy Joanne Rowling, akiket hasonló módon átvertek? Nem vagyok a titkosszolgálatok tagja. Amikor az ukránok hozzám fordulnak segítségért, én segítek nekik. Nem hallgatom ki vagy igazoltatom őket előzőleg.
Ez valamiféle nagyon bizarr cselszövés volt, ami hónapokig tartott. Sok emberrel csinálták, akik aztán így vagy úgy, de beszéltek róla. Hogy mit akartak, azt nem tudom, de valamit el akartak érni. Valamiért megpróbálták ezeket az embereket egy helyre terelni, nagyon kitartóan, nem tudom, valamilyen tervük volt. Végül, mint mindig, ez nem jött össze. Végül azt hozták létre, ami sikerült nekik.
Ha a nép ellenségének akarták nyilvánítani, bármelyik beszédemet elővehették volna. Mindent, amit az elmúlt két évben írtam. A háború legelején volt egy beszélgetésem Jurij Dudemmel, amit nem is tudom, 20-30 millió ember nézett. Ahol egyenesen kimondom, hogy Putyin állama bűnöző, hogy Ukrajna oldalán állok, hogy az orosz hadsereg akcióit kriminálisnak tartom. Ebből bármit ki lehetett volna hozni.”

Márpedig Bikov és Akunyin az orosz irodalom megkerülhetetlen óriásai. Bikov inkább szépirodalommal, lírával, publicisztikával foglalkozik, Akunyin lektűrrel, csak hát neki eddig harmincöt millió példányban vásárolták meg a köteteit, ennyien voltak kíváncsiak Eraszt Fandorin kalandjaira: de Bikovnak sem kell szégyenkeznie, nagyregénye, a ZSD világsikert aratott, írt életrajzot Paszternakról, Gorkijról, Okudzsaváról, azokat is vitték, mint a cukrot. Hol van ehhez képest Vovan és Lexus? Két kis téglácska a Kreml falában, két deepfake-huszár. Érdemük semmi, tehetségük nulla. Miattuk kellene az orosz irodalom élő klasszikusainak büntetőtáborba vonulni? Sőt, most már Szorokin után is nyomoznak, bár az ő esetében nem alkalmaztak technikát, őt egyszerűen „LGBTQ-propagandával” vádolják. Hát igen, az „Opricsnyik egy napja” szerzője nem is maradhat szabadlábon... Gluhovszkijt is elítélték már, távollétében, ő is nyolc évet kapott. És ezekre a hírekre nem ordított fel egy emberként a világ értelmisége, hanem apatikusan tudomásul vette őket és továbbgörgetett a hírek között.

A második hír frissebb**: a New Hampshire-i főügyészi hivatal közölte, hogy vizsgálja azokat a jelentéseket, amelyek egy nyilvánvalóan robothívásról szóltak, amely mesterséges intelligenciát használt Joe Biden elnök hangjának utánzására, és megpróbálta lebeszélni az állam szavazóit a keddi előválasztáson való részvételről.

John Formella főügyész szerint a rögzített üzenet, amelyet vasárnap több választópolgárnak is elküldtek, a jelek szerint illegális kísérlet a szavazás megzavarására és visszaszorítására. Szerinte a választóknak „teljes mértékben figyelmen kívül kell hagyniuk az üzenet tartalmát”.

Az Associated Press által vizsgált hívás felvételén Biden elnökéhez hasonló hang hallható, és az ő gyakran használt mondása hangzik el: „Micsoda egy rakás malőr”. Ezután azt mondja a hallgatónak, hogy „tartogassa szavazatát a novemberi választásokra”.

„A mostani, keddi szavazat csak lehetővé teszi a republikánusok számára, hogy ismét Donald Trumpot válasszák meg” – mondja a Bident utánzó hang. „Az ön szavazata novemberben számít, nem ezen a kedden”.

Nem igaz, hogy a keddi előválasztáson való szavazás kizárja a szavazókat abból, hogy a novemberi általános választásokon leadják szavazatukat. Biden nem kampányol New Hampshire-ben, és a neve nem szerepel majd a keddi előválasztási szavazólapon, miután Dél-Karolinát választotta az első helyre a demokraták előválasztásán, de szövetségesei írásos kampányt indítanak helyette az államban.

Nem tudni, hogy ki áll a hívások mögött, bár a címzettek számára – tévesen – úgy jelentek meg, mintha Kathy Sullivan (az állam Demokrata Pártjának korábbi elnöke) személyes mobilszámáról érkeztek volna.

Sullivan elmondta, hogy értesítette a bűnüldöző szerveket, és panaszt tett a főügyésznél, miután több választópolgár az államban arról számolt be, hogy vasárnap este hívást kapott „tőle”.

„Aggódtunk amiatt, hogy a generatív MI-t fegyverként fogják használni a közelgő választásokon, és most látjuk is ezt, ami minden bizonnyal az új idők jele” – mondta Hany Farid, a Berkeley-i Kaliforniai Egyetem digitális törvényszéki szakértője, aki megvizsgálta a hívásfelvételt, és megerősítette, hogy egy viszonylag silány minőségű MI-hamisítványról van szó.

Azért ez már mégiscsak sok kicsit. Ha már magát az amerikai elnököt is hamisítják MI segítségével, nem volna itt az ideje szabályozni a dolgokat? De, viszont még ettől sem láttak neki a törvényhozói munkának a honanyák és honatyák. Ahhoz ennél több kellett. Van olyasmi, ami több annál, mintha az elnök nevében szélhámoskodnak? Van.

Egészen friss a hír, miszerint mesterséges intelligencia által generált pornóképek jelentek meg a héten Taylor Swiftről az interneten.***

A héten milliók találkoztak a közösségi médiában Taylor Swiftről készült, mesterséges intelligenciával generált hamis, pornográf képekkel, ami sokak számára rávilágított arra, hogy szabályozni kell a mesterséges intelligencia technológiájának potenciálisan kártékony felhasználását.

A Fehér Ház sajtófőnöke pénteken az ABC Newsnak azt mondta, hogy „riasztó”, ami Swifttel történt az interneten, és hogy a kongresszusnak „törvényhozási lépéseket kellene tennie”.

„Aggasztóak számunkra a jelentések a... képek terjesztéséről, amelyeket az imént ismertetett – pontosabban a hamis képekről, és ez riasztó” – mondta Karine Jean-Pierre, a Fehér Ház sajtótitkára az ABC News fehér házi tudósítójának, Karen L. Traversnek.

„Bár a közösségi médiavállalatok önállóan döntenek a tartalomkezelésről, úgy gondoljuk, hogy fontos szerepük van saját szabályaik érvényesítésében, hogy megakadályozzák a félretájékoztatás és a valódi emberekről készült, nem konszenzusos, intim képek terjedését” – tette hozzá.

Jean-Pierre kiemelte azokat az intézkedéseket, amelyeket a kormányzat a közelmúltban tett ezekben a kérdésekben, többek között: munkacsoportot indított az online zaklatás és visszaélés kezelésére, és az Igazságügyi Minisztérium elindította az első nemzeti 24/7 segélyvonalat a képi alapú szexuális visszaélések áldozatai számára.

A felháborodott rajongók meglepődve tapasztalták, hogy az Egyesült Államokban nincs olyan szövetségi törvény, amely megakadályozná vagy visszatartaná azt, hogy valaki beleegyezés nélküli deepfake képeket készítsen és osszon meg másról.

De Joe Morelle képviselő éppen a múlt héten újította fel a törvényjavaslatot, amely a digitálisan módosított pornográf képek nem konszenzuális megosztását szövetségi bűncselekménnyé tenné, börtönbüntetéssel és pénzbírsággal.

„Nagyon reméljük, hogy a Taylor Swiftről szóló hírek segítenek lendületet adni és növelni a törvényjavaslatunk támogatottságát, amely, mint tudják, pontosan az ő helyzetét kezelné büntetőjogi és polgári jogi szankciókkal” – mondta Morelle szóvivője az ABC Newsnak.

A New York-i demokrata képviselő a szerzője a kétpárti „Intim képek deepfake hamisításának megakadályozásáról szóló törvénynek”, amely rövidesen a képviselőház igazságügyi bizottsága elé kerül.

A deepfake pornográfiát gyakran képalapú szexuális visszaélésként írják le – ez a kifejezés magában foglalja a nem hamisított intim képek készítését és megosztását is.

Néhány évvel ezelőtt a felhasználónak bizonyos szintű technikai ismeretekkel kellett rendelkeznie ahhoz, hogy generált tartalmakat hozzon létre, de ma már egy alkalmazás letöltése vagy néhány gomb megnyomása elegendő.

Szakértők szerint már egy egész kereskedelmi iparág él abból, hogy olyan digitálisan előállított tartalmakat hoz létre és oszt meg, amelyeken látszólagos szexuális visszaélések szerepelnek. Az ilyen hamisítványokat sugárzó weboldalak némelyikének több ezer fizető tagja van.

A szexuálisan explicit Swift-képeket valószínűleg egy mesterséges intelligencia szövegből képet készítő eszközével fabrikálták. A képek egy részét az X, korábbi nevén Twitter közösségi médiaplatformon osztották meg.

A hamisított képek képernyőmentéseit megosztó egyik posztot állítólag több mint 45 millióan nézték meg, mielőtt csütörtökön felfüggesztették a fiókot.

Pénteken kora reggel az X biztonsági csapata közölte, hogy „aktívan eltávolítja az összes azonosított képet”, és „megteszi a megfelelő lépéseket a képek közzétételéért felelős fiókokkal szemben”.

„Az X-en szigorúan tilos a nem közös megegyezésen alapuló meztelen képek (NCN) közzététele, és az ilyen tartalmakkal szemben zéró toleranciát alkalmazunk” – áll a közleményben. „Szigorú figyelemmel kísérjük a helyzetet, hogy a további jogsértésekkel azonnal foglalkozzunk, és a tartalmakat eltávolítsuk. Elkötelezettek vagyunk a biztonságos és tiszteletteljes környezet fenntartása iránt minden felhasználó számára”.

Persze Taylor Swiftnek is jár az igazságtétel, az elégtétel, őt is kihasználták és reméljük, hogy a vétkesek San Quentinben töltik életük hátralévő részét, biztos távolságban mindentől, ami digitális, de lépjünk hátra egyet és nézzük meg a kialakuló képet.

Szélhámos besúgók karmaiba kerül az orosz irodalom színe-virága, veszélyben forog a szabadságuk, de például Akunyin életkorát tekintve a testi épségük, sőt, az életük is? A világ megvonja vállát, széttárja kezeit és azt mondja: „Kérem, nagyon sajnálatos”, majd sürgős semmittevésbe kezd, aki bajban van., kapaszkodjon ki belőle egyedül.

Az amerikai elnököt hackelik meg a svindlerek, veszélyben forog az a választás, ami befolyásolhatja a bolygó sorsát is? A Világ összevonja szemöldökét, és azt mondja: „Ejnye. Bejnye. Ez nem tréfadolog. Sőt: irgum-burgum!” – és nem történik semmi.

Pornográf képeket hamisítanak Taylor Swiftről? Azonnal működésbe lendül a gépezet, előkerül a megfelelő törvényjavaslat, a Fehér Ház aggodalmát fejezi ki, még Elon Musk is glédába áll és kivezényli a biztonsági csapatot, akik azonnal kisöprik a szemetet, de innentől kezdve lehet tudni, hogy az ügynek komoly következményei lesznek.

Csakhogy már Akunyinnál, Bikovnál cselekedni kellett volna. De az nem érte el az Egyesült Államok és a világ ingerküszöbét. Még Biden esete sem érte el: Taylor Swift kellett ahhoz, hogy végre történjen valami.

Hát ezért igaz, hogy nagy bajok vannak a mesterséges intelligenciával, mégpedig felhasználói szinten. Az egy dolog, hogy az MI jelenleg kissé ostobácska. De a felhasználói egyenesen idióták.

Az MI-t még lehet szabályozni. De a természetes hülyeséget nem.

Itt a baj.

*«Тезис „плохой русский – хороший русский“ нанес огромный вред»

**AI-generated robocall impersonates Biden in an apparent attempt to suppress votes in New Hampshire

***Fake explicit Taylor Swift images: White House is 'alarmed'

Latest

Szele Tamás: Navalnij halála

Szele Tamás: Navalnij halála

Ma új fejezet kezdődött Oroszország történetében, aminek az elejét, meglehet, vérrel írják. De ha minden jól megy, a közepétől visszatérnek a tintához.

Members Public