Skip to content

Szele Tamás: Arcok a homályban

Az MI hallucinál, a DNS-alapú arcgeneráció megbízhatatlan... ebből egy tanulságot lehet levonni. Egy Francisco de Goya kép címét. „Az ész álma szörnyeket szül”.

Table of Contents

Nagyon komoly veszélyre hívja fel a WIRED magazin a figyelmet*: a csúcstechnológiák hibáira, melyek szó szerint megsokszorozhatják, sőt, hatványozhatják egymást. Ha két, egyenként is komoly hibákra hajlamos csúcstechnológiát kényes területen – például a bűnüldözésben – összeházasítunk, az eredmény könnyen lehet valamiféle szörnyűség. Sajnos azonban sok felhasználó vakon hisz a technológia csodáiban, de nem ismeri annak lehetőségeit. Pont azért, mert hisznek és nem tudnak.

2017-ben az East Bay Park Kerületi Rendőrkapitányságon egy lezáratlan ügyön dolgozó nyomozók olyan ötlettel álltak elő, amelynek segítségével talán végre nyomra bukkanhatnak Maria Jane Weidhofer meggyilkolásának ügyében. A rendőrök 1990-ben a kaliforniai Berkeley Tilden regionális parkjában találták meg Weidhofert holtan és a vizsgálat kimutatta, hogy halála előtt szexuális erőszak áldozata is lett. Közel 30 évvel később a rendőrség elküldte a bűncselekmény helyszínén gyűjtött genetikai információkat a Parabon NanoLabsnak – egy olyan cégnek, amely azt állítja, hogy a DNS alapján emberi arcot tud generálni – a tettes beazonosításához.

A cég hamarosan a rendőrség rendelkezésére bocsátott valami olyasmit, amit a nyomozók még soha nem láttak: egy potenciális gyanúsított arcát, amelyet kizárólag a helyszíni bizonyítékok felhasználásával hoztak létre.

Ez egy 3D-s ábrázolás volt, amely áthidalta a valóság és a sci-fi közötti hátborzongató szakadékot; annak ábrázolása, hogy a vállalat algoritmusa szerint hogyan nézhet ki egy személy a DNS-mintában talált genetikai jellemzők alapján.

A gyilkos a cég becslése szerint férfi volt (ezt nem lehetett nehéz kitalálni a nemi erőszak nyomai alapján). A vállalat által alkalmazott törvényszéki művész egy jellegtelen, rövidre nyírt frizurát photoshoppolt a férfira, és bajuszt rajzolt neki – ez a művészi kiegészítés egy tanú vallomása, nem pedig a DNS-minta alapján történt.

Egy ellentmondásos 2017-es döntés értelmében a hivatal közzétette a prognosztizált arcot, hogy segítséget kérjen a nyilvánosságtól. Aztán 2020-ban az egyik nyomozó olyasmit tett, ami a polgárjogi szakértők szerint még problematikusabb – és a Parabon NanoLabs szolgáltatási feltételeinek megsértése: kérte, hogy a renderelést futtassák le egy arcfelismerő szoftveren.

„A Parabon Labs a helyszínen talált DNS alapján rekonstruálta egy lehetséges gyanúsított arcvonásait” – magyarázta a nyomozó az „analitikai támogatás” iránti kérelemben, amelyet az Észak-Kaliforniai Regionális Nyomozati Központnak küldött, egy úgynevezett fúziós centrumnak, amely megkönnyíti a szövetségi, állami és helyi rendőrségek közötti együttműködést. A Distributed Denial of Secrets nevű átláthatósági kollektíva által közzétett, feltört rendőrségi feljegyzésekből álló gyűjteményben találtak rá, és úgy tűnik, ez az első ismert eset, amikor egy rendőrkapitányság megpróbálta használni az arcfelismerést egy bűnügyi helyszín DNS-éből algoritmikusan generált arcon.

Az arcfelismerési szakértők és a magánélet védelmezői számára az East Bay-i nyomozó kérése, bár disztópikus, ugyanakkor teljesen kiszámítható volt. Annyit jelent, hogy felügyelet nélkül a bűnüldöző szervek képesek a technológiákat nem a megszokott módon kombinálni, és teszteletlen algoritmusokat is használnak arra, hogy ismeretlen kritériumok alapján gyanúsítottakat válasszanak ki.

„Az ilyesmi tényleg a tudomány szemete” – mondta a WIRED-nek Jennifer Lynch, az Electronic Frontier Foundation nevű, polgári szabadságjogokkal foglalkozó nonprofit szervezet főtanácsosa. Az arcfelismerés megbízhatatlan bemeneti adatokkal, például algoritmikusan generált arccal történő futtatása nagyobb valószínűséggel azonosít tévesen egy gyanúsítottat, minthogy hasznos nyomra vezetné a bűnüldöző szerveket – állítja Lynch.

Az NCRIC nem válaszolt a WIRED megkeresésére, hogy kommentálja a nyomozó arcfelismerési kérelmének eredményét. „Nincs valódi bizonyíték arra, hogy a Parabon egyáltalán képes lenne pontosan leképezni egy arcot DNS alapján” – mondja Lynch. „Ez nagyon veszélyes, mert az embereket annak a veszélynek teszi ki, hogy olyan bűncselekmény gyanúsítottjává válhatnak, amelyet nem követtek el”.

Nem tudni, hogy az észak-kaliforniai regionális nyomozati központ tiszteletben tartotta-e a nyomozó kérését. Az NCRIC nem válaszolt a WIRED megkeresésére, hogy nyilatkozzon a nyomozó arcfelismerési kérelmének eredményéről. Az NCRIC ügyvezető igazgatója, Mike Sena azonban azt mondta a 2021-ben a The Markupnak, hogy amikor a fúziós központ arcfelismerési kérelmet kap, akkor lefuttat egy keresést.

A Parabon NanoLabs számára, ha a hivatal lefuttatta a prediktált arcot az arcfelismerésen, az nem csak a cég szolgáltatási feltételeinek megsértése – ez annál több, ez egy szörnyű elképzelés. A Parabon egy ambiciózus, gépi tanulást is magában foglaló módszerrel állt elő, hogy megkapja a támogatást. A 2008-ban alapított cég elsősorban törvényszéki genetikai-genealógiai szolgáltatásokra összpontosít a bűnüldöző szervek számára, amely folyamat során a DNS-adatokat összehasonlítják a genealógiai adatbázisokban található profilokkal, hogy megtalálják a potenciális gyanúsítottakat vagy áldozatokat. A vállalat 2012-ben támogatást kapott az Egyesült Államok Védelmi Minisztériumának Védelmi Fenyegetéseket Csökkentő Ügynökségétől a DNS-fenotipizálás, azaz egy személy megjelenésének kizárólag a DNS alapján történő megbecslése céljából. A Nature 2020-as cikke szerint a Védelmi Minisztérium eredetileg a fenotipizálási technológia kifejlesztése iránt érdeklődött, hogy a bombatöredékeken hagyott DNS-nyomok felhasználásával újraalkossák a robbanószerkezeteket készítő személyek arcát. A Parabon egy ambiciózus, gépi tanulást is magában foglaló módszerrel állt elő, hogy megkapja a támogatást.

Ellen Greytak, a Parabon NanoLabs bioinformatikai igazgatója szerint a vállalat gépi tanulást használ „az arc minden egyes részét” meghatározó modellek létrehozására. A modelleket több mint 1000 önkéntes kutató DNS-adatain képzik ki, és párosítják az arcuk 3D-s szkennelésével. Greytak szerint minden egyes beszkennelt arcnak 21 000 fenotípusa – megfigyelhető fizikai tulajdonsága – van, amelyeket a modelljeik összehasonlítanak, hogy kitalálják, miképpen befolyásolják a DNS-minták egyes részei az arc megjelenését.

A Parabon azt állítja, hogy megbízhatóan meg tudja jósolni egy személy haj-, szem- és bőrszínét, valamint a szeplők mennyiségét és az arc általános formáját. Ezek a fenotípusok képezik az alapját azoknak az arcképeknek, amelyeket a vállalat a bűnüldöző szervek számára készít. A Parabon módszereit soha nem vizsgálták felül, bár a tudósok szkeptikusak azzal kapcsolatban, hogy az arcforma becslése egyáltalán mennyire megvalósítható.

A technológia pontosságával kapcsolatos kérdésekre válaszolva a Parabon NanoLabs alelnöke, Paula Armentrout a WIRED-nek elmondta, hogy bár módszereik részletei nem nyilvánosak, a vállalat konferenciákon mutatta be munkáját, és több ezer mintán tesztelte technológiáját. Hozzáteszi, hogy a vállalat a weboldalán „minden egyes részletet közzétesz, amelyet egy ügyfél nyilvánosságra hozott, így az emberek levonhatják a saját következtetéseiket arról, hogy mennyire jól működik a technológiánk”.

Greytak úgy jellemzi a vállalat arcbecsléseit, hogy azok inkább hasonlítanak egy gyanúsított leírására, mint az arc pontos másolatára. „Amit mi megbecsülünk, az inkább olyan, mint például az, hogy az adott személy nemét és származását tekintve az átlagosnál szélesebb szemekkel rendelkezik-e” – mondja. „Ebből semmiképpen sem lehet egyedi azonosítást végezni”.

Amikor a Parabon NanoLabs 2015 körül elindította arcbecslő szolgáltatását, a szolgáltatási feltételei nem tiltották meg kifejezetten az ügyfeleknek, hogy arcfelismeréssel kapcsolatos előrejelzéseket használjanak. Nem sokkal az indulás után azonban a vállalat bűnüldöző ügyfelei elkezdtek érdeklődni a fenotípusból generált arcok arcfelismerő eszközökön való futtatásának életképességéről. „Meglepődtünk, amikor ezt hallottuk” – mondja Greytak. „Egyszerűen nem ez a célja a generált képeknek”. 2016-ban a vállalat egy záradékot fűzött a feltételeihez, amely megtiltotta az ügyfeleknek, hogy arcfelismerést használjanak a Snapshot Phenotype Reports (Snapshot fenotípusjelentések) esetében. Armentrout azonban azt mondja a WIRED-nek, hogy a vállalat „nem tudja biztosítani a záradék betartását”.

Nyolc évvel később, miután a Parabon NanoLabs néhány ügyfele a bűnüldöző szervek számára több tucat arcbecslést készített, kevés okot lát arra, hogy ne fontolja meg az arcfelismerés használatát ezeken az algoritmikusan generált arcokon.

Jason McDonald például a coloradói Aurora rendőrkapitányságának nyomozója a gyilkossági osztályon. Az ő osztálya 2016-ban felkérte a Parabont, hogy négy 1984-es gyilkosság helyszínén talált DNS alapján becsülje meg a gyanúsított arcát. McDonald a WIRED-nek elmondta, hogy szerinte a grafikus eredmény arcfelismerésen való lefuttatása „indokolt” és „valószínűleg hasznos eszköz” lehet.

Edward Silver nyomozó a michigani St. Clair megyei seriffhivatalból egyetért ezzel. Az ő osztálya 2021-ben a Parabon NanoLabs segítségével generálta újra annak a nőnek az arcát, akinek súlyosan megégett holttestét 2003-ban találták meg egy kukában. Silver a WIRED-nek elmondta, hogy szerinte a Snapshot Phenotype Reports elég pontos az arcfelismerő szoftverek számára.

A floridai Lake County és az illinois-i DeKalb County seriff hivatalainak képviselői azt is elmondták, hogy fontolóra vennék a Parabon NanoLabs által generált portrék használatát arcfelismerő eszközökkel. Andrew Sullivan, a DeKalb megyei seriff hivatalának seriffje egy e-mailben azt írja, hogy „ha lenne DNS-bizonyíték, amelyet a Snapshot kifejlesztése során használtak, igen, felhasználnánk ezt az információt, hogy megpróbáljuk továbbfejleszteni bármely nyomot, amely bármilyen gyilkosság megoldásához vezethet”.

Haley Williams, az idahói Boise rendőrkapitányság kommunikációs menedzsere a WIRED-nek küldött e-mailben leírja, hogy az algoritmikusan generált arcfelismerés alkalmazásáról „eseti alapon” döntenének. Hozzátette azonban, hogy az osztály „soha nem támaszkodna kizárólag egyetlen bizonyítékra, és csak eszközként használná ezt, hogy segítsen más nyomokhoz vagy bizonyítékokhoz irányítani minket”.

„Sok éves ügyekről van szó, amelyeken akár évtizedek óta is dolgozunk” – mondta egy „döglött” ügyekkel foglalkozó nyomozó, aki kérte, hogy ne nevezzék meg, mert nem jogosult a médiának nyilatkozni. „Tudjuk, hogy a Parabon által generált arcok nem tökéletesek, de miért ne használnánk fel minden rendelkezésünkre álló eszközt, hogy megpróbáljunk elkapni egy gyilkost?”. Arra a kérdésre, hogy megpróbálta-e az arcfelismerést a generált arccal lefuttatni, a nyomozó nem kívánt válaszolni, de azt mondta: „az áldozat családja megérdemli, hogy tudja: mindent megpróbáltunk”.

Lynch, az Electronic Frontier Foundation munkatársa a WIRED-nek elmondta, hogy bár megérti, hogy a nyomozók le akarják zárni az ügyeket, a téves azonosítás kockázata ennél a felhasználási módnál túl nagy. „Szerintem ez is azt mutatja, hogy teljesen félreértik az arcfelismerés nagy kockázatú hibáit” – mondja Lynch. „Meglepő számomra, hogy a rendőrök azt hiszik: ez a fajta technológia olyan eredményekkel járhat, amelyeket valóban fel tudnak használni.”

Az arcfelismerés gyakran az utolsó lehetőség, amelyet a nyomozók csak akkor próbálnak ki, ha már kimerítettek minden más nyomot. A Parabon NanoLabs szerint az esetek többsége, amelyeken dolgoznak, valójában nem jut el az arcelemzésig. „Azzal viccelődünk, hogy a fenotipizálás meg tudja mondani, hogy a gyanúsítottnak kék szeme van-e, de a genealógus meg tudja mondani a fickó címét” – mondja Greytak.

Az a tény, hogy a bűnüldöző nyomozók fontolóra veszik, hogy ezeket az becsléseket az arcfelismeréssel együtt használják, a szakértők szerint a nyomozati eszközök feletti általános felügyelet hiányáról árulkodik. Nincsenek olyan szövetségi szabályok, amelyek korlátoznák, hogy a rendőrség milyen típusú képeket használhat fel az arcfelismerő szoftver alkalmazásakor, és mind a rendőrségen, mind az arcfelismerő szoftverek szállítóján múlik a biztosítékok alkalmazása és betartatása.

Az amerikai kormányzati elszámoltatási hivatal szeptemberben kiadott jelentése szerint azon 196 FBI-ügynöknek, akik külső szállítóktól származó arcfelismerő technológiához férnek hozzá, csupán 5 százaléka végezte el az eszközök megfelelő használatára vonatkozó képzést. A jelentés megjegyzi, hogy az ügynökségnek az arcfelismerésre vonatkozó belső szabályzata sincs, amely biztosítaná a magánélet védelmét és megakadályozná a polgári szabadságjogokkal való visszaélést.

Az elmúlt néhány évben az arcfelismerés sokat fejlődött. Amikor 2018-ban a National Institute of Standards and Technology 12 millió embert tartalmazó arcképes adatbázisban tesztelte az arcfelismerő algoritmusokat, azt találta, hogy a keresések 99,9 százaléka a megfelelő személyt azonosította. A NIST azonban egyenlőtlenségeket is talált abban, hogy az általa tesztelt algoritmusok hogyan teljesítettek az egyes demográfiai csoportok között.

A NIST ezeket az algoritmusokat kizárólag jó minőségű képekkel, például jogosítvány- és útlevélfotókkal tesztelte; a bűnüldöző szervek gyakran kevésbé válogatnak. A Georgetown's Center on Privacy and Technology 2019-es jelentése, amelyet Clare Garvie, arcfelismerési szakértő és adatvédelmi ügyvéd írt, megállapította, hogy a bűnüldöző szervek országszerte olyan képeken használtak arcfelismerő eszközöket, amelyek között homályos biztonsági kamerafelvételek, gyanúsítottakról készült, manipulált fotók, sőt hagyományos, művészek által készített, vegyes technikával készült vázlatok is szerepeltek.

Egy belső New York-i rendőrségi prezentáció szerint, amelyet Garvie a jelentésében idézett, Tom Markiewicz, a New York-i rendőrség nyomozója 2018-ban azt írta, hogy az osztály megpróbálta az arcfelismerést törvényszéki grafikákon futtatni, és azt tapasztalta, hogy „a grafikák nem működnek”. Egy másik hírhedt esetben, amelyet Garvie a jelentésében idéz, a New York-i rendőrség arcfelismerő részlegének egyik nyomozója, miután megállapította, hogy egy gyanúsított úgy néz ki, mint Woody Harrelson színész, a színész fényképét küldte át az osztály arcfelismerő eszközén.

„Mivel a modern arcfelismerő algoritmusok betanított neurális hálózatok, egyszerűen nem tudjuk pontosan, hogy a rendszerek milyen kritériumok alapján azonosítanak egy arcot” – mondta a WIRED-nek Garvie, aki jelenleg a Bűnügyi Védőügyvédek Országos Szövetségénél dolgozik. „A megbízhatatlan vagy pontatlan „fekete doboz” jellegű eszközök összekapcsolása egyszerűen megbízhatatlan eredményeket fog produkálni” – mondta. „Ezt mostanra már tudnunk kellene.”

Az MI hallucinál, a DNS-alapú arcgeneráció megbízhatatlan... ebből egy tanulságot lehet levonni. Egy Francisco de Goya kép címét.

„Az ész álma szörnyeket szül”.

*Cops Used DNA to Predict a Suspect’s Face—and Tried to Run Facial Recognition on It

Latest

Szele Tamás: Navalnij halála

Szele Tamás: Navalnij halála

Ma új fejezet kezdődött Oroszország történetében, aminek az elejét, meglehet, vérrel írják. De ha minden jól megy, a közepétől visszatérnek a tintához.

Members Public