Discussie rond de door DNA-verkregen gezichtsprofielen door Corsight

0
37

Een politieagent is op de plaats van een moord. Geen getuigen. Geen camerabeelden. Geen duidelijke verdachten of motieven. Gewoon een beetje haar op de mouw van de jas van het slachtoffer – mogelijk afkomstig van de dader. DNA uit de cellen van één streng wordt gekopieerd en vergeleken met een database. Onvoldoende voor verder  onderzoek.  

Corsight AI, een gezichtsherkenningsdochter van het Israëlische AI-bedrijf Cortica, beweert een oplossing voor dat soort situaties te bedenken door DNA te gebruiken om een model van een gezicht te maken dat vervolgens door een gezichtsherkenningssysteem kan worden geleid. Het is een taak die experts in het veld als wetenschappelijk onhoudbaar beschouwen.

Corsight maakte de mogelijkheden van zijn “DNA to Face”  sotware bekend–Het maakte deel uit van de ontwikkelingslijn van het bedrijf, die ook bewegings- en spraakherkenning omvat. Deze tool “construeert een fysiek profiel door genetisch materiaal te analyseren dat is verzameld in een DNA-monster”. Een foto van de beleggerspresentatie van Corsight met zijn product-roadmap met “voice to face”, “DNA to face” en “beweging” als een uitbreiding van de gezichtsherkenningsmogelijkheden.

Corsight weigerde een verzoek om vragen over de presentatie en de sotware te beantwoorden. “We zijn op dit moment niet in gesprek met de pers, omdat de details van wat we doen vertrouwelijk zijn. Maar uit marketingmateriaal blijkt dat het bedrijf zich richt op overheids- en wetshandhavingstoepassingen voor zijn technologie.  

De wetenschap die nodig zou zijn om een dergelijk systeem te ondersteunen, bestaat echter nog niet en experts zeggen dat het product de ethische, privacy- en vooringenomenheidsproblemen die gezichtsherkenningstechnologie al veroorzaakt, zou verslechteren. Nog zorgwekkender is dat het een signaal is van de ambities van de industrie voor de toekomst, waar gezichtsherkenning een facet wordt van een bredere inspanning om mensen te identificeren met alle beschikbare middelen – zelfs als ze minder nauwkeurig zijn.

Het idee van Corsight is niet helemaal nieuw. Human Longevity, een “op genomica gebaseerd, gezondheidsinformatie” -bedrijf opgericht door Silicon Valley-beroemdheden Craig Venter en Peter Diamandis, beweerde dna te hebben gebruikt om gezichten te voorspellen in 2017. MIT Technology Review meldde toen dat experts echter twijfelden. Een voormalige werknemer van Human Longevity zei dat het bedrijf geen persoon uit een menigte kan kiezen met behulp van een genoom.

Een klein DNA-informaticabedrijf, Parabon NanoLabs, biedt ook wetshandhavingsinstanties fysieke afbeeldingen van mensen afgeleid van DNA-monsters via een productlijn genaamd Snapshot, die genetische genealogie en 3D-weergaven van een gezicht omvat. (Parabon publiceert enkele gevallen op zijn website met vergelijkingen tussen foto’s van mensen die de autoriteiten willen vinden en weergaven die het bedrijf heeft geproduceerd.)  Parabon NanoLabs, is een dochteronderneming van Parabon Computation, een leverancier van computersoftware, en werd in 2008 opgericht. Parabon NanoLabs heeft oncologische therapieën en synthetische vaccins ontwikkeld met behulp van nanotechnologie en DNA-fenotypering

De computer-gegenereerde resultaten van DNA-analyse van Parabon worden ook geleverd met een reeks fenotypische kenmerken, zoals oog- en huidskleur, die een betrouwbaarheidsscore krijgen. Een  DNA-analyse kan bijvoorbeeld zeggen dat er een kans van 80% is dat de persoon die wordt gezocht blauwe ogen heeft. Forensische tekenaars passen daarna deze bevindingen aan om waar mogelijk afgeronde gezichtsmodellen te maken die beschrijvingen van niet-genetische factoren, zoals gewicht en leeftijd, bevatten.

De website van Parabon beweert dat zijn software helpt bij het oplossen van gemiddeld één geval per week, en dat het de afgelopen zeven jaar meer dan 200 gevallen heeft opgelost, hoewel de meeste zijn opgelost met genetische genealogie in plaats van samengestelde analyse.

Het gebruik van gezichts-ID-systemen door de overheid explodeerde tijdens de corona pandemie. Van de politie is bekend dat ze forensische gezichtsschetsen uitvoert op basis van getuigenbeschrijvingen via gezichtsherkenningssystemen. Een onderzoek uit 2019 van het Center on Privacy and Technology van Georgetown Law wees uit dat ten minste een half dozijn politiebureaus in de VS “toestaan, zo niet aanmoedigen” met behulp van forensische schetsen, met de hand getekend of door de computer gegenereerd, als invoerfoto’s voor gezichtsherkenningssystemen. AI-experts hebben gewaarschuwd dat een dergelijk proces waarschijnlijk leidt tot lagere nauwkeurigheidsniveaus. Het gebruik van Corsight’s AI op een gemaskerd gezicht levert een betrouwbaarheidsscore van 65% op.

Bredere problemen met de nauwkeurigheid van gezichtsherkenningstechnologie zijn goed gedocumenteerd (onder meer door MIT Technology Review). Ze zijn meer uitgesproken wanneer foto’s slecht belicht zijn of onder extreme hoeken zijn genomen, en wanneer de onderwerpen een donkere huid hebben, vrouwen zijn of erg oud of erg jong zijn.

Het gebruik van de technologie door wetshandhaving is bijzonder beladen. Amazon en Microsoft zijn gestopt met de verkoop van gezichtsherkenningsproducten aan politiegroepen en IBM heeft zijn gezichtsherkenningssoftware van de markt gehaald.

Onderzoekers bij de Computational Imaging Group van het Centrum Wiskunde & Informatica, het nationale onderzoeksinstituut voor wiskunde en informatica in Nederland, stellen dat de wetenschap om een dergelijk systeem te ondersteunen nog niet voldoende ontwikkeld is, althans niet publiekelijk.

Bovendien hebben factoren zoals de omgeving en veroudering aanzienlijke effecten op gezichten die niet kunnen worden vastgelegd door DNA-fenotypering, en onderzoek heeft aangetoond dat individuele genen het uiterlijk van iemands gezicht niet zo veel beïnvloeden als hun geslacht en afkomst. “Voortijdige pogingen om deze techniek te implementeren zouden waarschijnlijk het vertrouwen en de steun voor genomisch onderzoek ondermijnen en geen maatschappelijk voordeel opleveren.

Sero heeft het omgekeerde concept van Corsight’s systeem bestudeerd – “face to DNA” in plaats van “DNA to face” – door een set 3D-foto’s te matchen met een DNA-monster. In een artikel in Nature Communications rapporteerden Sero en haar team nauwkeurigheidspercentages tussen 80% en 83%. Sero zegt echter dat haar werk door aanklagers niet als belastend bewijs moet worden gebruikt en dat “deze methoden ook onmiskenbare risico’s van verdere raciale verschillen in het strafrecht met zich meebrengen die voorzichtigheid rechtvaardigen tegen voortijdige toepassing van de technieken totdat de juiste waarborgen zijn getroffen.

Wetshandhaving is afhankelijk van DNA-datasets, voornamelijk die gratis afkomstig zijn van de website GEDmatch, die een belangrijke rol speelde in de zoektocht naar de beruchte ‘Golden State Killer’. Maar zelfs DNA-bemonstering, ooit beschouwd als de enige vorm van wetenschappelijk rigoureus forensisch bewijs door de Amerikaanse National Research Council, is onlangs onder vuur komen te liggen vanwege problemen met de nauwkeurigheid.

Ondanks dergelijke zorgen groeit de markt voor gezichtsherkenningstechnologie. Corsight is slechts een van de velen die services voor het matchen van foto’s aanbieden.

Veel van deze nieuwe producten proberen gezichtsherkenning te integreren met een andere vorm van herkenning. Het in Rusland gevestigde gezichtsherkenningsbedrijf NtechLab biedt bijvoorbeeld systemen die mensen identificeren op basis van hun kentekenplaten en gezichtskenmerken,  en dat zijn algoritmen proberen “zoveel mogelijk informatie uit de videostream te halen.” In deze systemen wordt gezichtsherkenning slechts een onderdeel van een apparaat dat mensen kan identificeren door middel van een reeks technieken, waarbij persoonlijke informatie in verbonden databases wordt samengevoegd tot een soort gegevens-panopticon.

Corsight’s DNA to face-systeem lijkt het uitstapje van het bedrijf te zijn naar het bouwen van een futuristisch, uitgebreid bewakingspakket dat het aan potentiële kopers kan bieden. Maar zelfs als de markt voor dergelijke technologieën zich uitbreidt, lopen Corsight en anderen niettemin een verhoogd risico op het commercialiseren van bewakingstechnologieën die worden belemmerd door vooringenomenheid en onnauwkeurigheid.

zie: facial recognition using dna