Skip to content
Home » Gezichtsherkenningstechnologie maakt mensen van kleur slachtoffers. Het moet worden gereguleerd.

Gezichtsherkenningstechnologie maakt mensen van kleur slachtoffers. Het moet worden gereguleerd.

    Gezichtsherkenningstechnologie maakt mensen van kleur slachtoffers.  Het moet worden gereguleerd.
    Een gezichtsherkenningsdemonstratie op CES 2017

    Een live demonstratie gebruikte kunstmatige intelligentie en gezichtsherkenning op een robotica-expositie in het Las Vegas Convention Center tijdens CES 2019. (David McNew/AFP/Getty Images/TNS)

    (TNS) — Vorig jaar hoorde een subcommissie van het Amerikaanse Huis van Justitie een schrijnend, maar steeds vaker voorkomend verhaal over onrecht. Robert Williams, een zwarte man, werd in 2020 gearresteerd op verdenking van het stelen van horloges uit een winkel in Detroit. Maar hoewel hij al jaren niet meer in die winkel was geweest, nam de politie hem mee in een politieauto voor de ogen van zijn twee jonge dochters. Hij werd meer dan 30 uur vastgehouden voor een misdaad die hij niet had begaan.

    De politie die de verkeerde verdachte identificeert, is niet nieuw. Nieuw is hoe de politie dit soort fouten maakt. In het geval van Williams gebruikte de Detroit Police Department het gezichtsherkenningsprogramma van de Michigan State Police om een ​​verdachte te identificeren op basis van een korrelig bewakingsbeeld. De technologie gebruikte Michigan’s database met rijbewijsfoto’s om op Williams te landen als een mogelijke match – een hightech-fout met ernstige menselijke gevolgen. Het is essentieel dat er een federale wet wordt gemaakt om dit soort fouten door wetshandhavers te helpen voorkomen.

    Volgens een studie van het National Institute of Standards and Technology uit 2019 hebben de krachtige surveillancetools die tegen Williams werden gebruikt tot 100 keer meer kans om Aziatische en zwarte mensen verkeerd te identificeren dan blanke mannen. Vals-positieve percentages zijn ook verhoogd bij Zuid-Aziatische, Midden-Amerikaanse en Indiaanse mensen. Naast de algoritmische vooroordelen kan gezichtsherkenningstechnologie (FRT) door wetshandhavers worden gebruikt om vreedzame demonstranten te identificeren, kleine overtredingen te onderzoeken en mensen te arresteren zonder enig bewijs van schuld, behalve een enkele FRT-wedstrijd. Als gevolg hiervan is er een steeds groeiende lijst van mensen, vooral mensen van kleur, die het slachtoffer zijn geworden van dit gebrekkige, ongereguleerde bewakingssysteem.


    Zelfs met duidelijke documentatie van hoe onnauwkeurig gezichtsherkenningstechnologie kan zijn, blijft het gebruik ervan groeien. Na zijn verhaal te hebben verteld, riep Robert Williams op tot een moratorium op het gebruik van FRT, wat begrijpelijkerwijs zijn ervaring weerspiegelt. Ik ben het ermee eens dat breed gebruik van gezichtsherkenningstechnologie moet worden verboden. Ik vind het rijp voor misbruik en als Aziatische Amerikaan ben ik me ervan bewust dat mensen die op mij lijken veel meer kans hebben om het slachtoffer te worden van verkeerde matches.

    Maar ondanks inspanningen van advocaten en belangengroepen is er geen federaal moratorium gekomen. Uiteindelijk hebben we een werkbare federale oplossing nodig met brede steun, en we hebben de rekening om ons daar te krijgen. In plaats van een regelrechte verbod, de wetgeving Reps. Jimmy Gomez (D-Calif.), Sheila Jackson Lee (D-Texas), Yvette Clark (DN.Y.) en ik sponsoring hanteren een genuanceerde benadering van de technologie, waardoor wetshandhavers in beperkte omstandigheden kunnen worden gebruikt, terwijl de burgerlijke vrijheden worden gewaarborgd. beschermd.

    De Facial Recognition Act beperkt het gebruik van FRT en beschermt Amerikanen tegen extreem en onethisch gebruik van deze technologie. Het wetsvoorstel beperkt het gebruik van de wetshandhaving tot situaties waarin een bevel de waarschijnlijke oorzaak aantoont dat een persoon een ernstig gewelddadig misdrijf heeft gepleegd. Bovendien verbiedt het wetshandhavingsinstanties om FRT te gebruiken bij protesten en andere grondwettelijk beschermde activiteiten en verbiedt het hen om de technologie te gebruiken in combinatie met lichaams-, dashboard- en vliegtuigcamerabeelden. Dit wetsvoorstel heeft de steun van een brede coalitie, van overheidstoezichtsorganisaties en organisaties voor burgerlijke vrijheden tot gepensioneerde wetshandhavers en juristen.

    De Facial Recognition Act zou verbieden dat een match het enige bewijs is dat de waarschijnlijke reden voor een arrestatie vaststelt – een belangrijke waarborg om te voorkomen dat onschuldige mensen worden meegesleurd in strafrechtelijk onderzoek. Door te eisen dat alle FRT die door wetshandhavers in het hele land worden gebruikt, aan een reeks uniforme normen voldoen, kan het wetsvoorstel ervoor zorgen dat de nauwkeurigheid van de resultaten niet zo enorm zal variëren, afhankelijk van de huidskleur van een persoon.

    Sommige voorstanders van een volledig verbod op FRT zouden kunnen zeggen dat deze aanpak niet ver genoeg gaat – dat alles wat minder is dan een federaal verbod een falen is om een ​​gebrekkige technologie in toom te houden. Ik respecteer die mening, maar ik maak me zorgen over wat er gebeurt als de jaren verstrijken zonder enige gezond verstand beperkingen op FRT. Er is momentum op staats- en lokaal niveau: meer dan een dozijn staten hebben wetten uitgevaardigd die regelen hoe wetshandhaving FRT gebruikt. Dat is een goed begin, maar een versnipperde aanpak beschermt niet alle burgers tegen verkeerde identificatie. Dit wetsvoorstel zorgt voor basisbescherming voor alle Amerikanen, terwijl staten en lokale jurisdicties nog steeds door kunnen gaan met verboden en moratoria.

    Elk jaar breiden meer wetshandhavingsinstanties in het hele land hun gebruik van gezichtsherkenningstechnologieën uit. Het Government Accountability Office meldde dat in juli 2021, van de 42 ondervraagde federale agentschappen, er 20 het gebruikten als onderdeel van hun wetshandhavingsinspanningen. Bovendien vergroten staats- en lokale rechtsgebieden hun afhankelijkheid van FRT. Als we het perfecte de vijand van het goede laten zijn, zullen we omstanders blijven terwijl meer Amerikanen het slachtoffer worden van de tekortkomingen van deze technologie.

    We hebben iets nodig dat kan werken – en iets dat groepen voor burgerlijke vrijheden en wetshandhavers kunnen ondersteunen. De Facial Recognition Act is een aanpak waarop we kunnen voortbouwen en die zou voorkomen dat wat er met Robert Williams is gebeurd, ook anderen overkomt.

    © 2022 Los Angeles Times. Gedistribueerd door Tribune Content Agency, LLC. Ted Lieu, een democraat, vertegenwoordigt het 33e congresdistrict van Californië.


    regerend‘s opiniekolommen weerspiegelen de standpunten van hun auteurs en niet noodzakelijk die van regerendde redactie of het management.