Az Amazon arcfelismerése tévesen 26 kaliforniai törvényhozót bűnözőként jelöl meg



Mivel a kormányzati ügynökségek továbbra is szorgalmazzák az arcfelismerő rendszerek telepítését, nem kell messzire néznie, hogy miért ez a rossz hír. A lényeg szemléltetése érdekében az ACLU tesztelt egy Amazon Rekognition szoftvert – az arcfelismerési technikát, amelyet jelenleg az Egyesült Államok bűnüldöző rendszerei használnak -, amelyben tévesen azonosította a 26 kaliforniai törvényhozót bűnügyi adatbázisban szereplő mérkőzésként.

Szünetet tartunk, amíg kuncogunk a „politikusokhoz vannak bűnözők ”viccek futnak át a fejedben.

Ez az második alkalom, hogy az ACLU futtatja az ilyen típusú tesztet. Az első, a tavaly elvégzett teszt során a Rekognition vadul pontatlan volt, és helytelen és faji szempontból elfogult eredményeket váltott ki, amikor megpróbálta összeegyeztetni a Kongresszus tagjait.

Ma részletesebben, a legújabb ACLU teszt 120 képet készített a kaliforniai törvényhozókról egy 25 000 böngésző adatbázisból. Az Amazon Rekognition szoftver az idő 20% -ában hamis pozitív eredményeket hozott.

Phil Ting, a San Francisco-i közgyűlés tagja, és az egyik hibás mérkőzés az eredményeket felhasználta egy olyan törvényjavaslat támogatására, amely megtiltja a technológia használatát a rendőrség testvéreiben. "Azt akartuk demonstrálni, hogy ez a szoftver egyáltalán nem készen áll a főműsoridőre" – mondta Ting egy sajtótájékoztatón. "Miközben törvényhozóként nevethetünk, nem jelent nevetést az a munka, aki munkát próbál megszerezni, ha ön otthon akar otthont szerezni."

Egy Amazon szóvivője mondta TNW:

Az ACLU ismét tudatosan hamisan használja fel és tévesen állítja be az Amazon Rekognition-t a címsorok készítése céljából. Mint a múltban már sokszor mondtuk, az arcfelismerési technológia az ajánlott 99% -os megbízhatósági küszöb mellett és az ember által vezérelt döntés részeként felhasználható a hasznos célok hosszú listájára, az azonosításban való segítségig a bűnözők részéről az eltűnt gyermekek megtalálásának elősegítésére és az emberkereskedelem gátlására. Folytatjuk az arcfelismerési technológia szövetségi jogszabályainak támogatását a felelősségteljes használat biztosítása érdekében, és erre vonatkozó konkrét javaslatainkat megosztottuk mind a politikai döntéshozókkal, mind a blogunkban.

Az ACLU ügyvédje, Matt Cagle, aki az UC Berkeley-vel együttműködött a kritika ellen vitatott eredmények független ellenőrzésében. Egy hozzászólásban Gizmodo, Cagle elmondta, hogy az ACLU nem használta a 99 százalékos megbízhatósági küszöböt, mert ragaszkodott az Amazon szoftverének alapértelmezett beállításaihoz – ez 80 százalékos megbízhatósági pont.

Az Amazon megcáfolta az állítást, rámutatva egy blogbejegyzésre, amelyben megjegyzi, hogy a Rekognitiont nem szabad 99 százaléknál alacsonyabb megbízhatósági szint mellett használni. Ez természetesen csak további kérdéseket vet fel. Pontosabban, miért nem a szoftver 99% -a az alapértelmezett beállítás?