Șoferii trans sunt blocați din conturile lor Uber

Uber ar putea fi dornic să îmbrățișeze tehnologia de ultimă oră în căutarea dominației drumului, dar un incident recent care a implicat un șofer transgender și caracteristica de securitate de recunoaștere facială a aplicației de transport partajat expune unul dintre numeroasele capcane ale bazei pe algoritmi de computer. Janey Webb, o șoferă trans Uber din Iowa, a fost blocată în aplicație luna trecută, când funcția nu a reușit să o recunoască, făcând-o să piardă zile de muncă și venituri. transmite CNBC .



Sistemul de recunoaștere facială al Uber, Verificare ID în timp real , lansat în septembrie 2016 și solicită șoferilor să trimită selfie-uri intermitente pentru a-și verifica identitatea. Folosind Microsoft Cognitive Services, funcția de siguranță compară selfie-ul cu fotografia șoferului pe care Uber o păstrează în fișier (furnizată la momentul înregistrării șoferului și a procesului de verificare inițială cu aplicația) și suspendă temporar contul șoferului dacă fotografiile nu se potrivesc .

Asta sună ca o caracteristică de siguranță bună, cu excepția cazului în care, ca în cazul lui Webb, ești trans și în proces de tranziție. CNBC raportează că Webb a început să lucreze pentru Uber în octombrie 2017, cam în aceeași perioadă în care a început să facă tranziția. Schimbările în aspectul ei au ridicat în cele din urmă un steag roșu în algoritmul de verificare a ID-ului în timp real.



Webb a spus pentru CNBC că a luat măsuri pentru a-și documenta cu sârguință tranziția în cadrul aplicației, pentru a evita problemele cu caracteristica de securitate și pentru a-i ține la curent pe potențialii pasageri. Dar asta nu a fost suficient. Chiar înainte de weekendul notoriu de trafic intens al patrulea iulie, contul lui Webb a fost înghețat și i s-a cerut să conducă două ore la singurul centru de asistență personal al Uber din Iowa pentru a rezolva problema. Se presupune că i s-a spus că problema ar putea apărea din nou.



„Nu se poate aștepta ca o persoană trans să își actualizeze licența o dată la trei luni sau cam asa ceva pentru a evita dezactivarea”, a spus Webb pentru CNBC. Uber nu a răspuns încă la cererea de comentarii a acestora.

Dincolo de Uber, însă, problema lui Webb cu Verificarea ID-ului în timp real atinge preocupările tot mai mari cu privire la viitorul tehnologiei de recunoaștere facială și al algoritmilor de computer în general, care în general nu au luat în considerare comunitățile marginalizate. Google a colaborat cu GLAAD pentru ajutați la construirea unei IA care să includă LGBTQ după ce am descoperit că termeni inofensivi precum I’m gay s-au înregistrat automat ca negativi atunci când utilizatorii au postat pe platforme de socializare precum Twitter și Facebook.

Anul trecut, polemica a izbucnit când YouTuberii transgender au descoperit că cercetătorii lucrează la tehnologia de recunoaștere facială și-au folosit videoclipurile pentru a furniza date pentru IA, pentru a-l ajuta să-l învețe să recunoască fețele oamenilor care trec prin tranziții medicale. Acest lucru a fost făcut fără știrea sau consimțământul YouTuberilor.



Mulți oameni din comunitățile marginalizate rămân suspicioși față de AI și tehnologia de recunoaștere facială în general. În septembrie anul trecut, un raport al Universității Stanford care susținea că tehnologia de recunoaștere facială ar putea identifica pe cineva drept LGBTQ+ a provocat controverse, atât pentru presupusele persoane. constatări greșite în raport și pentru ideea că tehnologia ar putea fi folosită pentru a dezvălui persoanele LGBTQ+.

Academicieni precum Sherry Turkle, profesor la Institutul de Tehnologie din Massachusetts, au declarat într-un interviu cu NBC OUT că oamenii stranii ar avea dreptate să întâlnească o astfel de tehnologie de recunoaștere facială cu scepticism. Informațiile ar putea fi folosite pentru a ajuta guvernele să creeze înregistrări ale persoanelor LGBTQ+, o mișcare care unele tari se execută deja.

„În primul rând, cine deține această tehnologie și cine are rezultatele?” spuse Turkle. „Problema acum este că „tehnologia” este un slogan care înseamnă cu adevărat „marfă”. Ceea ce înseamnă că tehnologia ta poate spune sexualitatea mea uitându-mă la fața, iar tu poți cumpăra și vinde aceste informații în scopul controlului social.

Dezbaterea etică asupra acestei tehnologii este probabil să continue să se aprindă pe măsură ce funcții precum Verificarea ID-ului în timp real devin obișnuite. Suspendarea contului lui Webb a avut un impact material asupra veniturilor ei și nu va fi ultima femeie trans care va avea o astfel de experiență. Inteligența artificială crește într-un ritm rapid, construind date cumulative pe măsură ce o face, care va deveni doar mai dificil de revenit și de schimbat cu timpul. Dar de ambele părți ale debaclei, pare să existe un consens asupra unui lucru: consecințele pentru persoanele marginalizate ar trebui să fie în prim-plan.