la questione razziale

Riconoscimento facciale e pregiudizi etnici: Amazon e Ibm contro la polizia Usa

Grandi compagnie spingono per normative governative più rigorose sull'uso delle tecnologie di riconoscimento facciale e ritirano il proprio appoggio alla polizia

di Biagio Simonetta

11 June 2020

3' min read

C'è una foto molto virale, che in questi giorni sta facendo il giro dei social network. È quella di George Floyd che porta in spalla sua figlia Gianna, 6 anni. Le parole della piccola in un video girato nelle ultime ore, sono: «Papà ha cambiato il mondo». E visto quello che sta succedendo in questi giorni, dopo la morte dell’uomo soffocato da un agente di polizia, non sembra una frase di circostanza.

Al di là di tutto quello che sta succedendo negli Stati Uniti con la ormai evidente frattura fra cittadini e forze dell’ordine (stanno crescendo enormemente i movimenti che vogliono smantellare e rifondare la Polizia), c'è un piccolo terremoto tecnologico che sta prendendo piede. Ed è quello che riguarda il riconoscimento facciale.

In poche ore, infatti, due aziende del calibro di Amazon e IBM hanno di fatto voltato le spalle alla polizia statunitense, bocciando l'utilizzo delle tecnologie per il riconoscimento facciale. In entrambi i casi, si tratta di prese di posizioni nette.

Lo stop di IBM

In una lettera al congresso USA, il nuovo Ceo di IBM, Arvind Krishna, ha spiegato che la sua azienda «si oppone fermamente» e che «non accetterà l'utilizzo di qualsiasi tecnologia di riconoscimento facciale, incluse quelle offerte da altri fornitori, per fini di sorveglianza di massa, profilazione etnica, violazione di diritti umani e libertà. O per altri fini che non corrispondano ai nostri valori e principi di fiducia e trasparenza».

Lo stesso Krishna ha sottolineato l’esigenza ormai irrimandabile di un «dibattito nazionale su se e come la tecnologia di riconoscimento facciale debba essere impiegata dalle forze dell’ordine interne». L'intelligenza artificiale «è uno strumento potente che può aiutare le forze dell'ordine a mantenere i cittadini al sicuro», ha detto ancora Krishna, ma chi vende quei sistemi (e chi poi li utilizza) «ha responsabilità condivise, e deve fare in modo che la tecnologia sia a prova di pregiudizi, specie quando usata dalle forze dell'ordine».

Anche Amazon si smarca

Le parole del Ceo di IBM hanno dato una prima scossa all'ambiente, e – pur senza nominarla – hanno tirato in ballo Amazon, che una tecnologia di riconoscimento facciale (la famigerata “Rekognition”) l'ha data già da tempo in uso alle forze di polizia. Così il colosso di Seattle, proprio in queste ore, ha deciso di vietare alla polizia l'utilizzo della la sua tecnologia di riconoscimento facciale. Un blocco che, per ora, ha la durata di un anno.

«Stiamo spingendo per normative governative più rigorose sull'uso etico delle tecnologie di riconoscimento facciale – hanno fatto sapere da Amazon - e il Congresso sembra pronto a raccogliere la sfida. Speriamo che questa moratoria di un anno possa dare al Congresso tempo sufficiente per attuare le regole appropriate e siamo pronti a fornire aiuto se richiesto». Da Seattle hanno fatto sapere che l’utulizzo di Rekognition per monitorare il lavoro a favore delle vittime della tratta di esseri umani e per ritrovare bambini scomparsi sarà ancora possibile. Per il resto, si attende una svolta normativa.

Il modello Cina

Sullo sfondo di questa storia, rimane la Cina, Paese che fa una corsa a sé. Il riconoscimento facciale è parte integrante della strategia di sicurezza imposta dal governo di Pechino. E ne abbiamo avuto contezza durante l'emergenza coronavirus, con telecamere intelligenti poste agli angoli delle strade in grado di riconoscere (per poi sanzionare) i cittadini che non indossavano la mascherina. Ma il riconoscimento facciale, nel Paese del dragone, va ben al di là dell'emergenza. Da anni è ormai fra le fondamenta di uno stato di sorveglianza senza limiti. Le telecamere intelligenti, in Cina, sono un po' ovunque: nei convitti universitari (dove i portieri non servono più) come lungo le strade delle città (dove chi attraversa senza rispettare le regole viene proiettato sui maxi-schermi). Un altro mondo, insomma.

Per approfondire