Microsoft analizza come eseguire un negozio etico

Il presidente della Microsoft Brad Smith ha preso l'inusuale passaggio di pubblicare un post sul blog venerdì 13 luglio 2018, in cui ha chiesto al governo di regolamentare la tecnologia che la sua azienda sta sviluppando. Quella tecnologia è il riconoscimento facciale e Smith vede già il pericolo nel consentire l'uso illimitato di tale capacità, soprattutto da parte dei governi. Ma Smith ha anche sottolineato che l'uso improprio del riconoscimento facciale nell'industria privata può avere conseguenze altrettanto strazianti.

Pochi giorni dopo, l'Associazione per le macchine informatiche (ACM) ha pubblicato sul suo sito web il Codice etico e di condotta professionale ACM, che è un nuovo codice di condotta professionale che assume una posizione simile a quella di Microsoft, ma che è molto più ampio nella sua copertura del comportamento etico nel settore dell'information technology (IT). Ciò che accomuna entrambi i post è l'idea di mantenere un alto livello di responsabilità aziendale. È qualcosa che molti professionisti IT cercano di ignorare e lasciare alle persone più in alto nella catena alimentare a pagamento: un atteggiamento che è sia sfortunato che pericoloso.

Smith, nel suo post sul blog, è preoccupato per l'uso improprio del riconoscimento facciale. Si rende conto che, anche nei grandi campus organizzati attorno alla tecnologia attuale, in particolare i token di sicurezza come quelli impiegati da molti sistemi di gestione delle identità, è possibile tenere traccia molto vicino di dove si trovano le persone e, da lì, scovare ciò che stanno facendo. Ma con il riconoscimento facciale, è possibile individuare individui da qualsiasi folla in qualsiasi luogo e non solo tenere traccia della loro posizione, ma anche tenere traccia di dove sono stati basati su pochi dati a parte le loro caratteristiche fisiche. Come sottolinea Smith, tale tracciamento sta già avvenendo in Cina. Smith sta chiedendo una commissione per studiare l'uso e le conseguenze del riconoscimento facciale negli Stati Uniti.

Riconoscimento facciale come forma di identità affidabile

Chiaramente, in molti casi, il monitoraggio 24x7 dei movimenti di una persona è illegale negli Stati Uniti, come evidenziato dalle recenti decisioni della Corte suprema degli Stati Uniti relative all'uso del rilevamento della posizione del cellulare e all'uso di dispositivi GPS senza un mandato. Ma ciò non significa che qualche agenzia, da qualche parte, non ci proverà.

Allo stesso modo, non c'è dubbio che il riconoscimento facciale sia progredito al punto da poter essere utilizzato come una forma di identificazione (ID) affidabile. Alcune compagnie aeree stanno già testando il riconoscimento facciale per il passaggio attraverso le linee di sicurezza e per l'uso negli aerei d'imbarco all'aeroporto internazionale di Los Angeles (LAX). Allo stesso modo, quando sono tornato a Washington, DC, su un volo da Londra il mese scorso, tutto ciò che mi è stato necessario per entrare negli Stati Uniti era una visione del mio viso da una telecamera e una scansione delle mie impronte digitali mentre il mio passaporto veniva scannerizzato da un lettore.

Riconoscimento facciale: passaggi successivi

Quindi, la domanda è: qual è il prossimo passo? Come professionista IT, supponiamo che ti sia stato chiesto di creare un sistema di riconoscimento facciale per il tuo datore di lavoro che identificasse le persone che l'azienda non desiderava sulla loro proprietà o sede. Forse avevano superato un brutto controllo, erano sospettati di taccheggio o erano un impiegato licenziato.

Cosa faresti? Tutti questi sono buoni motivi per non consentire a una persona di entrare nel tuo negozio o nella tua proprietà. È probabile che non avresti molti problemi a trovarne le foto, quindi il sistema di riconoscimento dovrebbe essere in grado di identificarle facilmente. Allora, qual è il prossimo?

Questa è la parte del tuo processo decisionale, in cui devi decidere come utilizzare il riconoscimento facciale o altri dati biometrici per quella materia, come parte delle tue politiche di sicurezza. Non è così semplice come la tua risposta a un avviso malware da uno dei tuoi nodi di protezione endpoint. Queste risposte non possono essere facilmente automatizzate. Quindi, faresti scattare una sveglia? Pagina il gestore della struttura? Avviso di sicurezza? Chiama la polizia? La risposta a uno di questi potrebbe essere sì, ma potrebbe anche essere no, e prendere la decisione sbagliata potrebbe essere un errore che ha portato alla fine della carriera.

7 consigli sull'utilizzo del riconoscimento facciale con saggezza

Ecco alcuni suggerimenti che potrebbero aiutare a ridurre la possibilità di problemi pur proteggendo l'organizzazione:

Pubblica avvisi in cui visitatori e dipendenti li vedranno, informandoli che stai utilizzando video di sorveglianza e riconoscimento facciale come parte dell'operazione di sicurezza. (I tuoi avvocati saranno felici di aiutarti con la lingua attuale.)

Assicurati che ci sia un essere umano nel loop prima di eseguire qualsiasi azione sulla base di qualsiasi tipo di ID biometrico. Mentre sta migliorando, il riconoscimento facciale, come altri dati biometrici, non è affidabile al 100%. Prima di agire, qualcuno deve confermare ciò che dice il sistema di riconoscimento. (Collaborare con l'ufficio legale e il senior management per mappare questo.)

Riconosci i limiti del tuo sistema ID facciale o biometrico. Ad esempio, l'attuale tecnologia di riconoscimento facciale funziona meglio con i maschi bianchi ma non così bene con le femmine non bianche. Devi assicurarti di non eseguire inavvertitamente la profilazione razziale. Ricorda il dolore che ha colpito le aziende, da CVS a Starbucks, quando, intenzionalmente o no, hanno fatto proprio questo. (Tutto sommato, un'ottima discussione da avere con il vostro team legale.)

Assicurati che ci sia una procedura "Spiacenti". Avrai ID errati, quindi devi assicurarti che non mettano in imbarazzo la persona o l'azienda. (Anche in questo caso, sia gli avvocati della tua azienda che i dirigenti senior dovrebbero pesare qui.)

Determina in anticipo dove condividerai i risultati dei tuoi controlli ID. Non puoi semplicemente inviare tutto a varie autorità governative. Devi determinare cosa puoi condividere, cosa non puoi condividere e cosa richiede un mandato. Quindi assicurati che le tue procedure interne siano forti in modo che i tuoi dipendenti non provino a ottenere il favore condividendo ciò che non dovrebbe essere condiviso. (Questa è probabilmente una conversazione più lunga con i tuoi avvocati, quindi ordina in una pizza.)

Metti continuamente alla prova i tuoi sistemi ID rispetto ai set di dati più noti in modo da poter rendere il riconoscimento più accurato. (Il tuo fornitore di riconoscimento facciale dovrebbe avere tali set di dati disponibili e, nel tempo, sarai in grado di crearne uno tuo.)

• Infine, fai attenzione a chi ti rivolgi per il riconoscimento. I membri del pubblico hanno forti diritti sulla privacy e la tua violazione di tali diritti può costare caro alla tua organizzazione. (Indovina un po '? Più tempo per l'avvocato.)

Mentre la tua azienda non può controllare ciò che il governo decide di fare in merito al riconoscimento facciale, il che probabilmente non è nulla data l'atmosfera disfunzionale a Washington, DC in questi giorni, puoi controllare ciò che accade nei tuoi locali. In effetti, ci si aspetta che ti trovi di fronte a un giudice. Seguire i principi etici dell'ACM di essere onesti e affidabili e prendere provvedimenti per non discriminare proteggendo la privacy sono diventati più importanti che mai.