Microsoft, il ghiaccio e il problema con la tecnologia "neutrale"

Quando cerchi parole per descrivere IBM, pensi solido e sereno, ma è anche macchiato. Durante la seconda guerra mondiale, sotto la direzione del suo presidente e CEO Thomas Watson, IBM aiutò a meccanizzare il lavoro amministrativo del Terzo Reich.

La consociata tedesca della società, con la collaborazione e il coordinamento della casa madre, istituì campi di concentramento con macchine ordinate per lo smistamento delle carte che aveva gestito, applicazioni personalizzate e fornito di carta per tenerle nelle schede perforate. Le informazioni sfornate da quelle macchine Hollerith hanno contribuito a mettere gli ebrei dietro la recinzione di filo spinato che milioni di persone non sarebbero fuggiti.

Oggi, migliaia di bambini di immigrati e richiedenti asilo si trovano nelle loro gabbie a maglie di catena nei centri di detenzione statunitensi, con codici a barre avvolti attorno ai polsi. Le aziende dietro la tecnologia che ne tiene traccia, o no, non sono ansiose di vantarsi di questo fatto.

A gennaio, Microsoft ha parlato della sua partnership con Immigration and Customs Enforcement (ICE), che utilizza il servizio cloud Azure Government di Redmond. Il post è riemerso questa settimana in mezzo al tumulto per la politica di separazione dei minori del governo al confine e, per un breve periodo, qualsiasi menzione dell'ICE è stata cancellata da esso. Fonti con conoscenza del problema hanno riferito a PCMag che un dipendente l'ha eliminato dopo aver visto i commenti sui social media; è stato restaurato poco dopo.

La fonte ha anche detto che non credono che i servizi di Azure o Azure vengano utilizzati nella separazione delle famiglie al confine meridionale, qualcosa che il CEO Satya Nadella ha fatto eco in una lettera che condanna la politica dell'amministrazione di separare le famiglie. Ha affermato che Azure viene utilizzato da ICE solo per carichi di lavoro legacy di posta, calendario, messaggistica e gestione dei documenti.

Ma davvero, non può essere sicuro di come l'agenzia utilizza i suoi servizi. Alcuni dipendenti Microsoft sembrano essere d'accordo; hanno scritto una lettera aperta chiedendo alla società di terminare il contratto con ICE. Gli sviluppatori su GitHub, che Microsoft ha recentemente acquisito, hanno fatto lo stesso.

È qui che le aziende tecnologiche devono prendere decisioni per motivi morali; vogliono fare affari con entità governative impegnate in lavori che l'Alto Commissario delle Nazioni Unite per i diritti umani ha definito inconcepibili?

Controversia sul riconoscimento delle immagini

Sebbene abbia un profilo più basso, Vigilant Solutions ha firmato un contratto con ICE per il suo programma di riconoscimento delle targhe (LPR), che viene utilizzato per trovare e rintracciare le persone in tempo reale. "La nostra soluzione LPR non è solo per la ricerca di veicoli rubati. È per quello e molto altro", afferma il sito dell'azienda.

Vigilant Solutions non ha risposto a un'inchiesta sul suo lavoro con ICE. E non è l'unica azienda a rimanere a bocca aperta sulla tecnologia di riconoscimento delle immagini utilizzata dalle forze dell'ordine e dalle agenzie governative.

Amazon Rekognition utilizza il deep learning per rilevare oggetti, persone e attività inanimati. Alla domanda su usi legali ma forse discutibili a livello sociale se ICE dovesse diventare un cliente, un portavoce di Amazon riconosce il potenziale di abuso, ma ha dichiarato che Rekognition è soggetto alla politica di utilizzo accettabile dei servizi Web di Amazon.

Una lettura della politica risulta insufficiente in modi che potrebbero impedire comportamenti discutibili. La sezione più pertinente vieterebbe "Qualsiasi attività illegale, che viola i diritti di altri o che potrebbe essere dannosa per gli altri, le nostre operazioni o reputazione".

Il rekognition non è utilizzato dall'ICE, ma è utilizzato da diversi dipartimenti di polizia, cosa che preoccupa alcuni azionisti di Amazon, che hanno chiesto alla società di interrompere la vendita di Rekognition alle forze dell'ordine.

NBC News ha scoperto una serie di aziende tecnologiche che hanno contratti con ICE, tra cui HP Enterprise, Dell e Motorola. Una società che assiste ICE non dovrebbe sorprendere: Palantir. Ha un accordo di $ 41 miliardi per il prodotto Investigative Case Management di ICE, che è "mission-critical" per l'agenzia, secondo i documenti ottenuti da The Intercept.

Il co-fondatore e presidente di Palantir, Peter Thiel, è stato un costante sostenitore di Donald Trump sin dalla sua campagna. Lo stesso Thiel non ha parlato della situazione alla frontiera, ma nel 2008 ha fatto una donazione di 1 milione di dollari al gruppo anti-immigrazione NumbersUSA, che si dedica alla riduzione dell'immigrazione legale e illegale. Apparentemente Thiel non vede ironia nel diventare cittadino della Nuova Zelanda aggirando il solito processo.

I contratti governativi sono attendibilmente redditizi, ma il profitto da attività così simili a quelle che hanno portato ad alcune delle peggiori atrocità della storia ha un prezzo troppo alto. Basta chiedere a Google, che è stato alle prese con obiezioni al suo lavoro con il Pentagono su un controverso programma di droni. La capitale sociale della Silicon Valley ha guadagnato nel corso degli anni e le sue capacità e competenze dovrebbero essere messe a sradicare gli orrori del nostro passato per un futuro migliore.