Tecnologia: come risolvere ciò che non va in Google e Facebook

Forse il tema più sorprendente della Techonomy di quest'anno è stato il modo in cui molti dei relatori sono arrabbiati con Facebook, Google e Twitter, con critiche incentrate sul loro approccio alla privacy e in particolare sul possibile ruolo che hanno svolto nel consentire l'hacking russo delle elezioni del 2016.

Un'ampia varietà di oratori ha spinto per vari tipi di regolamentazione di questi "Giganti di Internet" e nessuno delle società sopra menzionate era presente alla conferenza per fornire un punto di vista alternativo. Questo è stato molto diverso dalla conferenza dell'anno scorso, quando il CEO di Facebook Mark Zuckerberg ha affermato che l'idea di notizie false su Facebook influenzasse le elezioni era "un'idea piuttosto folle".

Da allora, come ha osservato il co-fondatore di Techonomy Simone Ross, abbiamo appreso che "la tecnologia ci rende tanto facile dividerci quanto unirci." Il co-fondatore della conferenza David Kirkpatrick (sopra) ha dato il tono alla conferenza, dicendo che "la tecnologia è una forza per il bene, ma solo se il bene è il tuo obiettivo" e ha continuato dicendo che credeva che le grandi aziende tecnologiche avrebbero bisogno di un "proattivo intersezione "con il governo, che si chiami regolamento o no.

Autorità in un mondo in rete, artificialmente intelligente

Il noto investitore Roger McNamee di Elevation Partners, uno dei primi investitori in Facebook e Google, è stato forse il più negativo di tutti gli oratori. McNamee ha affermato che queste società "hanno iniziato a salvare il mondo", ma questo è cambiato quando la pubblicità è diventata il loro modello di business. Ha detto che lo smartphone, combinato con le informazioni personali, ha permesso di "creare un livello di hacking del cervello che non è mai stato visto prima nei media".

McNamee ha affermato di credere che Zuckerberg fosse sincero quando ha affermato di non credere che un tale hacking fosse possibile un anno fa, ma ha affermato che il ruolo che Google e Facebook svolgono ora non può essere sopravvalutato. Ha commentato, "deve essere difficile essere loro ora e rendersi conto che hai distrutto la civiltà occidentale".

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Electronic Information Information Center (EPIC); Stratford Sherman, Accompli

Questa discussione è nata in parte in un panel su "Autorità in un mondo in rete e artificialmente intelligente" che includeva anche Danah Boyd, una scienziata sociale di Data & Society e Microsoft Research; Marc Rotenberg, presidente dell'Electronic Privacy Information Center (EPIC); e moderatore Stratford Sherman of Accompli. Sherman ha affermato che mentre Facebook e Google hanno iniziato come forum per discorsi pubblici, sono "radicalmente non regolamentati". Con l'IA che potrebbe avere un impatto sostanziale sulla razza umana all'orizzonte, Sherman ha affermato di essere preoccupato per le conseguenze indesiderate dello sviluppo tecnologico che abbiamo già visto.

Rotenberg ha affermato che, pur rimanendo preoccupato per le tradizionali preoccupazioni sulla privacy per essere monitorato e profilato, è ugualmente preoccupato per la mancanza di concorrenza, la mancanza di innovazione e il rischio per le istituzioni democratiche. Ha detto che i giganti di Internet hanno un potere enorme e che i dati in loro possesso creano una vera barriera d'ingresso, quindi non c'è concorrenza significativa. Rotenberg ha dichiarato di essere stato a Washington dall'amministrazione Reagan e, per la prima volta, "le elezioni dell'anno scorso non sono state familiari."

In una sessione precedente, Boyd, che aveva scritto un libro intitolato It's Complicated , parlava della difficoltà di affrontare la manipolazione su Internet.

Ha parlato di un crescente processo di manipolazione nel corso degli ultimi 20 anni, che è iniziato con i bambini che trollano Oprah e sono passati a "rickrolls" e cose come cambiare i risultati della ricerca con il nome di "Santorum". Più recentemente, con Gamergate, un cast più ampio di personaggi è diventato un giocatore, inclusi attori statali. boyd ha affermato che le aziende di Internet pensano che l'IA possa proteggerli, ma i gruppi che cercano di manipolare i risultati stanno già sperimentando l'elaborazione del linguaggio naturale e, soprattutto, manomettendo le fonti di dati. A suo avviso, l'iniezione di dati errati in un sistema, ad esempio, è una nuova vulnerabilità. Tuttavia, Boyd ha affermato che l'unica risposta sarà "costruire anticorpi tecnici nel nostro settore".

In questa sessione, Boyd ha affermato che le società tecnologiche stanno facendo i conti con la manipolazione su più fronti e ha osservato che mentre tutti guardano la Russia, ci sono molti altri stati che perseguono azioni simili. Ad esempio, le società cinesi stanno cercando di assicurarsi che controlleranno l'IA, e ha affermato che ciò rappresenta una sfida diversa perché non si tratta di concorrenza industriale ma di competizione con uno stato.

Alla domanda di Sherman se questa è una guerra, Boyd ha detto che pensa che lo sia, mentre McNamee ha detto che è la classica guerriglia in quanto i nostri nemici hanno usato la nostra tecnologia contro di noi. McNamee ha affermato che il problema non è rappresentato dai social network o dalla ricerca, ma dal modello pubblicitario. Ha detto nella battaglia per l'attenzione della gente, la sostanza viene seppellita dalla sensazione e ha citato il vecchio adagio che "se sanguina, conduce".

Sherman ha osservato che la paura e la rabbia sono molto più magnetiche e quindi molto meno costose. Ha affermato che sebbene siano stati utilizzati messaggi organici per raggiungere più di 125 milioni di persone, l'obiettivo dello sforzo era che le pubblicità dividessero le persone in gruppi in base a interessi condivisi.

Rotenberg ha dichiarato di essere favorevole a rendere trasparenti gli algoritmi e la pubblicità regolamentata, ma ha affermato che dobbiamo rispettare il diritto delle persone di parlare online. Ma McNamee ha affermato che "il primo emendamento è stato armato" e che gli spazi online sono fondamentalmente diversi dalla piazza pubblica.

boyd ha descritto quello che lei chiama "effetto boomerang" o, in altre parole, l'idea che indurre i media a riferire su cose oltraggiose sia il punto, perché ciò rafforza il messaggio originale al segmento del pubblico che diffida nei media. Ad esempio, Boyd ha parlato di Pizzagate. Ha notato che prima di Internet, i media hanno spesso usato il "silenzio strategico" per evitare di coprire cose come i suicidi e i raduni di Klan per evitare di pubblicizzarli.

Rotenberg ha convenuto che gran parte di questa tradizione di diligenza e supervisione è andata perduta, e ha affermato che cose come la Sezione 230 (che afferma che le società Internet non sono responsabili di cose come i messaggi degli utenti) ha reso più difficile la concorrenza delle notizie tradizionali.

Alla ricerca di soluzioni, McNamee ha affermato che Facebook è un cult e che deve smettere di negare il problema e affrontarlo, oltre a iniziare ad affrontare la "deprogrammazione" contattando ciascuno dei suoi utenti. Rotenberg ha promosso l'idea di regolamentazione. E Boyd ha suggerito che dobbiamo investire denaro nella società, per "ricollegare" l'America.

Reckoning With the New Hegemonists

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, The University of Alabama; David Kirkpatrick, Techonomy

In un primo panel su "Reckoning with the New Hegemonists", quasi tutti erano d'accordo con Joyce Vance dell'Università dell'Alabama, che ha affermato che la tecnologia ha davvero superato la legge, che deve disperatamente recuperare. Ma Vance ha avvertito che esiste anche il rischio di risposte politiche "sbagliate".

Dave Morgan di Simulmedia ha affermato che "ci sarà regolamentazione", anche se ha detto che è possibile che le grandi aziende possano essere in grado di evitare gran parte del suo impatto.

Morgan ha osservato che la storia dell'industria dei media offre parallelismi con ciò che vediamo ora, poiché i giornali si sarebbero visti come società di stampa e le prime società di radiodiffusione si vedevano come società tecnologiche. Tutti questi consentono la fornitura di contatto con i consumatori, che è chiaramente ciò che fanno Google e Facebook. Molti casi antitrust sono nati a causa di un potere mediatico così concentrato, e il governo è stato in grado di regnarli. Una grande differenza oggi è che le altre tecnologie hanno richiesto un nesso geografico, di cui le società Internet non hanno bisogno.

Vance ha osservato che il Senato sta ora prendendo in considerazione un disegno di legge che richiederebbe a queste società di preservare la loro storia pubblicitaria, oltre a chiarire chi sta pagando per gli annunci politici. Morgan ha sottolineato che ora si tratta di aziende globali con una portata più ampia. Alla domanda sulle normative europee sulla privacy del GDPR, Vance ha affermato che gli Stati Uniti potrebbero aver ceduto la leadership all'UE in questo settore. Ha affermato di non ritenere che le società statunitensi saranno in grado di conformarsi in modo diverso nelle diverse aree geografiche, quindi per impostazione predefinita le società si conformeranno alle normative europee.

Mark Mahaney di RBC Capital Markets ha affermato che le società sono già sottoposte a regolamentazione, in particolare nell'Unione europea, con Google in particolare sotto controllo per raggruppare o promuovere i suoi servizi insieme ai risultati di ricerca o con Android. Kirkpatrick ha affermato di ritenere che l'insediamento antitrust abbia effettivamente aiutato Microsoft, ma Mahaney ha ribattuto che non sono stati i regolatori a fermare Microsoft, ma la concorrenza.

La tecnologia e il governo possono salvare la democrazia?

Tim Hwang, Nota fiscale; Minnie Ingersoll, Code For America; Marc Rotenberg, Centro di informazioni sulla privacy elettronico; Molly Turner, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Un argomento simile è emerso in una tavola rotonda per la colazione, intitolata "Can Tech and Government Save Democracy?", In cui il moderatore Jon Fine della rivista Inc ha chiesto soluzioni. Tuttavia, la tavola rotonda non ne ha inventato nessuno.

Hwang ha affermato che il problema non è rappresentato dalle piattaforme tecnologiche, ma piuttosto dalla rabbia che le persone provano a causa della disconnessione dall'economia.

Lawrence Norden, del Brennan Center presso la NYU School of Law, afferma che le leggi che richiedono una maggiore divulgazione sugli annunci politici sono una risposta facile, ma che sfortunatamente il grosso problema sono i "post oscuri" o post di origine sconosciuta. A tale proposito, ha affermato, Internet è più simile a una piazza.

Ma Rotenberg ha detto che è il contrario, e che Internet è più simile a una città aziendale, dove le piattaforme stabiliscono le regole e decidono ciò che vedi. Minnie Ingersoll di Code For America ha chiesto se il problema è l'interferenza straniera o se Google controlla ciò che diciamo. Le autorità di regolamentazione devono comprendere meglio i problemi, ha affermato.

Molly Turner della UC Berkeley Haas School of Business ha affermato che Internet è diventato il più grande veicolo di espressione, ma teme che stia minando il discorso civile. D'altra parte, si preoccupa dei requisiti per le piattaforme di rimuovere determinati tipi di informazioni (se il Communications Decency Act è stato indebolito, ad esempio, o a causa di altri tipi di regolamentazione), perché improvvisamente in quel caso la piattaforma diventa "l'arbitro di discorso."

Rotenberg ha risposto che mentre le case automobilistiche un tempo combattevano le norme di sicurezza, alla fine queste hanno contribuito a rendere le auto più sicure e hanno portato a una maggiore innovazione. Un ambiente normativo stabile potrebbe effettivamente aiutare le piattaforme, ha suggerito. Rotenberg ha osservato che le società tecnologiche hanno spinto la "neutralità della rete" per le società di telecomunicazioni, ma non per se stesse, e hanno chiesto condizioni di parità.

Internet sotto attacco

Mark Anderson, Servizio di notizie strategiche; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, New America; David Kirkpatrick, Techonomy

Un panel finale chiamato "Internet Under Attack" ha continuato questa discussione.

Rebecca MacKinnon, che gestisce il progetto di classificazione dei diritti digitali a New America, ha affermato che una volta si supponeva che, grazie a Internet, i regimi autoritari sarebbero diventati più simili alle democrazie. Ora ha più paura che i regimi autoritari e le democrazie si "incontrino nel mezzo".

MacKinnon ha affermato che i regimi autoritari stanno adattando Internet ai loro scopi, mentre le democrazie affrontano populismo, manipolazione e "capitalismo di sorveglianza". Ma, ha detto, le democrazie dovrebbero stare attente a una risposta normativa - mentre concorda sul fatto che c'è bisogno di maggiore trasparenza quando si tratta di algoritmi e privacy, è preoccupata che un sistema di censura renderebbe più semplice reprimere le parti della società il disprezzo del governo.

Peder Jungck, a capo dell'intelligence e della sicurezza di BAE Systems, ha convenuto che i governi vorrebbero utilizzare tali sistemi per trovare dissidenti e ha affermato che un'idea è un prodotto e, come qualsiasi prodotto, può essere promossa. Alla domanda se i sistemi di annunci sono armati, ha detto, "Pandora's Box è stato aperto e non possiamo tornare indietro".

Mark Anderson, di Strategic News Service, ha affermato di aver visto una linea retta dai giorni di ARPANET, quando non c'erano cattivi, ad oggi, quando vediamo un comportamento sempre più dannoso di giorno in giorno.

Anderson è stato particolarmente chiaro nel descrivere come la Cina sta rubando la proprietà intellettuale e la usa per far fallire le aziende. E ha suggerito che l'hack di Equifax aveva tutti i segni di un attacco governativo. Riassumendo, Anderson ha detto che "non vede una soluzione".

Jungck ha detto che dovremmo presumere che i cattivi siano nei nostri sistemi e che lavorino su soluzioni. Ad esempio, ha detto che un numero di previdenza sociale non è più sicuro, quindi potremmo invece aver bisogno di una soluzione blockchain.

Nel progetto di classificazione dei diritti digitali, MacKinnon ha valutato 22 aziende globali su 35 domande su libertà di espressione, privacy e sicurezza. Ha detto che due società hanno ottenuto "Ds" e tutti gli altri hanno fallito. Vuole sapere cosa stanno facendo le aziende con i tuoi dati; con chi lo condividono; se stanno facendo due diligence, valutazioni di sicurezza e governance per i rischi; e se stanno proteggendo la privacy e la sicurezza, il contenuto e l'espressione. La trasparenza non è sufficiente, ha detto, ma è un primo passo necessario.

Anderson ha affermato che la trasparenza è una buona cosa, ma non una soluzione, e ha osservato che qualcuno che vuole manipolare un sistema non deve pagare per le pubblicità, ma può usare 100.000 botnet. Kirkpatrick ha quindi suggerito che le aziende potrebbero imporre l'identità e quindi ridurre l'uso delle botnet.

Ma MacKinnon ha ribattuto che sono gli attivisti per i diritti umani i più vulnerabili all'uso di tali sistemi, perché se si impone l'identità, nessuno che si oppone a un governo autoritario sarebbe sui social network.

Jungck si è chiesto perché dobbiamo imporre un'identità quando i siti sanno già chi sei e cosa comprerai. "Non c'è anonimato su Internet, è passato molto tempo", ha detto. L'unica differenza è quanto tempo ci vuole per capire chi sei.

In conclusione, MacKinnon ha dichiarato di essere ottimista a lungo termine, ma per i prossimi 100 anni "non tanto".

Ascoltando tutto ciò, è facile essere pessimisti, o almeno fatalisti sulla quantità di regolamentazione necessaria e sull'impatto che avrà. Ma tendo ancora ad essere un ottimista, e mentre penso che una certa quantità di regolamentazione aggiuntiva sia sia probabile che necessaria, credo sia altrettanto probabile che i giganti di Internet di oggi - o alcuni giocatori futuri - troveranno risposte migliori.

Con quale probabilità consiglieresti PCMag.com?