Video: Ellen Ullman on Code, Conscience, and the Museum of Me (Novembre 2024)
Per questo episodio di Fast Forward, ho parlato con Ellen Ullman, autrice di Life in Code, una serie di saggi che iniziano nel 1994 quando era programmatrice nella Silicon Valley. Ora si guadagna da vivere scrivendo per lo più finzione, ma Ullman rimane un acuto osservatore della regione, dell'industria tecnologica e di come gli strumenti che produciamo ci stanno cambiando ogni giorno.
Dan Costa: Le tue radici di programmazione risalgono a parecchi modi. Nel 1978, eri un maggiore inglese che decise di passare alla programmazione. Perché dovresti fare qualcosa del genere?
Ellen Ullman: Beh, sono stato coinvolto in un gruppo che faceva video, la Sony Portapak era una di quelle macchine come il PC. Queste cose che sono state controllate dalle società behemoth improvvisamente erano nelle tue mani. Potresti creare i tuoi video, le tue storie. Potresti andare in giro e mostrarli. Non c'erano restrizioni. Potevi fare porno, ecc., Ed è stato un momento molto eccitante. Ho imparato che mi piaceva lavorare con le macchine. La possibilità di lavorare con queste macchine per realizzare cambiamenti sociali e arte era intrigante. Alla fine, ho lasciato Itaca per andare a San Francisco.
Quindi, d'impulso, l'ho comprato. E poi c'era il problema della programmazione. È un po 'più difficile che iniziare con un Portapak, premere il pulsante. L'ho trovato difficile, ma il buono è difficile. Penso che chiunque voglia dedicarsi all'ingegneria del software debba sentire "Sì, così difficile, ma anche il piacere della caccia". Se non c'è un certo senso di seduzione nel risolvere i problemi, sarà un'esperienza molto infelice.
E la gente di oggi non lo capisce del tutto, quando hai comprato un TRS-80 a Radio Shack, non ha fatto molto. Devi farlo fare le cose. Devi imparare a usarlo, e questo è un po 'l'invito su cui l'hai preso?
Sì, c'era una schermata vuota. All'epoca era già una televisione obsoleta. Aveva una tastiera e tu registravi i programmi su una cassetta bobina a bobina. E penso che contenesse forse 4K. Quella era la dimensione massima del programma. E aveva il linguaggio BASIC. E non so se le persone conoscono la differenza tra linguaggio interpretato e compilato. Interpretato significa che lo esegue proprio di fronte a te. Quindi, sai, inserisci due punti, sai, due più due e ti mostra quattro. È facile, far partire le prime piccole cose. Fare qualcosa di significativo è stato molto difficile, soprattutto perché all'inizio BASIC aveva molte trappole. Come potresti dire "Vai a" ma non è tornato automaticamente indietro. Quindi potresti perdere la strada nel groviglio, ed era noto come il codice Geddy. Ancora una volta, è stato frustrante e intrigante.
Quando stavo guardando il libro e parli di quei primi anni, ciò che mi colpisce sono le persone con cui stavi lavorando. Sembra quasi più una collezione ragtag di artisti che ingegneri e programmatori hardcore. Puoi parlarci un po 'dell'esprit de corps o delle persone con cui stavi lavorando?
Sì. Se guardi indietro e - sai chi è il marchio Stewart, il Catalogo Lectronic di Whole Earth, The Well - quella è stata una delle prime comunità online. E le persone ne erano attratte. Sai il libro di John Markoff, What the Dormouse Said ?
Sicuro.
Sai, stoner e abbandoni e persone che erano semplicemente pazze e volevano divertirsi. Era l'atmosfera che mi ha attirato, come il Portapak. Queste erano persone che si divertivano, esploravano. E anche le prime persone con cui ho lavorato quando ho dovuto prendere un lavoro e guadagnarmi da vivere erano così. Un ex ballerino sufi, una donna che stava facendo una tesi e una storia dell'arte, un ragazzo francese che fumava Gauloise, sebbene non fosse permesso fumare. E diceva: "Un computer non mi ha mai detto di smettere di fumare". E questi sono i tipi di persone con cui abbiamo lavorato.
Da qualche parte tra '83 e '86, è cambiato. L'informatica è diventata una laurea comune, Ingegneria del software. E ci siamo uniti a un gruppo fortemente maschile, auto-selezionato, che aveva studiato Informatica come laurea. E l'atmosfera è completamente cambiata. Le persone erano più difficili con cui parlare. Nella mia esperienza, non sono stati così arrotondati. Questa è una generalizzazione molto ampia.
Ho lavorato con uomini molto ben arrotondati. Potresti citare Shakespeare con il meglio di loro. Ma l'intera atmosfera è cambiata. Immagino sia perché la professione ha dovuto perdere la sua innocenza.
Come ti sei ispirato a scrivere codice?
Bene, ancora una volta era "Wow, che cos'è questo?" Sai, quando ho avviato il mio primo vero programma, c'è stata una scarica di piacere. "Wow, funziona. L'ho fatto." È passato dal nulla a qualcosa. Ed è stato come la prima volta che ho riparato un carburatore. Sai, fai le cose a parte. Li rimetti insieme e la macchina parte, giusto? Quindi questo è un piacere raro ed è difficile da raggiungere. Una volta che ho avuto quella sensazione, era un po 'come una droga, sai. Sei arrivato così in alto e poi lo perdi, e poi lo riavvi, o ci provi.
Ne parli molto nel libro. Dici che tutti dovrebbero imparare a programmare perché è difficile. E quella difficoltà alla fine sarà il senso di soddisfazione che si ottiene da esso.
Non sto dicendo a tutti di imparare a programmare. Come ho detto, le persone devono esserne esposte. Il punto è demistificare il codice. Siamo circondati da algoritmi che ci controllano, e questa non è una novità per nessuno che è stato appena violato da Equifax, per esempio. Un terzo della popolazione adulta degli Stati Uniti. Quindi, il punto è sapere abbastanza che è scritto dalle persone e può essere cambiato dalle persone.
C'è un consigliere nel Bronx che sta proponendo un disegno di legge in cui il distretto esamina tutti gli algoritmi che stanno usando e passano dagli incarichi della polizia ai programmi di raccolta dei rifiuti a quale scuola vanno i bambini e cercano pregiudizi in loro. Questo è il processo che spero, che la gente in generale inizi a vedere che queste cose possono essere cambiate. Hanno pregiudizi e questo pregiudizio può essere affrontato.
Quindi questo ci porta a uno dei tuoi punti principali, ovvero che il codice stesso contiene distorsioni nei contenuti. E penso che, con gli algoritmi, lo porti a un livello completamente diverso. Ma a seconda di chi ha scritto il codice, rifletterà alcuni pregiudizi politici, pregiudizi culturali. Puoi solo parlare un po 'di come questo viene incorporato nel codice stesso?
Bene, gli ingegneri del software non determinano quale codice verrà scritto. Questo viene dall'alto. E le persone in alto sono uomini bianchi molto ricchi e schiaccianti, e il loro desiderio è quello che pensano sia ottimo per la società o quali siano gli incarichi.
Ad esempio, una semplice app di consegna ha selezionato i codici postali. Cosa significa? Che non possiamo fare soldi con persone con redditi marginali? O non vogliamo inviare auto lassù? È un semplice esempio. Entra, è tutto shopping? È quello di cui le persone hanno bisogno? Che tipo di punto di vista sociale esprime?
Dipende dagli algoritmi e anche più in profondità. Ho appena letto un articolo di Phillip Rogaway. Lo ha consegnato nel 2015, e riguarda le implicazioni morali della crittografia. E parla della crittografia come potere. Per chi lo scrivi? Per cosa lo usano? E così puoi vedere dall'app più semplice, fino in fondo a ciò che è considerato matematico, il pregiudizio è integrato.
Penso che ci hai messo sopra un dito quando parli di "È tutto shopping?" perché è certamente tutto motivato dal commercio ora, e il motivo per cui si targetizzano determinati codici postali è perché è possibile fare soldi in quei codici postali. E questo modella il prodotto e poi diventa questo ciclo di rinforzo. La stessa cosa succede con ogni istituto. Questo è il motivo per cui Amazon ha acquistato Whole Foods e non Stop & Shop. È a causa di questi pregiudizi demografici, ed è solo il mercato al lavoro. Ma queste forze di mercato stanno praticamente determinando anche lo sviluppo tecnologico.
Ho un esempio di qualcosa che penso sia semplicemente meraviglioso. C'è stato un gruppo che parlava di "Questo è un codice da zero". No, le persone non sono sedute nei loro spazi chiusi di vetro in cui lavoriamo, decidendo che "sono un non profit e questo andrà a beneficio della società e cambierà il mondo". Questo è un gruppo che lavora sul campo con lavoratori privi di documenti.
E così, si sono avvicinati a un gruppo. Ancora una volta, è arrivato ai programmatori da terra. E dissero: "Puoi costruirci qualcosa?" La maggior parte di questi ragazzi ha app mobili - l'app mantiene l'anonimato, ovviamente - e possono inserire questa targa. "Lo cerchi e non prendi il lavoro." Potresti chiedere, qualcuno fa soldi? Alla fine, sì, perché queste persone che sono un po 'alla disperata ricerca di lavoro non vengono ingannate tanto.
È come un sistema di reputazione. Lo stesso tipo di reputazione, lo stesso integrato in Uber, in cui i ciclisti vengono classificati e i conducenti vengono classificati, e idealmente i migliori piloti e i migliori piloti vengono premiati in qualche modo. È un esempio affascinante. Hai qualche consiglio per le persone che non conoscono il codice o stanno cercando di esplorarlo come opzione di carriera?
Consigli alle persone che vogliono esplorarlo? Prima di tutto, ci sono incontri ovunque. No, non dovrei dire dappertutto. Sono anche in codici postali selezionati. Ci sono migliaia e migliaia nella Bay Area, dove è possibile iscriversi e incontrare altre persone che ti insegneranno a programmare. Ce ne sono alcuni per le donne in particolare. Questo è molto utile.
Ho fatto una ricerca per altri posti nel paese. Buffalo, New York, Utica, New York. E non c'era niente. Quindi, cosa ci facciamo? Quindi i corsi online in modo massiccio sembrano una possibilità. E una delle cose di cui ho scritto e che cosa ho fatto è stata, beh, iscrivermi per verificarlo. E ho visto lo stesso pregiudizio negli insegnanti.
Stavano facendo ipotesi sulla cultura americana. E bene, vuoi guadagnare un miliardo di dollari. Un milione non sarebbe abbastanza per te. Lo stesso. Penso che le persone possano scaricare questi video, riunire un gruppo, sai. Spegni la lingua al ragazzo che ti sta dicendo sciocchezze sociali. E aiutarsi a vicenda e imparare a programmare.
Ci sono anche accademie di codice che costano migliaia di dollari e in realtà stavano chiudendo. Garantiscono le persone, guadagnerai tre cifre entro otto mesi. Non credo sia una buona strada. Idealmente le scuole lo insegnerebbero. E non intendo dire che la codifica si unisce alle discipline umanistiche come alfabetizzazione di base. Penso che le persone con discipline umanistiche debbano esaminare il codice per portare quella conoscenza delle persone che hanno studiato storia e sociologia e lingue straniere, come vivono le altre persone nel mondo. Portalo nell'arena del codice.
Voglio parlarti un po 'dei social media. Nel 1998 hai scritto un saggio intitolato The Museum of Me e sento che questa frase viene bandita come se fosse nuova di zecca. Ma hai scritto per la prima volta nel 1998 e hai detto che Internet ci avrebbe permesso di costruire "Una bolla di pensiero privata", leggendo solo quei siti Web che rafforzano le sue credenze desiderate, che è esattamente dove sembriamo essere oggi.
In un certo senso lo chiamavi, descrivevi Internet in generale, ma i social media sembrano averlo portato a un livello completamente nuovo. Mi dispiace tanto aver ragione. Ci sono state cose che ho visto accadere che, immagino nel mio cuore speravo fossero avvertimenti. Ma, sai, ho appena scritto per una piccola pubblicazione allora-
Penso che questo sia stato probabilmente da Harper . Quindi, in qualche modo, la generazione di selfie ha mancato l' articolo di Harper , sfortunatamente.
Bene, cosa stanno leggendo? Stanno leggendo i feed, lo sai. Quindi i feed dicono loro cosa sta succedendo oggi. Oggi è molto difficile sedersi e parlare con te della tecnologia, un giorno dopo questo orribile massacro a Las Vegas. E più di 50 persone uccise e centinaia ferite. Non ne sappiamo davvero la portata.
E sai, le pistole sono tecnologia. Il design industriale è tecnologia. Sai, tendiamo a pensarlo solo come telefoni e laptop fantastici e AI, server e algoritmi. Ma la gente progetta questi apparecchi che permettono a una pistola di sparare a centinaia di proiettili con un solo colpo. E questo mi ferma davvero. Sai, in giorni come questo, è difficile essere allegri. Voglio dire, sono il rappresentante dell'oscurità in generale, ma questo mi ha fermato particolarmente.
È difficile per tutti passare la giornata in giorni come questo. Ma uno dei punti che continui a sollevare è che tutte le tecnologie hanno questi effetti impliciti e che non sono neutrali, e molte conversazioni etiche che circondano ogni sorta di altri dibattiti sulla politica, sulla politica, sulle questioni sociali, tendono a non accade nello spazio tecnologico, perché gli ingegneri lo costruiscono, il mercato lo richiede. I progettisti lo costruiscono, lo spediscono e quindi viviamo con le conseguenze.
Ma sembra ad ogni angolo, che si tratti di tecnologia delle armi, codice software, accesso ai servizi, dobbiamo avere quella conversazione sulle conseguenze.
Questa sarebbe la mia speranza. Ecco perché ho scritto questo libro, sperando di iniziare una conversazione su diversi livelli, lo sai. Non qual è l'obiettivo del futuro. Il futuro è quello che ne pensi adesso, avere una conversazione. Il desiderio umano guida il futuro. Questa è la nostra prerogativa. Inoltre, per guardare al passato. Un altro motivo per cui volevo tornare a metà degli anni '90 è che abbiamo imparato dal passato.
Solo guardare avanti ti insegna molto poco perché è tutta fantasia. Ma se torniamo indietro e vediamo come siamo arrivati a dove siamo, e le tendenze che ci hanno portato qui, i successi che le persone hanno avuto in passato, le cose che abbiamo imparato. Ci sono persone che vivevano prima di noi, lo sai, e hanno lavorato sulla tecnologia informatica più di noi. Stiamo andando in 100 anni, immagino tu sappia, a un certo punto a partire dalle idee a riguardo. Quindi spero che le persone si fermino e si educino. Guardare indietro e provare a vedere come sono arrivati dove sono.
Cosa ne pensi della natura del settore tecnologico in termini di dimensioni dei leader? Con Google, Amazon, Apple e Microsoft, stai parlando di quattro aziende che dominano assolutamente interi settori. L'industria del web, il commercio al dettaglio, l'industria dell'intrattenimento. Sono queste aziende, c'è qualcosa nell'essere troppo grandi che crea il proprio problema?
Questa è una bella domanda. Sì, sono troppo grandi. Dobbiamo vivere con loro per molto tempo. E un'azienda come Apple si ritrae socialmente progressista. Tuttavia, queste compagnie sono profondamente libertarie. Non vogliono che il governo li controlli, tranne quando vogliono che il governo li asseconda.
Guarda cosa sta succedendo con tutte queste città che chiedono che Amazon entri in mezzo a loro. "Oh, non dovrai pagare le tasse per 20 anni." Quindi, il governo li aiuta. Questo è ciò che vogliono queste aziende. Non vogliono una regolamentazione. In questo clima politico non vedo come lo faremo. Non abbiamo una Corte Suprema che dirà: "Questi sono monopoli. Li faremo a pezzi".
Questa è la domanda giusta Sì, sono troppo grandi. Molte persone devono affrontare ciò che facciamo da qui.
Qual è il problema con loro? Perché ci sono aziende, non ho mai visto una società privata che ha chiesto ulteriori regolamenti. Qual è il rischio di avere queste grandi aziende giganti? Utilizzeranno il loro potere di mercato per sfruttare i consumatori? Non stanno andando a innovare perché hanno essenzialmente monopoli in tutti questi settori diversi?
Bene, stanno per sfruttare i consumatori. Avremo più sorveglianza. C'è più competizione. Penso che non possano semplicemente sedersi e dire: "Non sto facendo ricerca e sviluppo. Non sto raggiungendo". Ma temo che molto provenga dall'acquisto di altre società. Le startup hanno queste idee e poi vengono acquistate. E poi dissolvono i loro eccitanti poteri, se ne hanno, in queste corporazioni più grandi.
Ma queste corporazioni non possono sedersi e non fare nulla. Guarda cosa è successo a Microsoft. È rimasto davvero indietro. Guarda Intel. Intel era uno dei giganti. Adesso è dietro. Le persone non usano più computer di grandi dimensioni e i laptop hanno chip diversi e non contribuiscono affatto ai dispositivi mobili. Quindi dovranno innovare. Spero che non lo facciano semplicemente acquistando aziende di altre persone e diluendo gli effetti di quelle aziende, il che sembra accadere.
Hai un saggio sul Millennium Bug, che la maggior parte delle persone dovrà fare a Google per scoprire di cosa si trattava. Ma ti avevo detto prima che andassimo in onda che in realtà ero in una redazione alla vigilia di Capodanno nel 1999 e nessuno sapeva davvero cosa sarebbe successo. Sapevamo che i personal computer sarebbero probabilmente a posto, ma tutti erano un po 'preoccupati per quello che succede nella centrale elettrica con quel computer nel retro che nessuno ha controllato in 10 anni. Ma puoi parlarci un po 'di quello che è successo allora, e poi di quali lezioni si possono tenere per noi oggi.
Una delle cose meravigliose di questo è il motivo per cui ho incontrato programmatori che avevano scritto questo codice negli anni '60, dicendo che "non mi sarei mai aspettato che questo codice sarebbe sopravvissuto così a lungo". La compagnia Texaco era l'unica grande azienda che era disposta a diventare pubblica per dire: "Questa non è una bufala. Questo è quello che stiamo facendo. Questi sono i problemi che stiamo affrontando".
E i loro sforzi erano eroici. E c'erano piccole cose locali che non venivano pubblicizzate. Ma sapevo nel mio cuore, parlando con questi programmatori e capi progetto dedicati, che sarebbe andato tutto bene perché stavano davvero pianificando. La lezione per noi ora è che stiamo ancora usando tutto questo vecchio codice. Abbiamo questi front-end appariscenti e poi hai Internet, che è davvero sotto stress. E questo è un codice molto vecchio.
Il motivo per cui stiamo avendo tutti questi hack è che Internet non è mai stato progettato per la privacy e l'anonimato. È stato progettato per essere collegiale e aperto. Nessuno si basò sull'idea che ci sarebbero state queste fragorose orde. Quindi abbiamo una vulnerabilità lì. Torniamo ai server facendo algoritmi, cioè sul sistema operativo chiamato Linux. Linux risale a molto tempo fa.
Se vai sempre più a fondo in quello che c'è dietro le cose carine, trovi vecchio codice, vecchio codice, vecchio codice. E i programmatori scrivono cose che si basano sull'altro codice e non sempre - spesso non - capiscono i dettagli delle cose con cui si interfacciano. Quindi la lezione continua.
Eccellente. Voglio parlarti un po 'dell'IA. Sembra che siamo in questa posizione con Internet, che ha tutte queste conseguenze indesiderate che stiamo ancora cercando di risolvere - e ora stiamo dando alla luce questa tecnologia completamente nuova, che ha tutte queste implicazioni. Vai in molte aziende e hanno sistemi di intelligenza artificiale in esecuzione, che prendono decisioni commerciali e fanno raccomandazioni, e letteralmente non riescono a capire come ci siano arrivati. Non sono in grado di identificare il processo che ha raggiunto la conclusione. Sanno solo che funziona. Puoi parlarci un po 'di ciò che potrebbe significare?
Pensano che funzioni. La tendenza in questo momento nell'intelligenza artificiale, l'intera idea di un robot umanoide che non possiamo dire da un essere umano è davvero andata di lato. Dimostra che è molto, molto, difficile capire come gli esseri umani funzionano come fanno. Ora è l'apprendimento automatico. L'idea è che tu scriva un algoritmo. Guarda i risultati e cambia se stesso, quindi guarda i risultati e impara.
Ora quello che succede è che le persone che hanno scritto l'algoritmo originale non sanno davvero cosa succede dopo diverse iterazioni. E il codice si sposta sempre più lontano dalle persone che lo capiscono. Quindi è una specie di mostro, sai, nel senso che opera da solo. E sì, funziona, ma cosa manca?
Funziona su dati che presentano distorsioni. Prima di tutto ha una propensione al passato. Ci sono errori Quindi anche ciò che sta imparando è distorto e soggetto a errori. Mi preoccupo per l'IA a questo proposito, in particolare l'idea di auto a guida autonoma. E che stiamo parlando del danno umano reale. E potrei parlarne troppo a lungo, quindi è meglio che mi fermi.
La maggior parte delle previsioni afferma che le auto a guida autonoma saranno meglio più sicure dei conducenti umani, il che mi sembra che i conducenti umani siano una grande parte del problema sulle strade di oggi.
I conducenti umani hanno una storia centenaria nella guida di automobili. Quindi ecco cosa possono fare gli umani: non guardano solo la vicinanza intorno a loro. Sai quando stai guidando, anche se sei disattento, se hai qualche esperienza, puoi vedere davanti a te, quarto di miglio, mezzo miglio su una collina che è tutto congestionato, e dovrai prepararti a fermarti.
Puoi leggere la personalità delle macchine. Qualcuno arriva sulla corsia lontana laggiù. Vedi la marca, il modello, l'aggressività del guidatore. Quando quella macchina si muove, sai che ti taglierà. Non aspetti un allarme di prossimità. Gli esseri umani sanno in un modo che, in un attimo, o avrò un incidente o entrerò in una rabbia su strada con questa macchina. O sto per dire "Va bene, vai avanti".
Ora, andiamo ai modi in cui le auto a guida autonoma possono schiantarsi. Ancora una volta, si affidano a interfacce machine-to-machine. E ci saranno bug in quel codice, punto. Quindi stanno per comunicare su Internet o su una rete wireless. Grande vulnerabilità lì. Abbiamo visto che le auto che funzionano su wireless sono già state hackerate da hacker bianchi per mostrare: "Guarda, posso farti guidare la tua auto dalla strada".
Quindi, come è protetto? E poi c'è l'interfaccia tra diverse marche e modelli. Ora pensi che tutti saranno alla guida di una Prius? No, gli umani vogliono prestazioni diverse. Quindi ci sarà di nuovo competizione su come funzionano le auto, su come il guidatore o gli occupanti vogliono sentirsi quando sono sulla strada.
Ci sarà una sorta di API standard, Application Interface, che sono notoriamente soggetti a errori. Ma ci sono molti, molti punti di fallimento che possono accadere lì. Inoltre, non possono guidare sulla neve.
C'è quello.
C'è quello. Voglio dire, vedresti, saresti inutile?
Pensi che avremo auto a guida autonoma che saranno soggette a errori e rischi per la sicurezza? O che non pensi che possiamo effettivamente costruire un'auto a guida autonoma sicura e che la tecnologia richiederà molto più tempo di quanto la gente pensi?
Penso che accadrà. Penso che nelle strade ad accesso limitato come le autostrade, funzionerà bene. A meno che non nevichi o piova forte. Deve vedere le linee. E poi deve vedere le luci di rottura e le luci delle macchine che la circondano. E così, con punti di vista limitati, stanno aggiungendo altri LIDAR e così via.
Alla fine funzionerà. Ci vorrà un po 'di più. In questo momento penso che ci siano alcune città che stanno costruendo un'infrastruttura nel centro della città per le auto. Ma siamo qui a Manhattan e abbiamo difficoltà a far funzionare le nostre metropolitane. Pensi che prenderemo miliardi di dollari per trasformare Manhattan in un posto dotato di sensori per auto a guida autonoma? Non so, tra centinaia di anni, se Manhattan non è stata allagata dai mari in aumento?
Ci sarà. Ma penso che l'euforia - e come al solito sono il triste rappresentante - mi sento come se fossi sull'altalena, e ci sono tutti gli altri che sanno davvero cosa stanno facendo, e sono come una pulce che rimbalza sull'altro fine, cercando di spingere un po 'verso il basso e livellare i punti di vista. Temperare le aspettative. Tutti dovrebbero sapere il duro lavoro che dobbiamo fare prima che possa essere soddisfatta quella meravigliosa aspettativa.
Ti farò un paio di domande che faccio a tutti quelli che arrivano nello show. E questo dovrebbe essere facile per te. Quale tendenza tecnologica ti preoccupa di più? C'è qualcosa che ti tiene sveglio la notte? Possiamo fare un altro spettacolo intero.
Tutto quanto sopra. Non mi tiene sveglio la notte. Voglio dire, passo abbastanza tempo a pensarci durante il giorno. Lo so, una delle domande che penso che tu intendessi porre era, sai, le persone dovrebbero fare una pausa da tutto ciò? Sì.
Oggi sono stato quasi gettato in strada da qualcuno che veniva su uno scooter.
E un telefono?
Con auricolari e telefono. Quindi questo mi preoccupa davvero. Le persone potrebbero davvero farsi male.
Le persone si fanno male ogni giorno a New York City perché tutti guardano il telefono e camminano.
Sì, vivo nella zona sud del mercato. Sono basato a San Francisco sui suoi vicoli di avvio, Second Street. Ora, una cosa è dire che tutti guardano il loro telefono, ma quando provi a camminare per la strada diretta a nord quando tutti sono diretti a sud, e 100 persone guardano nei loro telefoni, è davvero come, mi sento come se io ' Sto vivendo in un mondo alieno.
