Vantaggio ingiusto: non aspettarti che ai giochi come un essere umano

I recenti exploit di DeepMind nello sviluppo di intelligenza artificiale in grado di sconfiggere i giocatori di livello mondiale di StarCraft II hanno suscitato molto scalpore. Mentre DeepMind l'ha definita una grande svolta, altri hanno sostenuto che era ingannevole, ingiusto e sovrumano.

Ma ciò che l'intero dibattito indica è che forse dobbiamo cambiare il contesto in cui discutiamo e valutiamo le capacità dell'IA e smettere di confrontare il suo gameplay con il nostro.

AlphaStar, il robot che riproduce StarCraft di DeepMind, utilizza il deep learning, un campo popolare di intelligenza artificiale in cui i programmatori sviluppano il comportamento dei loro modelli di intelligenza artificiale fornendo loro un numero folle di esempi. AlphaStar si è prima allenato su un ampio database di dati di giochi umani rilasciato da Blizzard, giocando milioni di giochi contro se stesso per imparare e padroneggiare le regole di StarCraft. È stato quindi messo contro gli umani, spazzando i giocatori dilettanti di DeepMind prima di sfidare i campioni del mondo.

Quando AlphaStar ha battuto TLO e MaNa, due dei migliori giocatori al mondo, c'era motivo di credere che l'industria dell'intelligenza artificiale avesse superato una pietra miliare. In un post sul blog, DeepMind ha definito AlphaStar "un passo avanti nella nostra missione di creare sistemi intelligenti che un giorno ci aiuteranno a sbloccare nuove soluzioni ad alcuni dei problemi scientifici più importanti e fondamentali del mondo".

Ma poi sono arrivate le critiche.

Un vantaggio ingiusto

I critici affermano che AlphaStar ha diverse caratteristiche che lo rendono un avversario ingiusto contro gli umani.

Innanzitutto, AlphaStar è velocissimo. Gli ingegneri di DeepMind affermano di aver handicappato AlphaStar per impedirgli di compiere più azioni di quelle che un essere umano potrebbe compiere. Ma i giocatori umani fanno molto clic sullo spam o azioni impulsive che non hanno alcun valore o pensiero dietro di loro.

Ad esempio, quando i giocatori vogliono ordinare alle loro unità di spostarsi in una posizione o attaccare un nemico, spesso fanno clic ripetutamente nella stessa posizione o su una traiettoria verso la destinazione, poiché dà la falsa sensazione che il clic acceleri tale azione. In realtà, le unità eseguono solo il comando più recente e ignoreranno quelle precedenti. Al contrario, ogni mossa di AlphaStar è precisa.

I critici sostengono che la mancata corrispondenza consente ad AlphaStar di microgestire il gioco in modo sovrumano. Ad esempio, in una grande battaglia in cui sono coinvolte molte unità, AlphaStar può impartire comandi individuali a ciascuna delle sue unità con velocità e precisione impossibili per i suoi avversari umani. In un'analisi delle prestazioni di AlphaStar, Timothy B. Lee di ArsTechnica ha descritto alcuni scenari in cui la velocità e la precisione di AlphaStar gli darebbero un vantaggio ingiusto.

Altri analisti hanno sottolineato che AlphaStar riceve più informazioni rispetto ai giocatori umani. La versione del bot che ha battuto MaNa e TLO aveva accesso all'intera mappa, invece di vedere lo spazio di un campo di battaglia del monitor come un giocatore umano. Ma era ancora limitato dalla "nebbia della guerra", il che significa che non poteva estrarre informazioni dalle aree in cui non aveva unità attive.

Altri ancora hanno criticato i limiti di AlphaStar: poteva giocare solo come Protoss, una delle tre razze di StarCraft, e solo in una delle tante mappe del gioco. Data una nuova razza e mappa, AlphaStar probabilmente perderebbe contro avversari umani amatoriali perché, dal punto di vista dell'intelligenza artificiale, sarebbe come giocare a un gioco completamente diverso.

Cos'è il Fair Play?

DeepMind non ha ancora rilasciato dettagli tecnici, ma alcuni sospettano che invece di dover elaborare pixel grezzi come fanno gli umani, AlphaStar potrebbe aver avuto accesso ai dati di gioco grezzi tramite le API (interfacce di programmazione dell'applicazione).

Grazie! ma ciò non dice se il particolare software che ha vinto contro gli esperti abbia utilizzato pixel o elementi APi preimpostati, che sono entrambi disponibili ma molto diversi

- Gary Marcus (@GaryMarcus) 31 gennaio 2019

Tim 'Timothy B. Lee di Ars arriva a questa conclusione: "Il modo migliore per livellare il campo di gioco sarebbe far sì che AlphaStar usi esattamente la stessa interfaccia utente dei giocatori umani". Ciò significa che, come un giocatore umano che fissa il monitor di un computer, l'IA avrebbe accesso solo alla grafica del gioco e dovrebbe simulare sequenze di tasti, clic del mouse e scorrimento invece di interagire con il gioco tramite chiamate API.

Questo sarebbe un punto giusto se ci aspettassimo che l'IA replicasse esattamente il cervello umano e i sensi. Ma le reti di apprendimento profondo e neurali, che sono ancora all'avanguardia dell'IA, hanno limiti distinti che impediscono loro di riprodurre alcune delle funzioni umane più elementari.

L'apprendimento profondo è un'intelligenza artificiale stretta, il che significa che è molto bravo a svolgere compiti specifici come etichettare immagini o riconoscere il parlato, ma è terribile nel generalizzare i compiti o nel trasferire le sue conoscenze in altri domini. Più si amplia il dominio del problema, più limitata diventa la capacità dell'IA e maggiore è la formazione di cui ha bisogno. Ecco perché AlphaStar non sarà in grado di giocare a un altro gioco RTS, come Warcraft 3 o Company of Heroes.

AlphaStar ha anche impiegato 200 anni di giochi per dominare Protoss su un unico livello. Probabilmente ci vorrebbe altrettanto per imparare a giocare a Terran o Zerg, le altre due razze di StarCraft. Al contrario, un giocatore umano può portarsi rapidamente sulle conoscenze acquisite da una partita a una nuova.

Siamo ancora lontani decenni (almeno) dall'intelligenza artificiale generale, il tipo che può eguagliare le capacità cognitive degli umani. Alcuni scienziati ritengono che non riusciremo mai a riprodurre il cervello umano.

Ma l'intelligenza artificiale ridotta è molto efficace nell'elaborazione di grandi quantità di informazioni a velocità molto elevate. Ecco perché AlphaStar è in grado di gestire contemporaneamente l'intera mappa di StarCraft. I progettisti di StarCraft avrebbero potuto modificare il gioco per fornire ai giocatori una visione completa della mappa del gioco, ma ciò probabilmente confonderebbe i giocatori piuttosto che aiutarli. Gli umani possono anche avere accesso a dati di gioco grezzi, ma anche questo non sarebbe di alcun aiuto.

Gli esseri umani sono lenti nell'elaborazione dei dati ma hanno capacità di buonsenso e di pensiero astratto che consentono loro di pianificare e prendere decisioni senza informazioni complete. Ecco perché preferiscono avere una visione limitata della mappa e concentrarsi su una singola parte del campo di battaglia; allo stesso tempo, hanno un'idea di cosa sta succedendo in altre parti del gioco e possono sviluppare un piano di gioco generale.

AlphaStar sta tradendo?

Date le differenze tra AI e cervello umano, è giusto dire che i critici avevano ragione nella loro valutazione: DeepMind ha truccato la competizione a favore di AlphaStar limitandola a una singola mappa e una singola razza. Ma il dibattito su AlphaStar può portarci ad alcune conclusioni molto importanti.

Innanzitutto, il punto principale del gioco non dovrebbe essere quello di verificare se l'IA può fare clic e scorrere come un essere umano. Invece, dovremmo concentrarci su come l'IA si comporta in un gioco che fornisce informazioni imperfette e richiede un processo decisionale in tempo reale. A questo proposito, AlphaStar ha fatto un ottimo lavoro.

• Cosa ti farebbe fidare di un assistente AI? Che ne dici di una faccia? Cosa ti farebbe fidare di un assistente AI? Che ne dici di una faccia?
• L'anno del reckoning etico del settore dell'intelligenza artificiale L'anno del reckoning etico del settore dell'intelligenza artificiale
• Questa IA è troppo potente per essere rilasciata al pubblico Questa IA è troppo potente per essere rilasciata al pubblico

In secondo luogo, StarCraft potrebbe non essere la sede migliore per testare le capacità di strategia e pianificazione dell'IA. Come ha sottolineato un analista, "StarCraft II è un gioco che può essere rotto dalla perfezione meccanica". Ciò significa che l'IA può compensare le sue scarse capacità strategiche con la sua velocità sovrumana e precisione chirurgica.

Infine, l'intelligenza artificiale e l'intelligenza umana sono così diverse che probabilmente sarebbe impossibile creare condizioni di parità tra i due. Le più piccole modifiche alle regole inclinerebbero rapidamente il gioco a favore di una parte o dell'altra a un livello tale da rendere la concorrenza sleale.

Dovremmo cercare ambienti e impostazioni in cui possiamo liberare e testare l'IA al suo pieno potenziale invece di rallentarlo con limiti umani artificiali. Cosa potrebbero ottenere gli umani e l'IA quando cooperano invece di competere?