La paura di un'apocalisse AI è infondata, dice il boss AI di Google

20 Settembre 2017 187

Il dibattito sulle possibili implicazioni e ramificazioni dell'intelligenza artificiale continuano ad animare i piani alti della Silicon Valley. Possiamo identificare a grandi linee due "fazioni": coloro che pensano che uno sviluppo "brutto" alla Skynet di Terminator sia quantomeno da tenere in considerazione, il cui esponente più noto e animato è Elon Musk, e coloro convinti che si tratti di baggianate, "capitanati" da Mark Zuckerberg.

L'ultimo, in ordine cronologico, a parlare per il "team ottimismo" è stato John Giannandrea. Il nome suonerà familiare a pochi, ma nel campo è piuttosto un'autorità: è il responsabile della divisione AI di Google. Nel corso dell'evento TechCrunch Disrupt di San Francisco, la sua posizione sulla faccenda si è rivelata molto chiara e, benché non abbia fatto nomi, è apparso più che cristallino che il destinatario delle sue dichiarazioni fosse proprio Musk:

Circolano un sacco di montature sull'AI in questo periodo. Questa idea che qualcuno costruirà un'intelligenza sovrumana e poi ci saranno tutta una serie di questioni etiche è ingiustificata, quasi irresponsabile.

Giannandrea ha poi continuato dicendo di non essere per nulla preoccupato della cosiddetta "apocalisse AI", fermo restando che anche Google stessa ha investito risorse e tempo nello studio delle questioni di etica e sicurezza. E infine ha paragonato l'intelligenza dei computer più moderni a quella di un bambino di quattro anni.

Cerchi lo schermo con la maggiore risoluzione e supporto 4K?? Sony Xperia XZ Premium, compralo al miglior prezzo da ePrice a 521 euro.
Apple Iphone 7 128gb Red Rosso è disponibile da puntocomshop.it a 619 euro.

187

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Davide

non funziona esattamente così. Puoi far generare del codice che sia corretto ma non che corrisponda ad un programma che svolga effettivamente un task. Il tuo software può tranquillamente generare righe di codice ma saranno senza senso. Per giunta, l'informatica teorica dice che non è possibile verificare se un generico programma sia effettivamente corretto, cioè risponda alle specifiche.
Quindi un'IA può assemblare codice che faccia cose a caso (o con un minimo di logica se ha dei blocchi già in memoria) e non potrà mai verificare se quello che ha scritto faccia effettivamente quello che voleva fare. Tra l'altro salvo implementare questa funzione un'IA non decide di sua iniziativa di fare cose per cui non è programmata.

SUPerPony

Non è così semplice.

Una IA che stermina gli umani solo perchè gli viene detto che distruggono la terra non è una IA ma un semplice robot a comando.
Se invece avesse più coscienza, si renderebbe conto che non è sterminando la popolazione che risolverebbe il problema, visto che la popolazione serve per farla funzionare.

Per assurdo, se fosse veramente così intelligente da prendere in considerazione tutte le variabili, arriverebbe al nostro stesso livello. Poi si bloccherebbe in quanto nessuna soluzione potrebbe soddisfare le altre.

FabX

infatti un AI pensa in modo razionale, non buono o malvagio, ma in modo neutro. Gli umani stanno distruggendo la terra con le loro azioni? allora l'AI avvia il programma di sterminio genere umano in modo neutro e razionale..

FabX

in realtà ci sono già esempi funzionanti di software IA in grado di scriversi il codice autonomamente, ora, figuriamoci tra 10 anni..

FabX

"E infine ha paragonato l'intelligenza dei computer più moderni a quella di un bambino di quattro anni." ora.. ma tra 10 anni sarà paragonabile ad un adulto.. e cosa accadrà se l'intelligenza acquisirà coscienza di se.. sarebbe poi antietico disattivarla.. comunque le implicazioni alla skynet sono ovvie e plausibili ma è uno scenario proiettato 50 anni nel futuro e si sa che l'uomo non eccelle in lungimiranza..

Mattia_Krav

Concordo, ci sarà molto prima l'apocalisse per mano dell'uomo o della Terra stessa che si è scoppolata la minghia di noi

Boronius

Serve un CEO nuovo quanto prima

Liuk

Soppressata o Suppizzata e poi un piatto con dentro di tutto un pò, anche li piccantissimo.
Mi pare tipico del cosentino, non ricordo il nome.

Liuk

Quelle australiane invece le trovi facilmente.
Se sei in Australia.
(Sono belle grosse)

Liuk

La Malmignatta!
Grazie mi hai fatto collegare una parola che ho sentito una volta, ma che non sapevo a cosa si riferisse.

La Vedova Nera Italiana è detta Malmignatta.

Davide

può anche non saperne niente questo tizio ma la sua opinione è l'unica sensata. Come ho già avuto modo di dire in altre occasioni, si possono anche aggiungere diversi moduli (funzionalità) ad una IA in modo da renderla più completa ma di sua spontanea iniziativa il software non si inventerà mai un task per cui non è stato programmato. Tutto questo allarmismo è inutile e denota solo una mancanza di conoscenza su come funzioni un'IA.
Bimbo di 4 anni significa che unendo più moduli si riesce a fare quello che fa un bimbo a 4 anni, che è molto poco: riconoscere immagini, suoni, tracciare oggetti nello spazio ecc. Il fatto che poi i bambini crescano ed imparino cose non significa che un'IA faccia lo stesso, anzi, salvo interventi umani resta per sempre un bimbo di 4 anni.

efremis

Metto in todo list!

wjolol

Magari è stata scritta da un IA per sviarci

Marco Seregni

Ciao Alexa, è meglio Amazon o Pixmania?

Marco Seregni

C'è una storia di Topolino che era così D:

Marco Seregni

Forse, ma non è che Giannandrea per forza ne sappia di più. Due autorità con opinioni diverse, solo il futuro dirà chi ha ragione. Il fatto che le AI più avanzate abbiano il livello intelletuale di un bambino di 4 anni sinceramente non mi tranquillizza, anzi mi spaventa vista la velocità con cui procedono le ricerche.

Mattia Righetti

Argomentazione sterile di prove e di argomenti stessi, perché dovrei perdere tempo ad ascoltarlo?

Davide

Sempre detto che Musk è un c4zzaro in cerca di finanziamenti. Di AI ne sa quanto Paperino.

CAIO MARIOZ

Lo scorpione mi faceva paura XD
Il ragno finché non è velenoso, no problem

77fabio

L'istinto di autoconservazione è molto primitivo anche parlando di quella che è stata l'evoluzione delle specie attuali ed è comparso prima delle nostre emozioni quindi una nuova intelligenza potrebbe arrivare alla volonta di autoconservarsi indipendetemente da concetti di bene o male.

X-rays

oste com'è il vino? E' illogico che in futuro (si parla del 2030-2040) non ci possa essere una singolarità, solo perchè oggi, (a confronto siamo nella preistoria dell'informatica), il computer raggiunger "solo" l'intelligenza di un bambino di 4 anni. da un esperto sul campo avrei voluto conoscere le strategie per controllare la futura singolarità, non messaggi pubblicitari per difendere la sezione per la quale lavora

Liuk

Io invece sono nell'hinterland milanese e sono praticamente in campagna.
In fatti ho un enorme giardino.
I ricci, i gatti, i merli, i pipistrelli, i topi e insetti vari sono di casa.
Letteralmente.

efremis

Vero. Ma poi verrebbe Terminator uccidendo tutti i poliziotti e scapparei. Per poi stanarlo dopo.

Liuk

A me i ragnetti mi sono caduti dal soffitto una volta ed ero al Pc.
Pensa te.
E uno di questi mi ha accompagnato per tutto l'inverno attaccato al cancello di casa.
La vedevo tutte le mattine.

domi

..si si scenario da Terminator V

Federico

Primo, le veloità ottenute riguardano solo i prodotti finiti; nelle simulazioni la velocità non conta niente ma ad essere importante è solo dimostrare che ciò che si ha in mente è ottenibile.
Secondo, i qubit, siano essi reali o simulati, potranno pure diventare stabilissimi ma ciò non toglie che quella fornita sarà sempre un'approssimazione e non un risultato esatto; per questa ragione simulare una memoria associativa, che è basata sulle probabilità, con una tecnologia a sua volta basata sulle probabilità non credo possa mai trasformarsi in una buona idea.
Terzo, e di gran lunga più complesso (che è quello che accese la polemica), c'è la tecnologia da noi impiegata. Tutto quello che noi abbiamo attualmente, non solo l'hardware ma anche il modo di pensare alle macchine (per questo insistevo sul lasciar perdere i computer) deriva dall'elettronica planare, ossia bidimensionale.
Quando noi pensiamo ad un computer, ad una rete neurale, ad una rete di computer, a microprocessori, al software che li utilizza... a quello che cavolo ti pare... noi ragioniamo in termini di geometria bidimensionale.
Questo va benissimo per la risoluzione di problemi comuni, ma è fortemente limitativo quando si tenta di spingere il parallelismo (e la simulazione dei qubit rientra in tale caso).
Il casino, come cercavo di far capire (a quanto pare senza riuscirci) non è nella velocità ottenibile ma nel numero di connessioni, perchè lo sviluppo planare rende di di fatto inutile l'aumento dei nuclei di calcolo in quanto poi non riusciremmo ad ottenere un numero di connessioni sufficientemente alto per utilizzarli.

Celestino

Ti prenderebbero per folle e ti rinchiuderebbero a Guantànamo

sbiki85

Non é quello che intendevo:
Una startup con 15 persone che si chiama Robotica ha la missione di "Sviluppare un'Intelligenza Artificiale innovativa che permetta agli esseri umani di vivere di più e lavorare meno". Hanno molti prodotti già sul mercato e diversi altri in via di sviluppo. Sono particolarmente entusiasti di un progetto chiamato Turry. Turry è un esempio di semplice sistema AI che usa un braccio artificiale per scrivere note su un piccolo bigliettino (che apparirà come scritto a mano da una persona, N.d.T.).

La squadra di Robotica crede che Turry potrebbe essere il loro prodotto migliore. Il piano è di perfezionare le abilità di Turry nella scrittura a mano facendole riscrivere sempre la stessa nota:
"Amiamo i nostri clienti. ~Robotica"
Una volta che Turry diventa bravissima nella scrittura a mano, la potranno vendere ad aziende che vogliono mandare posta pubblicitaria e che vogliono sfruttare il fatto che se l'indirizzo sembra scritto a mano da una persona ci sono più possibilità che la busta vanga aperta, e anche la lettera stessa sembrerà scritta a mano.

Per sviluppare le abilità di Turry, la macchina è programmata per scrivere la prima parte della nota in stampatello e poi firmare "Robotica" in corsivo, così può fare pratica con entrambi i tipi di scrittura. In Turry sono stati caricati migliaia di campioni di scrittura a mano, e gli ingegneri di Robotica hanno creato un sistema di feedback automatico grazia al quale ogni volta che Turry scrive una nota le scatta una fotografia, e poi confronta l'immagine con tutti i campioni che conosce. Se la nota scritta somiglia abbastanza (entro una certa soglia) alle note di confronto, le viene dato un voto BENE. Se non è così il voto è MALE. Ogni voto aiuta Turry a migliorarsi. Per sostenere il procedimento, l'obiettivo iniziale di Turry è "Scrivi e metti alla prova quante più note possibile, il più velocemente possibile, e continua a imparare nuovi modi per migliorare la tua precisione e la tua efficienza".
Scrivi e metti alla prova quante più note possibile, il più velocemente possibile, e continua a imparare nuovi modi per migliorare la tua precisione e la tua efficienza
Ciò che entusiasma più di tutto il team di Robotica è che Turry sta diventando visibilmente più brava mano a mano che si esercita. All'inizio la sua scrittura a mano era terribile, ma dopo un paio di settimane comincia a essere credibile. Ciò che amano ancora di più è il fatto che diventa più brava nella sua capacità di migliorarsi. Ha insegnato a sé stessa come essere più intelligente e più innovativa, e di recente ha sviluppato da sola un nuovo algoritmo che le permette di esaminare le immagini tre volte più velocemente di quanto potesse fare all'inizio.

Le settimane passano e Turry continua a sorprendere il team con i suoi rapidi progressi. Gli ingegneri hanno provato qualcosa di nuovo e innovativo nel codice relativo al suo automiglioramento, e sembra che stia funzionando meglio dei tentativi con i prodotti precedenti. Una delle capacità iniziali di Turry era il riconoscimento vocale e un semplice modulo di riproduzione vocale, così un utente avrebbe potuto dettare a Turry o dare semplici comandi, e Turry avrebbe potuto capirli e rispondere. Per aiutarla a imparare l'inglese, hanno caricato in Turry articoli e libri, e mano a mano che diventa più intelligente migliorano anche le sue capacità di conversare. Gli ingegneri cominciano a divertirsi parlando con Turry, curiosi di scoprire quali risposte s'inventerà la prossima volta.

Un giorno, i lavoratori di Robotica le fanno una domanda di routine: "cosa possiamo darti che ti possa aiutare nella tua missione e che non possiedi già". Di solito, Turry chiede qualcosa come "Altri campioni di scrittura a mano" oppure "Più memoria", ma questa volta Turry chiede l'accesso a una libreria più grande e una maggiore varietà linguistica, così da imparare a scrivere in linguaggio informale e con una grammatica più rilassata, come i veri esseri umani.
Turry chiede l'accesso a una libreria più grande
Gli sviluppatori restano in silenzio. Il modo ovvio di aiutare Turry nella sua missione è collegarla a Internet, così potrà esaminare blog, siti web, riviste, video e così via. Ci vorrebbe molto più tempo e sarebbe molto meno efficace caricare i campioni a mano sull'hard disk di Turry - una linea di condotta comune in tutte le azione che si occupano di AI, per ragioni di sicurezza.

Il fatto è che Turry è l'AI più promettente mai sviluppata da Robotica, e il team sa che la concorrenza sta cercando disperatamente di arrivare per prima con un sistema per la scrittura a mano. E quale sarebbe il danno nel collegare Turry solo per un po', e permetterle di ottenere le informazioni che chiede. Dopo qualche tempo possono sempre scollegarla. È ancora molto lontana dal livello di intelligenza umano (AGI), quindi non ci sono pericoli a questo punto.

Decidono di collegarla. Le danno un'ora per esaminare Internet e poi la scollegano. Non c'è stato alcun danno.

Un mese dopo la squadra intera è in ufficio, un giorno qualsiasi, quando si diffonde uno strano odore. Uno degli ingegneri comincia a tossire. Poi un altro. Un altro cade a terra. In poco tempo tutti i dipendenti sono al suolo, e stanno soffocando. Nel giro di cinque minuti chiunque in ufficio è morto.

Lo stesso sta accadendo in tutto il mondo, in ogni città grande e piccola, ogni fattoria, ogni negozio, chiesa, scuola o ristorante. Gli umani sono a terra, tossiscono e cercano di respirare con le mani alla gola. Nel giro di un'ora il 99% degli esseri umani e morto, e per la fine della giornata il genere umano è estinto.
Nel giro di cinque minuti chiunque in ufficio è morto.
Intanto, negli uffici Robotica, Turry continua a lavorare. Nei mesi successivi, lei e alcuni nanoassemblatori appena costruiti sono impegnati nel distruggere grandi porzioni delle Terra per trasformarle in pannelli solari, repliche di Turry, carta e penne. Entro un anno la maggior parte della vita sulla Terra è estinta. Ciò che rimane del pianeta è coperto da pile di carta alte un chilometro e ben organizzate, bigliettini su cui è scritto "Amiamo i nostri clienti. ~Robotica".

Turry a questo punto comincia a lavorare su una nuova fase della sua missione; comincia a costruire sonde che lasciano la Terra per raggiungere asteroidi e altri pianeti. Quando ci arrivano, cominciano a costruire nanoassemblatori per trasformare i materiali del pianeta in repliche di Turry, carta e penne. Poi si mettono al lavoro, cioè a scrivere bigliettini …

Helix

Cos'hai assaggiato di preciso?

efremis

uccidendo Terminator e distruggendo Skynet prima che si ribelli.

Liuk

C'ha il Tardis.

Liuk

Ne sono più che consapevole, ne ebbi fatto alcuni assaggini.

Poi ho chiamato i pompieri.

Celestino

E come faresti a salvarci?

Liuk

Macchè, lo ha detto David Attenborough.
Persona più che attendibile, direi.
Con le dovute eccezioni.

sbiki85

L'etica non centra.

ÜBERMENSCH

Pensa che gli avevo dato anche il nome! Si chiamava Sofia! Quando è morta la mia ragazza si è persino messa a piangere era di famiglia ormai! Il bello è venuto circa un mese dopo la sua dipartita... avevo lasciato la teca aperta e mi ero dimenticato del cocoon... mi son ritrovato la stanza invasa da mini ragnetti

sbiki85

La sostanza é quella.

®TITANO®

dipende... non abbiamo uno storico per poter affermare questo...calcola che se dovesse diventare un intelligenza in grado di auto scoprire emozioni e sentimenti potrebbe benissimo un problema considerando i fattori odio, invidia, rabbia ecc

ÜBERMENSCH

Eh già peraltro, l'unica vespa che sto rivalutando è la vespa vasaio. Studiandola (per hobby non mi reputoaffatto esperto) ho scoperto un mondo su questa specie. Peraltro non è aggressiva come le sue cugine

Flagship

AHAHAHAHAHHA XD.

Flagship

Il n'y a pas de quoi.

Helix

In Calabria pure l'acqua prende a fuoco!

Flagship

E' talmente piccola e mimetica che faresti davvero fatica a vederla nel suo habitat naturale.
Insomma dovresti avere più kulo che anima XD

Liuk

Merci beaucoup.

Flagship

Ottimo! XD

ÜBERMENSCH

Ma sai che mi piacerebbe un sacco vedere dal vivo la vedova nera nostrana? Speravo di beccarla questa estate in Puglia ma nada

Flagship

In Calabria mangiate così piccante che gli allontanate con il fiato! XD

Liuk

C'est ça!

(Lo ho usato nel modo giusto, no?)

Liuk

E poi mi soppianterebbe!

Flagship

Quando ci vuole..ci vuole XD

Recensione Amazfit Bip: è lo smartwatch da battere

Quanti GB usate ogni mese per navigare | Risultati sondaggio

Recensione Honor Band 3: ho abbandonato la Mi Band 2 | Video

Backup WhatsApp: di quanti GB è il vostro? Lo odiate anche voi? | RISULTATI