Sei un creativo? Un designer? ...Scopri come risparmiare sulla prossima stampa

Il Safe-Button di Google per evitare la rivolta delle macchine

Lo sviluppo di intelligenze artificiali più evolute e di robot umanoidi avanzati potrebbe migliorarci la vita in modi che ancora fatichiamo a comprendere, ma i più scettici non escludono uno scenario potenzialmente molto preoccupante, con l’intelligenza artificiale che diventa consapevole di sé a tal punto da vedere gli umani come una minaccia e volerli eliminare. In casa Google stanno studiando un modo sicuro per “staccare la spina” alle intelligenze artificiali, nel caso in cui queste non si comportino nel modo desiderato.

evidenza

Le forze di Google al lavoro

I ricercatori londinesi della DeepMind, azienda acquisita da Google nel 2014, stanno lavorando con gli scienziati dell’Università di Oxford per trovare il modo di impedire alle intelligenze artificiali di diventare padrone di se stesse, cioè essere in grado di negare agli uomini il controllo sulle loro azioni. I ricercatori hanno così creato una rete che consente all’operatore umano di interrompere ripetutamente e in modo sicuro un’intelligenza artificiale,assicurandosi che quest’ultima non impari a evitare tali interruzioni. Come è stato dichiarato dal team addetto allo sviluppo di tale sistema di sicurezza: “Se la macchina si aspetta un premio ma è in grado di capire che sta per essere spenta, cercherà di resistere per ottenere la ricompensa. Il nostro framework fa sì che il supervisore umano sia in grado si prendere temporaneamente il controllo dell’automa e lo induca a credere di volersi spegnersi autonomamente”. I ricercatori hanno riscontrato che alcuni algoritmi come quelli di Q-learning sono interrompibili in modo sicuro mentre altri come quelli Sarsa (State-Action-Reward-State-Action) non possono essere arrestati, ma possono essere modificati facilmente affinché possano essere interrotti. Si tratta comunque di macchine che dovranno rispondere a esigenze ben precise tra cui lo svolgere mansioni normalmente affidate all’uomo ma che se venissero affidate alle macchine renderebbero il tutto più semplice, veloce e sicuro.

Per ora si può stare ”tranquilli”

Al momento non ci sono intelligenze artificiali tanto evolute da rappresentare un problema per il genere umano, ma allo stesso tempo i progressi nel settore sono esponenziali e per questo è difficile dire se e quando l’umanità avrà bisogno di premere il fatidico “tasto rosso”. E’ stato da poco creato, ad esempio, il primo robot con sembianze estremamente simili a quelle di un essere umano, capace di provare dolore, grazie ad una sorta di tessuto nervoso con il quale saranno ricoperti gli automi del futuro: grazie a questa tecnologia, i robot saranno in grado di percepire il dolore, di catalogarlo su una scala di tre livelli, e, in caso sia necessario, chiedere aiuto all’essere umano. Secondo gli studiosi, i robot sono abitualmente sviluppati in modo “insensibile” così da poter svolgere lavori che gli uomini ritengono pericolosi ma, grazie alla percezione del dolore, potrebbero richiedere meno spese di manutenzione ed esser più sicuri per le persone che lavorano a stretto contatto con loro.

robot-simile-uomo-bella-cinese

Preoccupazioni a lungo termine

Secondo Nick Bostrom, uomo a capo del The Future of Humanity Institute, le macchine diventeranno più intelligenti degli uomini entro 100 anni e potrebbero rivoltarsi contro i propri creatori.”Credo che quando verrà raggiunta l’equivalenza con il genere umano, non passerà molto tempo prima che le macchine diventino super intelligenti. Potrebbe volerci molto tempo per arrivare al livello umano, ma penso che il passo da lì alla super intelligenza sarà molto rapido. Credo che queste macchine con potrebbero essere molto potenti, per le stesse ragioni per cui noi esseri umani siamo molto potenti rispetto ad altri animali su questo pianeta. Non è perché i nostri muscoli sono più forti o i nostri denti più affilati, ma perché i nostri cervelli sono migliori”, ha dichiarato Bostrom. Per ora in genere umano non può fare altro che aspettare e prestare particolare attenzione al come costruirà le prossime macchine addette a migliorare il nostro stile di vita, così che possano svolgere esclusivamente questo compito.

Rispondi o commenta

IL tuo indirizzo email non sarà pubblicato