Beaumontsur Mer –
“C’è soltanto una guerra che può permettersi il genere umano: la guerra contro la propria estinzione.” Isaac Asimov
Sistemi di intelligenza artificiale che sviluppano, accedono o sono dotati di capacità che aumentano il loro potenziale di causare danni di massa attraverso l’inganno, lo sviluppo e l’acquisizione di armi, la persuasione e la manipolazione, la strategia politica, l’offensiva informatica, lo sviluppo dell’IA, la consapevolezza situazionale e l’auto proliferazione. Queste capacità possono causare danni di massa a causa di attori umani malintenzionati, sistemi di IA non allineati o guasti nel sistema di IA.Al fine di preservare i diritti di proprietà e i diritti legali degli esseri umani, è necessario mettere in atto determinati controlli.
Se un agente dotato di intelligenza artificiale è in grado di manipolare sistemi e persone, potrebbe anche avere la capacità di trasferire a sé stesso i diritti di proprietà o manipolare il sistema legale per ottenere determinati vantaggi o status giuridici.Esiste una probabilità significativa di una catastrofe di proporzioni simili a quella di Chernobyl? Potrebbe esserci addirittura una probabilità superiore al 10% che l’IA possa “sterminare tutta l’umanità” nel prossimo decennio? Secondo alcuni esperti del settore, l’intelligenza artificiale potrebbe sterminare l’intera specie umana. In particolare, affermano che potrebbe annientare l’umanità entro la fine del prossimo decennio.
Sheryl Cro, una cantautrice americana ha scritto una canzone dal titolo “Evolution”, nel quale si pone alcune domande sul futuro dell’umanità: “Dove siamo diretti in questo paradiso?Siamo passeggeri e non c’è nessuno al volanteNon importa quanto tu possa superarmiC’è una cosa che non farai mai, ed è provare emozioni”.La cantautrice sembra lanciare un chiaro avvertimento: se l’umanità perde la capacità di sentire e delega il controllo alle macchine (“nessuno al volante”), rischia l’estinzione della propria anima e della propria natura profonda.Il brano nasce dai timori di Crow riguardo all’impatto dell’IA sulla creatività e sull’umanità, ispirandosi anche alle preoccupazioni del defunto fisico Stephen Hawking sul fatto che le macchine possano rimpiazzare l’uomo. Come madre, Crow si interroga sul mondo che lascerà alle nuove generazioni, divise da bolle digitali e algoritmi che confermano le proprie idee contrapponendosi al resto del mondo.Politici, principali e organizzazioni giornalistiche, hanno reagito con allarme dopo che un dipendente di Anthropic, Jacob Coxon, ha annunciato le sue dimissioni dall’azienda di intelligenza artificiale perché il lavoro era troppo pericoloso.
Evan Hubinger, un altro dipendente di Anthropic, è intervenuto affermando che la probabilità di un’estinzione umana causata dall’intelligenza artificiale entro 10 anni è superiore al 10%.Questi avvertimenti sono stati sottolineati su entrambe le sponde dell’Atlantico, riguardo al potenziale impatto dell’IA tecnologia. Mentre la maggior parte delle persone la considera ancora un motore, innocuo, di ricerca più loquace.Alcune di queste minacce sono state sollevate nel Regno Unito, quando parlamentari e membri della Camera dei Lord hanno iniziato a confrontarsi con il pericolo che l’intelligenza artificiale superi le capacità umane. Gli avvertimenti sul nucleare sono arrivati da Des Browne, ex ministro della Difesa, e dal professor Stuart Russell, eminente informatico di Berkeley.
Dopo la bomba atomica, l’umanità si trova di fronte a capacità che potrebbero finire per ucciderci tutti.“Per un osservatore sito nella nebulosa di Andromeda, il segno della nostra estinzione non sarebbe più appariscente di un fiammifero che si accende per un secondo nel cielo.” Stanley Kubrick.
Gigino Adriano Pellegrini