Appello 'contro' l'intelligenza artificiale

[carletto23]

E' stato pubblicato un appello forte di oltre duecento personalita' - scienziati - premi Nobel - politici ed ex capi di stato sui rischi e le minacce che la cosiddetta "intelligenza artificiale" potra' presto creare, nel caso non venga al piu' presto opportunamente normata.

https://www.corriere.it/tecnologia/25_ottobre_02/diamo-dei-limiti-all-ai-l-appello-di-oltre-200-scienziati-politici-e-premi-nobel-rischiamo-di-perdere-il-controllo-8628be67-7941-4b94-aa97-efa85ff3fxlk.shtml

Si dice tra l'altro che potrebbe "amplificare minacce come pandemie ingegnerizzate, disinformazione diffusa, manipolazione delle persone su larga scala — inclusi i minori — rischi per la sicurezza nazionale e internazionale, disoccupazione di massa e violazioni sistematiche dei diritti umani".

Si dice inoltre che "per migliaia di anni, gli esseri umani hanno imparato — a volte nel modo più duro — che le tecnologie potenti possono avere conseguenze tanto pericolose quanto benefiche (come ad esempio l'energia nucleare). Con l'AI, potremmo non avere la possibilità di imparare dai nostri errori, perché l'AI è la prima tecnologia che può prendere decisioni da sola, inventare nuove idee da sola, e sfuggire al nostro controllo"

Viste le personalita' che hanno sottoscritto l'appello - tra cui persino alcuni creatori dei primi modelli  della ai stessa - viene da pensare che sia un appello da prendere sul serio. 

[carletto23]

L'appello si chiude con la richiesta ai governi di raggiungere un accordo internazionale sui limiti per l'AI entro la fine del 2026.

Visto cio' che attualmente governa il mondo, e cioe' il dio Denaro, (Immenso e Onnipotente), scommetterei che non si fara' nulla non solo nel 2026, ma nemmeno nel 2027, 2028, ..

[ART]

carletto23, la mia impressione è che ormai ci sia ben poco da fare, perchè anche se si riuscisse a normare l'IA a livello globale, cosa che già vedo abbastanza dura, rimane il fatto che non c'è norma che tenga nei paesi dittatoriali/fortemente autoritari e per le grandi entità non statali alla Elon Musk. E non è solo questione di Dio Denaro (sia sempre benedetto) ma anche di molto altro.

Molte delle minacce elencate non "potrebbero" essere amplificate perchè già lo sono, e da parecchio. Come noto l'IA è massicciamente impiegata per la disinformazione diffusa, la manipolazione delle persone su larga scala e ben oltre questo. Ad esempio per la produzione di armamenti avanzati in grado di decidere da soli come operare e se uccidere, di cui si stanno testando prototipi un po' ovunque e a cui si era cominciato a pensare non da poco, ma a livello teorico da una ventina d'anni e più pratico già da circa dieci.

Se lo si ritiene opportuno non vedo nulla di male a sottoscrivere l'appello, ma con l'IA ormai è già ampiamente fatta. E' cominciata anche qui "l'eterna lotta fra spada e scudo", qualunque conseguenza avrà per l'umanità. E' come per le armi nucleari: possiamo mettere in piedi tutti i trattati di non-proliferazione che vogliamo ma esistono e continueranno ad esistere, col rischio potenziale di essere utilizzate.

Modificato 2 ore fa da ART

[ilLurkatore]

Inizialmente ssi diceva che lew I.A. erano soggette solo ad "allucinazioni", solo di recente si sono accorti che sono in grado di mentire. E lo fanno di proposito.

Ci sarebbe tanto da dire in merito... ma non vado oltre il sunto:

è troppo tardi per fermare lo sviluppo delle I.A. e quando ci sarà il passaggio alle A.G.I., il genere umano sarà fottuto.

é solo questione di tempo.

[ART]

25 minuti fa, ilLurkatore dice:

Inizialmente ssi diceva che lew I.A. erano soggette solo ad "allucinazioni", solo di recente si sono accorti che sono in grado di mentire. E lo fanno di proposito.

Del resto uno dei motivi per cui qualcuno si sforza di riempire Internet di fake e palle varie è proprio quello di condizionare pro domo sua l'IA addetta a riassunti e spiegazioni per il pubblico su temi politici e sociali.

 

28 minuti fa, ilLurkatore dice:

 e quando ci sarà il passaggio alle A.G.I., il genere umano sarà fottuto.

é solo questione di tempo.

Penso sempre di più che l'umanità intesa nel complesso abbia bisogno di una bella lezione, perchè progredisce solo con quelle.