In una lettera aperta, Elon Musk e un gruppo di esperti di intelligenza artificiale e dirigenti del settore chiedono una pausa di sei mesi nello sviluppo di sistemi più potenti dell’appena lanciato GPT-4 di OpenAI, citando potenziali rischi per la società. Ma mettere in pausa le intelligenze artificiali è davvero possibile?
All’inizio del mese, OpenAI, sostenuta da Microsoft, ha presentato la quarta iterazione del suo programma di intelligenza artificiale GPT (Generative Pre-trained Transformer), che ha stupito gli utenti coinvolgendoli in conversazioni simili a quelle umane, componendo canzoni e riassumendo lunghi documenti.
LEGGI ANCHE: ChatGPT e l’intelligenza artificiale generativa: i numeri del mercato
“I potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi gestibili“, si legge nella lettera pubblicata dal Future of Life Institute.
L’organizzazione non profit è finanziata principalmente dalla Musk Foundation, dal gruppo londinese Founders Pledge e dalla Silicon Valley Community Foundation.
La lettera per la pausa delle Intelligenze Artificiali
“L’intelligenza artificiale mi spaventa“, ha dichiarato Musk all’inizio del mese, anche se è uno dei co-fondatori dell’azienda leader del settore OpenAI e la sua casa automobilistica Tesla utilizza l’IA per il sistema di pilota automatico.
Cosa chiede Elon Musk per l’Intelligenza Artificiale
Musk ha chiesto un’autorità di regolamentazione per garantire che lo sviluppo dell’IA serva l’interesse pubblico, iniziando con il mettere in pausa le intelligenze artificiali.
“È profondamente ipocrita che Elon Musk firmi, visto quanto duramente Tesla ha combattuto contro le responsabilità per l’IA difettosa delle sue auto a guida autonoma“, ha dichiarato James Grimmelmann, professore di diritto digitale e dell’informazione alla Cornell University. “Una pausa è una buona idea, ma la lettera è vaga e non prende sul serio i problemi normativi“.
Il mese scorso Tesla ha dovuto richiamare più di 362.000 veicoli statunitensi per aggiornare il software dopo che le autorità di regolamentazione americane hanno affermato che il sistema di assistenza alla guida potrebbe causare incidenti, spingendo Musk a twittare che la parola “richiamo” per un aggiornamento software over-the-air è “anacronistica e semplicemente sbagliata!“.
OpenAI non risponde alla lettera di Musk
OpenAI non ha risposto immediatamente a una richiesta di commento sulla lettera aperta, che esorta a sospendere lo sviluppo di IA avanzate fino a quando non saranno sviluppati protocolli di sicurezza condivisi da esperti indipendenti e invita gli sviluppatori a lavorare con i responsabili politici sulla governance.
“Dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsità? … Dovremmo sviluppare menti non umane che potrebbero superarci di numero, essere più intelligenti, renderci obsoleti e sostituirci?“, si chiedeva nella lettera, affermando che “tali decisioni non devono essere delegate a leader tecnologici non eletti“.
La lettera è stata firmata da oltre 1.000 persone, tra cui Musk. Sam Altman, amministratore delegato di OpenAI, non era tra i firmatari della lettera. Anche Sundar Pichai e Satya Nadella, CEO di Alphabet e Microsoft, non hanno firmato.
Tra i cofirmatari figurano l’amministratore delegato di Stability AI Emad Mostaque, i ricercatori di DeepMind, società di proprietà di Alphabet, e i pesi massimi dell’IA Yoshua Bengio, spesso definito uno dei “padrini dell’IA”, e Stuart Russell, un pioniere della ricerca in questo campo.
Le preoccupazioni arrivano mentre ChatGPT attira l’attenzione dei legislatori statunitensi con domande sul suo impatto sulla sicurezza nazionale e sull’istruzione. Lunedì la polizia dell’UE Europol ha messo in guardia sul potenziale uso improprio del sistema nei tentativi di phishing, disinformazione e criminalità informatica.
Nel frattempo, il governo britannico ha presentato proposte per un quadro normativo “adattabile” sull’IA.
Dal suo rilascio l’anno scorso, ChatGPT di OpenAI ha spinto i rivali ad accelerare lo sviluppo di modelli linguistici simili di grandi dimensioni e le aziende, tra cui Alphabet Inc, stanno correndo per arricchire i loro prodotti con l’IA.
Gli investitori, diffidenti nell’affidarsi a un’unica azienda, stanno abbracciando i concorrenti di OpenAI.
Microsoft ha rifiutato di commentare la lettera e Alphabet non ha risposto alle chiamate per un commento.
“Gran parte del potere di sviluppare questi sistemi è stato costantemente nelle mani di poche aziende che hanno le risorse per farlo“, ha detto Suresh Venkatasubramanian, professore alla Brown University ed ex assistente del direttore dell’Ufficio della politica scientifica e tecnologica della Casa Bianca.
Source: http://www.ninjamarketing.it/
