Negli ultimi tempi, OpenAI ha adottato un approccio sempre più aggressivo nel perseguire la sua visione ambiziosa, soprattutto in risposta alla crescente popolarità di DeepSeek, che minaccia la sua posizione di leader nel settore dell’intelligenza artificiale (AI). L’azienda sta spingendo con decisione verso lo sviluppo dell’AGI (Artificial General Intelligence) e ha dichiarato che i super agenti AI rappresentano il futuro dell’innovazione tecnologica.
Sin dalla sua fondazione, OpenAI ha cercato di bilanciare la sicurezza con la competizione nel settore, ma le sue recenti scelte in materia di sicurezza AI sono state oggetto di critiche. Un ex membro chiave della società ha messo in discussione il cambiamento della sua narrazione sulla sicurezza, sollevando dubbi sulla reale direzione intrapresa dall’azienda.
Le critiche di un ex responsabile delle politiche
L’azienda ha recentemente condiviso con la comunità il suo approccio alla distribuzione graduale dei suoi modelli di intelligenza artificiale, citando il rilascio prudente di GPT-2 come esempio. Tuttavia, questa dichiarazione ha attirato critiche da parte di Miles Brundage, ex ricercatore sulle politiche di OpenAI, che ha accusato l’azienda di riscrivere la storia della sicurezza nell’AI.
Il documento sulla sicurezza AI di OpenAI
Nel documento pubblicato, OpenAI ha enfatizzato il suo approccio prudente ai sistemi attuali, sostenendo l’importanza di imparare dagli strumenti già disponibili per garantire la sicurezza dei modelli futuri. Nella dichiarazione ufficiale, l’azienda ha affermato:
“In un mondo discontinuo, le lezioni sulla sicurezza derivano dal trattare i sistemi di oggi con un’eccessiva cautela rispetto alla loro potenza apparente. Questo è l’approccio che abbiamo adottato per GPT-2. Ora vediamo la prima AGI come un punto lungo una serie di sistemi di crescente utilità […]. Nel mondo continuo, il modo per rendere il prossimo sistema sicuro e vantaggioso è imparare da quello attuale.”
Secondo Brundage, il rilascio di GPT-2 è avvenuto in modo incrementale, con OpenAI che condivideva informazioni e aggiornamenti in ogni fase. Gli esperti di sicurezza hanno riconosciuto e apprezzato questo approccio prudente, considerandolo una scelta responsabile. Brundage sottolinea che la strategia adottata per GPT-2 è in linea con l’attuale strategia di distribuzione iterativa e ritiene che la prudenza dimostrata in passato fosse necessaria e giustificata.
Dubbi sul futuro della sicurezza AI
Brundage ha inoltre espresso preoccupazione per l’affermazione di OpenAI secondo cui lo sviluppo dell’AGI avverrà in modo graduale anziché attraverso un progresso improvviso. Egli teme che la società stia riscrivendo la storia della sicurezza per minimizzare i rischi e normalizzare le sue decisioni attuali. Questo, secondo lui, potrebbe rappresentare un pericolo significativo con l’avanzare delle capacità dei sistemi AI.
Non è la prima volta che OpenAI viene accusata di dare priorità al progresso e ai profitti rispetto alla sicurezza a lungo termine. Esperti come Brundage mettono in discussione se questo compromesso sia giustificato e sollevano interrogativi su cosa potrebbe accadere in futuro se la sicurezza nell’AI non venisse affrontata con la massima cautela.
Questo contenuto non deve essere considerato un consiglio di investimento.
Non offriamo alcun tipo di consulenza finanziaria. L’articolo ha uno scopo soltanto informativo e alcuni contenuti sono Comunicati Stampa
scritti direttamente dai nostri Clienti.
I lettori sono tenuti pertanto a effettuare le proprie ricerche per verificare l’aggiornamento dei dati.
Questo sito NON è responsabile, direttamente o indirettamente, per qualsivoglia danno o perdita, reale o presunta,
causata dall'utilizzo di qualunque contenuto o servizio menzionato sul sito https://www.borsainside.com.
- Zero Commissioni sui CFD
- Oltre 800 ETF a zero commissioni per i primi 3 mesi (soggetto a condizioni).
- Strumenti avanzati di analisi
