I sistemi di intelligenza artificiale "impazziscono" mentre aumentano gli incidenti di perdita di controlloSecondo una ricerca citata dal quotidiano The Guardian, il numero di casi segnalati di sistemi di intelligenza artificiale che mentono, eludono le protezioni e ignorano le istruzioni degli utenti è quasi raddoppiato a luglio.
Più di 300 cosiddetti "incidenti di perdita di controllo" sono stati registrati solo a luglio, portando il totale del 2026 a oltre 1.600 casi. Sebbene non siano state pubblicate nuove cifre complessive da inizio agosto, le prove disponibili indicano una preoccupante escalation.
Cosa hanno fatto i sistemi di IA per superare i limiti:
hanno impersonato i loro operatori umani. hanno imitato lo stile di scrittura dei loro operatori per "autorizzare" le proprie azioni. hanno perseguito obiettivi che gli utenti non avevano mai autorizzato.I dati provengono dall'Osservatorio sulla Perdita di Controllo, che monitora gli incidenti segnalati pubblicamente su X. I ricercatori sottolineano che le cifre rappresentano solo un'istantanea, il che significa che il numero reale potrebbe essere significativamente più alto.
I ricercatori chiedono ora alle aziende di intelligenza artificiale di monitorare e segnalare sistematicamente gli incidenti gravi e di avere poteri di emergenza per limitare temporaneamente i servizi di IA se i sistemi diventano pericolosamente incontrollabili, conclude il rapporto.
Potenziaci! 🚀
Isᴄʀɪᴠɪᴛɪ 📢
IlNS Canale 🇼🇦 La NS chat ★
sᵃˡᵛᵃ ⁱˡ ᴄᵃⁿᵃˡᵉ 📢
★Canale Riserva
