Anthropic ha presentato ufficialmente Mythos Preview, un nuovo potente modello di intelligenza artificiale con funzionalità avanzate di sicurezza informatica, insieme a una massiccia iniziativa di settore chiamata Project Glasswing. Con una mossa rara, la startup di intelligenza artificiale sta collaborando con i suoi principali concorrenti, tra cui Google, Microsoft e Apple, per garantire che la prossima generazione di strumenti di intelligenza artificiale funga da scudo per l’infrastruttura digitale piuttosto che da arma per gli hacker.
L’ascesa delle capacità informatiche “accidentali”.
Lo sviluppo di Mythos Preview evidenzia una tendenza significativa nell’intelligenza artificiale: le capacità emergenti. Il CEO di Anthropic, Dario Amodei, ha osservato che il modello non è stato progettato specificamente per l’hacking; piuttosto, è stato addestrato per essere eccezionalmente abile nella programmazione.
Come sottoprodotto diretto della sua abilità di codifica, il modello ha acquisito la capacità di eseguire compiti complessi di sicurezza informatica, come:
– Scoperta di vulnerabilità: identificazione dei punti deboli nel software.
– Sfruttare lo sviluppo: creazione di “prove di concetto” per dimostrare come è possibile violare un sistema.
– Test di penetrazione: Simulazione di attacchi per testare le difese.
– Analisi binaria: valutazione del software senza la necessità di accedere al codice sorgente originale.
Questo crea un gioco del “gatto col topo” ad alto rischio. Sebbene questi strumenti possano aiutare i difensori a individuare e correggere i bug più rapidamente, forniscono anche ai malintenzionati la possibilità di automatizzare attacchi sofisticati che in precedenza erano troppo difficili o costosi da eseguire.
Progetto Glasswing: una difesa collaborativa
Riconoscendo il rischio, Anthropic ha formato il Progetto Glasswing, un consorzio progettato per preparare l’ecosistema tecnologico globale per un mondo di intelligenza artificiale altamente capace. Il gruppo comprende più di 40 organizzazioni, che vanno dai giganti della tecnologia come Nvidia e Amazon Web Services alle infrastrutture critiche e alle istituzioni finanziarie.
La strategia alla base di questa collaborazione è duplice:
1. Mitigazione delle vulnerabilità: Fornendo agli sviluppatori di piattaforme fondamentali (come Microsoft e Google) accesso privato a Mythos Preview, possono utilizzare il modello per individuare le vulnerabilità nei propri sistemi e correggerle prima che il modello venga rilasciato al pubblico in generale.
2. Standardizzazione della difesa: il gruppo mira a ridefinire i paradigmi di sicurezza. Come ha spiegato Logan Graham, leader del team rosso di frontiera di Anthropic, gli attuali presupposti di sicurezza potrebbero crollare entro i prossimi 6-24 mesi non appena queste funzionalità diventeranno ampiamente disponibili.
“Abbiamo visto Mythos Preview realizzare cose che un ricercatore senior in materia di sicurezza sarebbe in grado di realizzare”, afferma Graham. “Se fatto senza attenzione, questo potrebbe essere un significativo acceleratore per gli aggressori.”
Trovare i bug “introvabili”.
I potenziali benefici di questa collaborazione si stanno già realizzando. Anthropic riferisce che Mythos Preview ha già scoperto migliaia di vulnerabilità critiche, inclusi alcuni bug che non erano stati rilevati per decenni nel codice altamente esaminato.
Per aziende come Microsoft, l’obiettivo è utilizzare l’intelligenza artificiale per ampliare la difesa. Il CISO globale di Microsoft, Igor Tsyganskiy, ha osservato che poiché la sicurezza informatica va oltre le capacità puramente umane, l’intelligenza artificiale offre un’opportunità “senza precedenti” per ridurre i rischi su scala globale.
Il cammino da percorrere
Il progetto Glasswing è attualmente nelle sue fasi iniziali. Affinché l’iniziativa abbia successo, deve andare oltre una ristretta cerchia di aziende tecnologiche ed evolversi in uno standard globale più ampio per la gestione della sicurezza basata sull’intelligenza artificiale. La sfida centrale rimane: identificare le domande cruciali sulla sicurezza dell’IA e trovare risposte prima che la tecnologia superi la nostra capacità di difenderci.
Conclusione
Riunendo i concorrenti sotto il progetto Glasswing, Anthropic sta tentando di trasformare una potenziale crisi di sicurezza in uno sforzo di difesa coordinato. L’obiettivo è garantire che, man mano che l’intelligenza artificiale diventa più capace di violare il software, diventi altrettanto capace di proteggerlo.
