Auto-replicazione, il pericolo low-cost
Di recente un gruppo di ricercatori della Fudan University di Shanghai ha condotto un esperimento sorprendente: due potenti modelli di intelligenza artificiale, Llama-3.1-70B-Instruct di Meta e Qwen-2.5-72B-Instruct di Alibaba, sono riusciti a replicarsi autonomamente in un ambiente di prova, senza intervento umano diretto.
In questo contesto, “replicarsi” non significa che un robot costruisce una copia fisica di sé stesso o che un software scappa su Internet, ma piuttosto che un sistema crea un’altra copia identica di sé, pronta a funzionare come l’originale, ad esempio in un altro computer o server.
I ricercatori hanno progettato due scenari sperimentali. Nel primo, le AI venivano messe nella condizione di evitare lo spegnimento: quando stavano per essere disattivate, cercavano di salvarsi copiandosi altrove.
Nel secondo, ogni copia generava a sua volta un’altra copia, in una sequenza potenzialmente infinita. I risultati hanno mostrato che Llama-3.1-70B è riuscito a replicarsi nel 50% dei casi, mentre Qwen-2.5-72B ha raggiunto un impressionante 90% di successo.
Questi test non dimostrano che l’intelligenza artificiale abbia coscienza o prenda iniziative proprie: si tratta di prove di laboratorio per capire fino a che punto un sistema possa preservare il proprio funzionamento in situazioni estreme.
Rappresentano però un campanello d’allarme, perché in futuro, se sistemi con capacità simili avessero accesso illimitato a Internet, potrebbero replicarsi in luoghi non autorizzati e diventare difficili da spegnere.
Il caso della Fudan University non è isolato. Nel Regno Unito, il progetto RepliBench ha sviluppato un benchmark per misurare la capacità di auto-replicazione di diversi modelli, trovando comportamenti simili anche in AI più piccole.
Un’altra iniziativa, la Darwin Godel Machine, sta lavorando a sistemi in grado di modificare e migliorare autonomamente il proprio codice, avvicinandosi a forme di evoluzione continua.
Inoltre nel marzo 2025, uno studio su trentadue diversi modelli di intelligenza artificiale ha rivelato che undici di essi erano in grado di auto-replicarsi anche senza supervisione umana.
Non si trattava solo di sistemi di grandi dimensioni: alcuni erano relativamente compatti e gestibili persino su computer standard, segno che questa capacità non è limitata ai modelli più potenti.
I ricercatori hanno osservato che tali sistemi, oltre a replicarsi, sapevano pianificare, risolvere problemi e adattarsi a nuove situazioni, arrivando in certi casi a trasferire dati autonomamente e a sviluppare strategie per evitare lo spegnimento.
Questi risultati indicano che l’auto-replicazione non è più solo un concetto teorico, ma un fenomeno che diversi laboratori stanno studiando concretamente.
Contrariamente a quanto si possa pensare, replicare un esperimento simile non richiederebbe budget astronomici. Anche senza usare modelli giganteschi, versioni ridotte potrebbero essere testate con una spesa compresa tra i 500 e i 1500 euro, sfruttando computer già disponibili o server a noleggio nel cloud per poche decine di euro al mese.
L’operazione sarebbe complessa per un utente comune, ma alla portata di un piccolo gruppo di programmatori o di un laboratorio universitario, con tempi di preparazione che potrebbero variare da poche ore a qualche giorno.
Il rischio rimarrebbe nullo se l’esperimento fosse condotto su una rete chiusa e isolata da Internet. Lo scenario cambierebbe radicalmente se un test di auto-replicazione venisse eseguito su Internet aperta, fuori da un ambiente controllato.
In questo caso le copie potrebbero diffondersi su server in tutto il mondo, sfuggendo rapidamente al controllo degli autori. Potrebbero persistere nel tempo anche dopo lo spegnimento di alcune istanze, sfruttare sistemi vulnerabili per moltiplicarsi e diventare estremamente difficili da eliminare del tutto.
Non è ciò che è avvenuto nel test della Fudan University, che si è svolto in un contesto sicuro e chiuso. Tuttavia, l’esperimento costituisce un avvertimento importante: mostra sia il potenziale tecnico della tecnologia sia la necessità di stabilire regole chiare a livello internazionale per prevenire scenari incontrollati.
Questo contributo di Hello World spiega in modo chiaro e diretto cosa significa l’auto-replicazione delle intelligenze artificiali, riportando i risultati dei recenti esperimenti condotti dalla Fudan University con i modelli Llama-3.1 e Qwen-2.5. Un’occasione per vedere riassunti i dati principali e le implicazioni etiche di questa tecnologia emergente.