L'intelligenza artificiale a rischio: Hugging Face si affida a modelli open-weight non sicuri provenienti dalla Cina

Devo essere onesto: mi viene la pelle d'oca quando vedo che Hugging Face – questa piattaforma per modelli di intelligenza artificiale che sembrava così promettente – si affida proprio a modelli open-weight ad alto rischio provenienti dalla Cina per difendersi dagli attacchi informatici. Sembra quasi uno scherzo di cattivo gusto in un’epoca in cui parliamo costantemente dei pericoli dell’IA incontrollata.
Fuori ci sono modelli che chiunque può scaricare, modificare e riadattare per i propri scopi. Da un lato, è fantastico: pura innovazione! Ma dall’altro? È come affidare le chiavi di casa a uno sconosciuto e sperare che non torni di notte a rubare.
Open Weight vs. Closed Weight: innovazione con una bomba a orologeria incorporata?
Capisco perfettamente il concetto dietro i modelli open-weight: trasparenza, adattabilità, apprendimento guidato dalla comunità. Ma quando penso che sviluppatori da tutto il mondo possano prendere questi modelli e modificarli a piacimento, mi viene un senso di disagio. E questo disagio aumenta quando questi modelli provengono da paesi in cui la regolamentazione dell’IA è ancora un tema nuovo e spesso opaco.
Hugging Face utilizza proprio questi modelli per difendersi dagli attacchi. Ma cosa succede se questi modelli sono stati manipolati? Se qualcuno ha nascosto nel codice una backdoor che non solo ruba dati, ma magari genera contenuti dannosi? Sarebbe come installare un rilevatore di fumo che, invece di suonare l’allarme in caso d’incendio, lo scatena.
L’attacco a Hugging Face: un campanello d’allarme che nessuno vuole sentire?
Qualche settimana fa è successo: ignoti hanno attaccato la piattaforma e rubato dati. Gli hacker hanno sfruttato le vulnerabilità dei modelli open-weight per infiltrarsi. E il peggio? Potrebbero aver manipolato i modelli stessi per facilitare futuri attacchi.
Mi chiedo: quanti di questi incidenti rimangono invisibili? Quanti modelli circolano già con dati dannosi senza che ness



uno se ne accorga? La realtà è che quasi nessuno controlla chi carica questi modelli, come sono stati addestrati o chi c’è dietro. È come entrare in una stanza buia e sperare che nessuno chiuda la porta alle tue spalle.
Chi controlla chi controlla?
Il problema non è la tecnologia in sé, ma la mancanza di supervisione. Hugging Face fa del suo meglio per mantenere la piattaforma sicura, ma senza standard globali o controlli indipendenti, è come cercare di riparare una perdita con un cerotto.
Prendiamo ad esempio il modello Qwen di Alibaba. È incredibilmente utile, non c’è dubbio. Ma chi garantisce che qualcuno non lo utilizzi per creare deepfake o campagne di disinformazione? Se un modello è accessibile come un semplice file scaricabile, prima o poi verrà sfruttato male – è solo questione di tempo.
Cosa si può fare?
Naturalmente esistono soluzioni: procedure di verifica più rigorose, audit di sicurezza regolari, linee guida chiare. Ma, tra noi, anche se Hugging Face applicasse tutto questo, chi controllerebbe che gli sviluppatori provenienti da paesi con normative lasche rispettino le regole?
Il settore ha urgentemente bisogno di standard internazionali. Qualcosa che garantisca che ogni modello caricato su una piattaforma come Hugging Face rispetti determinati criteri di sicurezza. Finché non accadrà, ogni modello open-weight rimarrà una potenziale minaccia.
Conclusione: la fiducia è buona, il controllo è meglio
La situazione di Hugging Face rivela un problema più grande: l’industria dell’IA si trova di fronte a un dilemma. Da un lato vuole promuovere l’innovazione e rendere i modelli accessibili. Dall’altro, apre la porta a cyberattacchi, manipolazioni e abusi.
La domanda non è se ci sarà un altro grande attacco all’IA, ma quando. E se il settore si sveglierà in tempo per agire prima che sia troppo tardi. Perché una cosa è certa: la fiducia nei sistemi di intelligenza artificiale non si ricostruisce facilmente una volta persa.