Quanto preoccuparsi dell'AI, senza panico e senza ingenuità

Geoffrey Hinton, premio Nobel e uno dei padri delle reti neurali, dice che c’è una probabilità non trascurabile che l’AI sfugga al nostro controllo. Jensen Huang, che guida l’azienda che vende i chip su cui gira quasi tutta l’AI, dice che l’allarmismo è andato troppo oltre. Demis Hassabis e Dario Amodei, che i modelli li costruiscono, stanno nel mezzo: rischi seri, gestibili con regole e ricerca.

Chi ha ragione? Credo che la domanda sia mal posta. Parliamo di rischi molto diversi, su orizzonti molto diversi, e mescolarli produce o panico o indifferenza.

Rischi di oggi: concreti e già qui

Questi non sono ipotesi. Succedono adesso, e riguardano chiunque.

Truffe e frodi. Voci clonate con pochi secondi di audio, video falsi di dirigenti che chiedono bonifici urgenti, phishing scritto in italiano perfetto.
Deepfake e reputazione. Immagini e video falsi di persone reali, compresi contenuti sessuali non consensuali. L’Europa li ha vietati nel 2026, l’Italia ha introdotto un reato specifico, ma la tecnologia per produrli resta accessibile.
Privacy. Dati personali e aziendali caricati in strumenti senza le tutele giuste.
Sicurezza informatica. Gli attaccanti usano l’AI per trovare vulnerabilità e scrivere malware; gli agenti aprono nuove vie d’attacco come la prompt injection.
Errori in decisioni importanti. Allucinazioni in documenti legali, medici, finanziari, quando nessuno verifica.
Concentrazione del potere. Pochissime aziende controllano i modelli più capaci e l’infrastruttura per farli girare.

Su questi rischi la buona notizia è che le difese esistono e sono in gran parte comportamenti: verificare, proteggere i dati, stabilire procedure, educare. Le guide di questo sito parlano soprattutto di questo.

Rischi di domani: incerti ma non da ridere

Poi ci sono i rischi su cui si dividono i ricercatori:

Uso malevolo in ambiti estremi, come le armi biologiche: modelli capaci di dare un aiuto significativo a chi vuole fare danni. I laboratori testano i modelli proprio per questo prima di rilasciarli, e la ricerca che usa l’AI per progettare virus fa discutere anche quando ha scopi legittimi.
Perdita di controllo: sistemi molto capaci che perseguono obiettivi diversi da quelli voluti, e che sono difficili da correggere. Qui c’è chi stima rischi significativi e chi li considera fantascienza.

Non ho la competenza per dare probabilità. Ma osservo due cose. La prima: a preoccuparsi non sono solo outsider, ma anche alcune delle persone che hanno inventato questa tecnologia e che la costruiscono oggi. La seconda: la ricerca sulla interpretabilità (capire cosa succede dentro un modello) e sulla sicurezza sta facendo progressi reali, e merita più risorse, non meno.

Cosa penso, in sintesi

Non è utile il panico. Chi si convince che “tanto finirà male” smette di agire su ciò che può controllare, cioè quasi tutto ciò che conta nel breve periodo.
Non è utile l’ingenuità. Chi liquida ogni preoccupazione come allarmismo di solito ha un interesse economico a farlo, o non ha guardato da vicino i rischi di oggi.
Le regole servono. L’AI Act non è perfetto, e il rinvio del 2026 sull’alto rischio lo dimostra, ma il principio è giusto: più il rischio è alto, più servono controlli, trasparenza e responsabilità. Così come servono test indipendenti sui modelli più capaci prima del rilascio.
La responsabilità resta umana. In ogni uso concreto, qualcuno deve rispondere delle decisioni prese con l’AI. Nella mia professione è anche un obbligo di legge, e lo trovo giusto.

Cosa puoi fare tu

Stabilisci una parola d’ordine in famiglia e in azienda contro le truffe vocali.
Verifica prima di usare ciò che l’AI produce nelle decisioni importanti.
Proteggi i dati con i piani e le impostazioni giuste.
Informati da fonti serie, che distinguono annunci, indiscrezioni e speculazioni.
Partecipa al dibattito: le regole sull’AI si stanno scrivendo adesso, e riguardano tutti.

In una riga

Preoccuparsi in modo utile vuol dire occuparsi dei rischi che possiamo ridurre oggi, senza smettere di prendere sul serio quelli che non capiamo ancora.

Fonti

Contenuto informativo aggiornato alla data indicata. Prezzi, modelli e norme cambiano spesso: verifica sempre sulle fonti ufficiali. Testo scritto con il supporto di strumenti di AI e rivisto dall'autore.