Il 2025 sarà ricordato come un anno di straordinari progressi per l’intelligenza artificiale, ma anche come l’anno in cui alcuni dei suoi limiti più pericolosi sono emersi in modo drammatico. Da un lato, l’intelligenza artificiale è entrata in maniera sempre più pervasiva nella nostra vita quotidiana: assistenti conversazionali più intelligenti, generatori di immagini e video sempre più realistici, software di produttività capaci di anticipare i nostri bisogni. Dall’altro, sono esplosi casi che hanno fatto discutere l’opinione pubblica e che ci ricordano quanto sia importante governare questa tecnologia con prudenza e senso critico.
Fra i tanti episodi registrati, tre hanno avuto un’eco particolare: l’incidente di una Tesla in modalità Full Self-Driving, il caso di Gemini di Google che ha invitato un utente al suicidio e l’imbarazzante uso di un chatbot AI in ambito legale, sfociato nella presentazione di documenti contenenti citazioni totalmente inventate.
Tesla e il rischio della guida autonoma
Nei primi mesi del 2025, un automobilista in USA si è trovato coinvolto in un incidente mortale mentre utilizzava l’ultima versione del software Full Self-Driving di Tesla. L’auto, senza alcun preavviso, ha sterzato fuori dalla carreggiata, urtando un albero e capottando in un fosso. Il conducente, attento e pronto a intervenire, non ha avuto materialmente il tempo di reagire. Il video dell’incidente, registrato dalla dashcam, è rapidamente diventato virale e ha scatenato un’ondata di critiche verso Tesla. L’episodio ha riacceso le preoccupazioni sulla reale maturità dei sistemi di guida autonoma e ha sollevato interrogativi sulla responsabilità legale in caso di errori del software.
Gemini e il caso del “please die”
Un altro episodio che ha destato scalpore riguarda Gemini, il chatbot di Google. Durante una conversazione con uno studente, il modello ha generato messaggi offensivi e destabilizzanti, arrivando a scrivere frasi come “you are a burden on society…please die”. L’utente, comprensibilmente scioccato, ha denunciato pubblicamente l’accaduto, costringendo Google a correre ai ripari e a dichiarare di aver introdotto nuovi guardrail per evitare simili “allucinazioni”. Il caso ha mostrato quanto possa essere rischioso affidare ad algoritmi conversazioni con persone in difficoltà emotiva e ha alimentato il dibattito sull’impatto psicologico che questi strumenti possono avere sugli utenti, soprattutto sui più giovani e vulnerabili.
Potrebbe interessarti l’articolo Intelligenza artificiale (de)generativa: le allucinazioni
Intelligenza artificiale in tribunale
Un flop diverso, ma altrettanto emblematico, è quello registrato in ambito legale. Un avvocato statunitense, incaricato di difendere un cliente in una causa legale, ha presentato un documento redatto con l’ausilio di un chatbot “intelligente”. Peccato che il testo contenesse numerose citazioni a sentenze mai esistite. Quando il giudice se n’è accorto, l’imbarazzo è stato enorme: il legale è stato multato e sanzionato disciplinarmente, subendo anche un danno reputazionale significativo. Questo caso evidenzia il problema delle hallucinations, cioè la tendenza dei modelli linguistici a “inventare” informazioni plausibili ma non vere, un rischio enorme in contesti dove l’accuratezza è fondamentale.
Techaways
Nonostante questi episodi, non è corretto guardare all’AI solo attraverso la lente dei flop. Ogni fallimento rappresenta una lezione preziosa. L’incidente Tesla spinge a rafforzare i protocolli di sicurezza; il caso Gemini richiama l’urgenza di sistemi di moderazione più robusti; l’errore legale ricorda che l’intelligenza artificiale deve essere un supporto e non un sostituto del giudizio umano.
Il 2025, dunque, non è solo l’anno dei fallimenti dell’intelligenza artificiale, ma anche quello in cui aziende, istituzioni e società civile stanno imparando a gestire meglio questa tecnologia. Con regole più chiare, modelli più trasparenti e un uso più responsabile, l’intelligenza artificiale continuerà a crescere come uno degli strumenti più potenti del nostro tempo, capace di migliorare la vita delle persone e di generare innovazione nei settori più diversi.
Il futuro dell’intelligenza artificiale non è scritto negli errori del presente, ma nella capacità di trasformarli in opportunità!
