Deepfake, arrivano nuovi strumenti per smascherare video e foto manipolati con l'IA

Proliferano online i contenuti generati o alterati dall'intelligenza artificiale. Per arginare il rischio di deepfake, le società che già offrono soluzioni per individuare i contenuti sintetici si mobilitano perfezionando i loro strumenti. Tra queste c'è Pangram, realtà specializzata nella verifica dell'autenticità digitale, che ha rilasciato una funzionalità che analizza i file video evidenziando anche singoli frame dove è intervenuta l'intelligenza artificiale.
    L'azienda afferma che lo strumento è in grado di distinguere tra clip "parzialmente generate dall'IA" e "interamente create dall'IA", grazie a una mappa di calore che sottolinea i momenti del filmato frutto dell'intelligenza artificiale, con tassi di accuratezza dichiarati superiori al 98%.
    "L'intelligenza artificiale rende più facile creare un contenuto falso ma, allo stesso tempo, rende plausibile il dubbio anche su un contenuto autentico", spiega Mirko Vicenzotto di Axerta, azienda italiana che si occupa di attività forensi.
    Proprio Axerta ha inserito la "deepfake detection", il riconoscimento di falsi video, tra gli elementi necessari per "individuare manipolazioni digitali, distinguendo evidenze autentiche da contenuti alterati".
    Se da un lato operano i sistemi di monitoraggio a posteriori dei contenuti già online, dall'altro i colossi del settore puntano sulla tracciabilità preventiva alla fonte. L'iniziativa di riferimento è la Coalition for Content Provenance and Authenticity (C2pa), standard aperto sostenuto da Adobe, Microsoft, Google, Intel, Sony, Bbc e altre compagnie. Il protocollo sviluppa i cosiddetti Content Credentials, una sorta di etichetta digitale che associa al file degli elementi non modificabili su origine, modifiche subite ed eventuale impiego di strumenti di intelligenza artificiale sin dal momento dello scatto o della generazione.
    Anche l'Italia si muove sul fronte dei deepfake. A poco più di un anno dall'entrata in vigore della legge n. 132/2025, che ha introdotto nel codice penale l'art. 612-quater per punire l'illecita diffusione di contenuti generati o alterati con l'IA, il quadro si è arricchito con il d.lgs. n. 160/2026, in vigore dal 30 settembre. Il decreto ha inserito il deepfake tra i reati che possono far scattare la responsabilità amministrativa degli enti e ha dettato nuove regole di responsabilità civile per i danni causati dai sistemi di IA.