L’acceleratore di I.A. di Thales (CortAIx) ha sviluppato un metamodello in grado di rilevare i deepfake generati dall’intelligenza artificiale.

L’intelligenza artificiale è il tema centrale della European Cyber Week di quest’anno, che si  è svolto dal 19 al 21 novembre a Rennes, in Bretagna. In concomitanza a questo evento l’Agenzia francese per l’Innovazione della Difesa (AID) ha lanciato una sfida a cui Thales ha risposto sviluppando un metamodello per il rilevamento di immagini false generate dall’intelligenza artificiale. Con l’aumento dell’uso delle tecnologie di intelligenza artificiale, in un momento in cui la disinformazione sta diventando sempre più diffusa e ha un impatto su ogni settore dell’economia, il metamodello di rilevamento dei deepfake offre un modo per combattere la manipolazione delle immagini in molteplici casi, come la lotta contro le frodi di identità.

Le immagini generate dall’intelligenza artificiale vengono create utilizzando piattaforme come Midjourney, Dall-E e Firefly. Alcuni studi hanno previsto che nel giro di pochi anni l’uso di deepfake per furti di identità e frodi potrebbe causare enormi perdite finanziarie. Gartner ha stimato che circa il 20% degli attacchi informatici nel 2023 ha probabilmente incluso contenuti deepfake nell’ambito di campagne di disinformazione e manipolazione. Il rapporto[1] evidenzia il crescente uso dei deepfake nelle frodi finanziarie e negli attacchi di phishing.

“Il metamodello di rilevamento dei deepfake di Thales affronta il problema delle frodi di identità e delle tecniche di morphing”,^[2] ha affermato Christophe Meyer (FOTO), Senior Expert in AI e CTO di cortAIx, l’acceleratore AI di Thales. L’aggregazione di più metodi che utilizza reti neurali, rilevamento del rumore e analisi della frequenza spaziale ci aiuta a proteggere meglio il crescente numero di soluzioni che richiedono controlli biometrici dell’identità. Si tratta di un notevole progresso tecnologico e di una testimonianza dell’esperienza dei ricercatori di intelligenza artificiale di Thales.”

Il metamodello di Thales utilizza tecniche di apprendimento automatico, alberi decisionali e valutazioni dei punti di forza e di debolezza di ciascun modello per analizzare l’autenticità di un’immagine. Combina vari modelli, tra cui:

• Il metodo CLIP (Contrastive Language-Image Pre-training) prevede il collegamento di immagine e testo attraverso l’apprendimento di rappresentazioni comuni. Per rilevare i deepfake, il metodo CLIP analizza le immagini e le confronta con le loro descrizioni testuali per identificare incongruenze e artefatti visivi.
• Il metodo DNF (Diffusion Noise Feature) utilizza le attuali architetture di generazione di immagini (chiamate modelli di diffusione) per rilevare i deepfake. I modelli di diffusione si basano su una stima della quantità di rumore da aggiungere a un’immagine per causare una “allucinazione”, che crea contenuti dal nulla, e questa stima può essere utilizzata a sua volta per rilevare se un’immagine è stata generata dall’intelligenza artificiale.
• Il metodo DCT (Discrete Cosine Transform) per il rilevamento dei deepfake analizza le frequenze spaziali di un’immagine per individuare artefatti nascosti. Trasformando un’immagine dal dominio spaziale (pixel) al dominio della frequenza, la DCT è in grado di rilevare sottili anomalie nella struttura dell’immagine, che si verificano quando vengono generati deepfake e sono spesso invisibili a occhio nudo.

Il gruppo di lavoro di Thales che c’è dietro questa invenzione fa parte di cortAIx, l’acceleratore di intelligenza artificiale del Gruppo, che conta oltre 600 ricercatori e ingegneri,150 dei quali hanno sede presso il cluster di ricerca e tecnologia Saclay a sud di Parigi e lavorano su sistemi mission-critical. Il team Friendly Hackers ha sviluppato una cassetta degli attrezzi chiamata BattleBox per aiutare a valutare la robustezza dei sistemi abilitati all’intelligenza artificiale contro gli attacchi progettati per sfruttare le vulnerabilità intrinseche di diversi modelli di intelligenza artificiale (inclusi i modelli linguistici di grandi dimensioni), come gli attacchi avversari e i tentativi di estrarre informazioni sensibili. Per contrastare questi attacchi, i ricercatori sviluppano contromisure avanzate come l’unlearning, l’apprendimento federato, la filigrana del modello e l’hardening del modello.

Nel 2023, Thales ha dimostrato la sua competenza durante la sfida CAID (Conference on Artificial Intelligence for Defence) organizzata dall’Agenzia francese per gli appalti della difesa (DGA), che prevedeva il reperimento dei dati di addestramento dell’IA anche dopo che erano stati eliminati dal sistema per proteggerne la riservatezza.

[1] Rapporto Gartner® 2023 sui rischi emergenti per la sicurezza informatica.

[2] Il morphing permette la modifica graduale di una faccia in un’altra in fasi successive per creare un’immagine realistica che combina elementi di entrambe le facce. Il risultato finale sembra un mix delle due apparizioni originali.