INTELLIGENZA ARTIFICIALE contro INTELLIGENZA ARTIFICIALE

Un problema di scottante attualità è ormai rappresentato dalla “disinformazione”, basata sulla realizzazione e divulgazione di testi, immagini e filmati sostanzialmente falsi. Tale problema viene ulteriormente amplificato dalle nuove tecnologie informatiche, che rendono tali realizzazioni ormai sempre più automatizzabili.

Per esempio, gli algoritmi di intelligenza artificiale possono generare un testo abbastanza convincente e sensato tanto da ingannare il lettore medio, divenendo potenzialmente strumenti per produrre in serie notizie false, recensioni false e social account fasulli.

A tale proposito dei ricercatori americani hanno condotto un esperimento interessante: hanno chiesto ad alcuni studenti di Harvard di identificare, tra un certo numero di testi, quali fossero quelli generati da un’intelligenza artificiale. Gli studenti sono stati in grado di individuarne solo la metà.

Ma, per nostra fortuna, l’IA può anche essere utilizzata per identificare testi artificiali.

I ricercatori dell’Università di Harvard e del WIT on AI Lab del MIT di Boston hanno sviluppato un nuovo strumento per individuare testi generati usando l’IA. Tale algoritmo, chiamato per acronimo GLTR (Giant Language Model Test Room), sfrutta il fatto che i generatori artificiali di testo si basano su schemi statistici, in contrapposizione al significato reale di parole e frasi. In altri termini, tale strumento può indicarci se le parole utilizzate nel testo analizzato sembrano troppo prevedibili per essere state scritte da una mano umana, poichè il nostro cervello, a parità di significato, ama la complessità e la varietà.

In sintesi, GLTR analizza le parole che possono statisticamente apparire dopo ogni parola di testo, evidenziando le parole più prevedibili in colore verde, le meno prevedibili in giallo ed in rosso e quelle più originali e ricercate in viola.

A questo punto i ricercatori hanno condotto lo stesso esperimento sopra riportato con gli stessi studenti di Harvard, ma con l’aiuto dell’analisi prodotta dal GLTR: gli studenti sono stati in grado di individuare il 72% dei testi artificiali.

In conclusione, strumenti basati sull’intelligenza artificiale come questo possono diventare armi preziose nella lotta per smascherare le finalità poco etiche, spesso insite in fakenews, deepfakes e chatbot automatiche.

(da: MIT Technological Review – 2019)

ACTION ICT è un’azienda di informatica giovane, dinamica e innovativa. Opera, sia a livello nazionale che internazionale, offrendo competenze professionali e soluzioni progettuali nell’ambito dell’ICT a clienti di medie e grandi dimensioni. Le nostre aree di eccellenza sono coperte da tre nostri centri di competenza: ACTION DATA (Big Data e Analytics), ACTION APP (Web & Mobile Application) e ACTION IOT (Intelligenza Artificiale, Internet of Things e Robotica).