L’ultima frontiera dell’ IA …(ma ci sarà mai l’ultima frontiera?) è quella delle macchine parlanti. Così ci informa l’Espresso.
* Si tratta di bot, o robot, che vengono addestrati a emulare intonazioni, timbro, persino cambiare discorso come può capitare in una conversazione reale. Riprodurre piccole imperfezioni. Modificare il tono fra un passaggio e l’altro della discussione.
In una conversazione ognuna di queste varianti può veicolare un significato diverso. Si pensi a un assunto come: “Ti sei divertito?” Il senso che vogliamo dare è diverso se l’interlocutore è torinista e se il Toro ha vinto oppure ha perso. O se si rivolge allo juventino, nella stessa situazione.
Ora, immaginiamo quali meravigliose praterie si presenteranno ai truffatori quando verranno rilasciati questi programmi software.
Sicuramente si ricorderà la maxi truffa che coinvolse l’’ex A.D. di Fideuram, la Banca controllata dal gruppo Intesa Sanpaolo. Paolo Molesini, ex dirigente di Fideuram, nel febbraio scorso riceve una serie di messaggi su WhatsApp e telefonate da parte di truffatori che si sono finti autorizzati dall’Amministratore delegato di Intesa Sanpaolo, Carlo Messina, tramite un avvocato d’affari realmente noto a Molesini. La voce del legale era stata clonata utilizzando strumenti di intelligenza artificiale (deepfake vocale).
Facendo leva su urgenza e riservatezza, Molesini autorizza bonifici per un totale di 95 milioni di euro diretti verso istituti esteri, in particolare in Cina e a Hong Kong.
Parte del denaro viene intercettata e bloccata grazie agli allarmi e all’intervento della Procura di Milano, ma la perdita secca rimane una cinquantina di milioni. In seguito a questa vicenda, a marzo Molesini rassegna le dimissioni per “ragioni personali”.
La tecnologia descritta da L’Espresso è ancora in fase sperimentale, con l’obiettivo di “validarla” attraverso test dedicati, che mettono sotto prova i comportamenti del software che appaiono anomali (esempio ”puoi avvicinarti al microfono” e il bot, per tutta risposta, alza la voce)
Già oggi le aziende hanno adottato varie modalità di contromisure, come tecnologie in grado di analizzare i file audio, protocolli che impongono l’uso di sequenze vocali definite per spezzare gli automatismi utilizzati dal software. Ma anche parole d’ordine note solo ai dipendenti (Safe Words); o, in caso di ordini telefonici, l’obbligo di richiamare l’interlocutore per controllare la genuinità della chiamata.
Strategie accessibili anche al pubblico generale, possiamo apprenderle in caso di necessità.
Ma ci pensate che pacchia per i truffatori, con le persone anziane in balìa di telefonate che chiedono di inviare denaro a un nipote nei guai? Fornendo come appoggio un conto corrente hackerato? Un robot “nipote” che parla con l’accento del nostro territorio, la voce rotta dall’ansia, il tono in cui riconosciamo l’età, il modo di esprimersi.
Una voce che sa ridere, fingere di provare emozioni e di saperci ascoltare…
*Viaggio nell’Intelligenza Artificiale- Macchine parlanti. Marco Montemagno.
Gianpaolo Nardi
gianpaolon@vicini.to.it
Lascia un commento