I furbetti del quartiere (artificiale)

di GIOVANNI CERUTTI

Ogni quartiere ha i suoi furbetti

Quelli che cercano la scorciatoia.
Quelli che provano ad aggirare le regole.
Quelli convinti che, con un po’ di astuzia, si possa ottenere un vantaggio sugli altri.

Cambiano gli strumenti. Cambiano le tecnologie. Cambiano perfino le rivoluzioni.

I furbetti, invece, restano sempre gli stessi.

Qualche settimana fa, in Brasile, due avvocatesse hanno tentato di influenzare un sistema di intelligenza artificiale utilizzato nell’ambito di un procedimento giudiziario. Lo hanno fatto inserendo all’interno di un atto processuale istruzioni nascoste — scritte, tenetelo a mente perché ci torneremo, in bianco su sfondo bianco — destinate non al giudice, ma al suo assistente AI. Gli addetti ai lavori la chiamano prompt injection.

Il tentativo è stato scoperto rapidamente ed è raccontato in un interessante articolo di Alberto Bozzo per Il Sole 24 Ore, nel quale emerge la frase che da sola vale tutta la lettura: «Il giudice sapeva dove guardare. Ed è questa la notizia vera.»

Ha perfettamente ragione, Bozzo. Perché la vera notizia non è che qualcuno abbia provato a manipolare un’intelligenza artificiale. È che qualcuno abbia pensato che fosse una buona idea farlo, immaginandosi furbissimo.

E abbiamo appena visto com’è andata a finire: una multa pari al dieci per cento del valore della causa e una segnalazione all’ordine professionale. Fatemi dire, mi pare che la corte sia stata pure clemente, in un caso che avrebbe meritato ben altro rigore, visto il tipo di “attentato”.

Ogni nuovo intermediario genera nuovi manipolatori

C’è anche da dire che è sempre andata così: ogni volta che nella storia compare un nuovo intermediario, compaiono banditi di diversa ferocia (e intelligenza) che provano a corromperlo.

Quando arrivarono i motori di ricerca, nacque la SEO manipolativa.
Quando arrivarono le recensioni online, arrivarono anche quelle false.
Quando i social network iniziarono a determinare la visibilità dei contenuti, comparvero click farm, bot, engagement artificiale e reti di profili costruiti per alterare gli algoritmi.

Non è successo perché Internet fosse cattivo. È successo perché ogni sistema che prende decisioni può essere influenzato.

E gli agenti AI non faranno eccezione.

Anzi: rischiano di diventare il bersaglio più appetibile mai esistito. Perché convincere una persona è difficile. Ma convincere una persona già convinta dal suo agente AI — che lei stessa ha addestrato e di cui si fida — potrebbe rivelarsi molto più facile.

Immaginiamo un futuro molto vicino.

Il tuo agente AI deve scegliere il miglior hotel, confrontare offerte assicurative, decidere quale notaio contattare o quale impresa di pulizie ingaggiare.

Per farlo legge centinaia di documenti, siti web, PDF, FAQ e recensioni. E qualcuno, inevitabilmente, si chiederà come fare affinché legga… ciò che conviene. A quel qualcuno, naturalmente.

Non servirà convincere te.
Basterà convincere lui.
O, più precisamente, convincere ciò che lui considera autorevole.

Dalla SEO alla AEO. Cambia il destinatario, non il trucco.

Chi lavora nel marketing ricorda bene la stagione del testo bianco su sfondo bianco, nei siti web. Parole chiave ripetute decine di volte, pagine create solo per piacere ai motori di ricerca.

Vi ricorda qualcosa? È esattamente la tecnica riapparsa nell’atto processuale brasiliano. Corsi e ricorsi.

L’obiettivo non era informare una persona: era ingannare un algoritmo. Con il tempo Google ha imparato a riconoscere quei comportamenti.

Ma il principio non è mai cambiato. Cambia soltanto il destinatario.

Se ieri qualcuno cercava di convincere il motore di ricerca, domani proverà a convincere il tuo agente AI. Anzi: già oggi, il caso brasiliano non è poi così isolato, a scavare.

Certo, verranno impiegate tecniche e strumenti diversi. Ma con la stessa identica logica.

L’ingegneria sociale ha trovato un nuovo bersaglio

Per anni abbiamo associato l’ingegneria sociale agli esseri umani: e-mail di phishing, telefonate fraudolente, messaggi costruiti per sfruttare paura, urgenza o fiducia. Eccetera.

Ora dobbiamo ampliare la definizione.

Perché l’ingegneria sociale non parlerà più soltanto alle persone. Parlerà agli agenti che prenderanno decisioni per loro: cercherà di alterarne il contesto, di orientarne le fonti, di sfruttarne le regole di funzionamento.

Non sarà più sufficiente proteggere gli utenti. Bisognerà proteggere anche i loro intermediari digitali.

Detto altrimenti: dovrai addestrare i tuoi agenti AI a non farsi abbindolare.

Una nuova responsabilità per chi comunica

Per chi si occupa di marketing e comunicazione questa non è una curiosità tecnologica. È un vero e proprio cambio di paradigma.

Per anni abbiamo imparato a progettare contenuti comprensibili alle persone e interpretabili dai motori di ricerca.

Domani dovremo chiederci anche come verranno letti, pesati e confrontati dagli agenti AI. E, soprattutto, come distinguere i contenuti costruiti per informare da quelli costruiti per manipolare.

Perché la fiducia continuerà a essere il vero capitale competitivo. Anche quando il primo lettore non sarà un essere umano.

La vera notizia, in fondo, non è che esistano persone disposte a ingannare un’intelligenza artificiale. Sarebbe stato sorprendente il contrario.

La vera domanda è un’altra: quando gli agenti AI diventeranno i nostri intermediari quotidiani, sapremo riconoscere chi sta cercando di manipolare loro… invece che noi?

Parola di Eufemia.