Funziona così. A un annuncio interessante rispondono centinaia di persone, e nessun ufficio del personale ha il tempo di aprire tutti i file. Da anni, quindi, la prima scrematura la fa un programma. Un tempo erano filtri elementari, che cercavano le parole dell'annuncio dentro il documento. Oggi se ne occupa l'intelligenza artificiale: apre il curriculum, lo riassume, valuta quanto quel profilo somiglia a quello che l'azienda cerca e mette i candidati in fila. Solo i primi della fila finiscono sotto gli occhi di una persona.
Il che vuol dire che il curriculum ha smesso di essere soltanto un foglio da leggere. È diventato un testo che una macchina elabora e su cui decide. E quando una macchina legge, si può provare a parlarle.
È esattamente quello che alcuni candidati hanno cominciato a fare: infilare nel proprio curriculum una riga che nessun essere umano vedrà mai, scritta per convincere il programma a promuoverli. Non è un'idea da bar. Una ricerca della Duke University su 200.000 curriculum veri l'ha trovata in uno su cento, e in poco più di un anno i casi sono diventati sette volte più frequenti.
L'episodio completo è sulla rubrica Substack
Qui trovi com'è fatto davvero un curriculum truccato: la frase esatta usata dai candidati e il punto preciso del file in cui viene infilata, con l'immagine che mostra lo stesso documento visto da una persona e visto dal programma.
Poi chi ci rimette, che è la parte che di solito nessuno racconta: il candidato onesto scavalcato senza saperlo, e l'azienda che sbaglia le assunzioni senza accorgersene, perché la classifica sbagliata sembra ordinata come le altre.
Infine la parte che serve a difendersi: il nome preciso di questo attacco nel catalogo internazionale MITRE ATLAS e le quattro contromisure per chi fa leggere a un programma i documenti mandati da altri. Compreso il motivo per cui, quasi sempre, chi prova questo trucco si taglia le gambe da solo.
Arriva ogni martedì, è gratuito, e si legge in sette minuti.
Perché riguarda anche te
Non è un problema dei soli uffici del personale. Vale ogni volta che un programma legge un documento arrivato da fuori: una fattura, un preventivo, un contratto, una domanda di lavoro. Chi lo manda può nasconderci dentro un ordine travestito da testo normale, e il programma non ha modo di accorgersene da solo. È il lavoro che facciamo con TCT: quello che un programma legge viene considerato inaffidabile fin dall'inizio, e quello che fa dopo averlo letto viene tenuto d'occhio e, se serve, bloccato.
Fonti e riferimenti: lo studio su 200.000 curricula condotto da Duke University con hireEZ, Arizona State University, UC Berkeley e UNC-Chapel Hill; la voce MITRE ATLAS AML.T0051.001 (LLM Prompt Injection, Indirect), verificabile sulla matrice pubblica.