Breakpoint
Ogni martedì prendiamo un attacco reale e lo smontiamo: come funziona, dove si mappa su MITRE ATLAS, e il punto in cui si spezza. Un caso, spiegato e difeso.
Il file di Hugging Face che doveva solo calcolare numeri
Oltre 100 modelli malevoli scoperti su Hugging Face e la vulnerabilità congenita di Pickle. Quando caricare i pesi di una rete neurale apre una reverse shell sul sistema locale, e come intercettarlo in anticipo con WeightArmor.
Il chatbot non è un alibi
Tre casi fra Canada, Germania e Australia mostrano cosa accade quando un sistema AI parla o agisce per un’azienda. Dalla promessa di rimborso sbagliata al cliente cancellato dalla lista di una palestra.
497 paper respinti per una riga invisibile
Diciassette articoli scientifici nascondono una frase rivolta all'intelligenza artificiale che li deve valutare. Dieci mesi dopo la conferenza più importante del settore adotta la stessa tecnica contro i revisori, e ne respinge 497.
Sei settimane dopo
Il Brasile ha risposto al caso dell'atto con il comando nascosto con una nota tecnica per tutti i tribunali e uno strumento gratuito per gli avvocati. Poi la stessa tecnica è comparsa in una corte del Connecticut, e a provarci non era un avvocato.
L'ordine nascosto nel fascicolo
Due avvocate scrivono dentro un atto una frase invisibile rivolta all'intelligenza artificiale del tribunale. A trovarla è stata l'intelligenza artificiale stessa, e il giudice ne ha ricavato un principio che vale per chiunque riceva documenti da terzi.
Il curriculum che parla all'AI
Istruzioni invisibili dentro il CV per farsi promuovere dal software di selezione. Uno studio su 200.000 curricula le ha trovate in uno su cento, e in un anno i casi sono cresciuti di sette volte.
La cassetta degli attrezzi dell'AI criminale
La mappa d'insieme: deepfake per il KYC, LLM senza guardrail, malware che genera comandi con l'AI, agenti offensivi, phishing e infostealer. Da qui partono tutti gli episodi.