I furti dei segreti aziendali sono aumentati enormenente grazie all'AI

geo e avvelenamento delle risposte

Bentornati ad una puntata di Radioinnovazione. Oggi parliamo di Generative Engine Optimization che sarebbe un po' quello che la SEO è nei modelli, cioè come fare in modo che i modelli intelligenza artificiale preferiscono dei contenuti rispetto ad altri quando vanno su internet a cercare informazioni per arricchire le loro risposte. Ne parliamo dopo la sigla ed è una cosa molto interessante perché parliamo di un fatto di cronaca molto interessante che riguarda la manipolazione governativa.

distillazione avvelenata

Oggi parliamo di un paper pubblicato ad aprile su Nature, da Anthropic, da Berkeley e da altre università, nel quale sostanzialmente si evidenza un comportamento inaspettato quando avvengono delle distillazioni da modelli grandi ai modelli piccoli, ovvero si trasmette un comportamento, e può essere benevolo o malevolo, senza che questo comportamento sia esplicitato all'interno del dataset di training. Una cosa molto curiosa e molto interessante, e la sentiamo tra poco.

I furti dei segreti aziendali sono aumentati enormenente grazie all'AI

Il wall street journal dice che i furti di informazioni nelle aziende sono aumentati del 20% l'anno scorso e uno dei sistemi più facili è quello di interrogare un ai chatbot e farsi riassumere le informazioni riservate, poi vendere il contenuto della chat. Tutto è più facile perché non devi essere un fisico per rubare la formula della bomba atomica ma puoi essere un impiegato qualunque il cui chatbot acceda alla documentazione aziendale e ti basta chiedere le informazioni che vuoi. Per evitare questo bisgnagestire tutto lo stack dell'ai internamente e tracciare e eloggare gli utenti in quello che fanno e lo spiego in questo episodio

anonimizzazione e llm

un paper di ricerca mi ha particolarmento colpito. Ricercatori hanno usato LLM e agenti per riconoscere persone che erano celate dietro pseudonimi e questo funziona molto meglio delle tecniche tradizionali di investigazione. un articolo e il paper. https://arstechnica.com/security/2026/03/llms-can-unmask-pseudonymous-users-at-scale-with-surprising-accuracy/?utm_source=chatgpt.com https://arxiv.org/pdf/2602.16800

public procurement strategico per l'AI

Come può il public procuremente strategico svilupare l'innovazione? Come fanno gli altri paesi? Come può trasformare una serie di aziende alla deriva in un ecosistema competitivo a livello internazionale? Di questo parliamo in questo episodio.  Il tema mi sta particolarmente a cuore visto che la prima volta che l'ho affrontato era il 2006 in un articolo: Paolino Madotto, Una Spesa Pubblica efficiente come motore di sviluppo per i Quaderni del Circolo Rosselli, articolo citato in un quaderno di Consip. S.p.A. e poi sono seguiti diversi articoli sull'argomento per agendadigitale.eu, oggi trova una nuova attualità quando si discute di sovranità digitale e dell'AI