AGOSTO 2026 -
Chain of Thought’ per curare l’’AI slop’ e avere prompt più robusti nella Cybersecurity
Negli ultimi anni Internet sta vivendo una trasformazione profonda: la diffusione massiva dei modelli di intelligenza artificiale generativa ha reso possibile produrre contenuti in quantità enormi, a costi quasi nulli. Tuttavia, questa abbondanza ha un effetto collaterale sempre più evidente, spesso definito con il termine “AI slop”. Il termine indica la produzione di contenuti automatici, ripetitivi, superficiali o di scarsa qualità, generati in massa da sistemi AI senza reale valore informativo. Non si tratta solo di contenuti prodotti per il Web ma anche di materiali prodotti anche per task specifici e non si tratta semplicemente di contenuti sbagliati, che risultano spesso ridondanti, che non aggiungono conoscenza e che talvolta imitano forma e stile senza introdurre elementi sostanziali, ma anche di risultati discutibili per i task richiesti. Il problema non è solo qualitativo, ma anche sistemico, perché la proliferazione di questi contenuti sul web rischia di portare effetti di saturazione nei motori di ricerca e può rendere difficile trovare informazioni affidabili puntuali e complete a causa del generale abbassamento degli standard complessivi della comunicazione digitale. Sul fronte dell’uso dell’AI per task specifici i risultati potrebbero essere opachi, poco accurati e meno efficaci rispetto a quanto richiesto. Andrea Signorelli per wired sottolinea come “il diluvio di contenuti prodotti in massa rende urgente saper riconoscere e valorizzare ciò che di buono emerge, in modo da scoraggiare il resto. La parola slop, se usata correttamente, ci aiuta proprio in questo”. Ma se questo è vero per i contenuti prodotti per il web, con i task specifici le conseguenze dell’AI slop intaccano l’affidabilità e la qualità stessa dell’operatore che esegue il prompt. Forse un aiuto potrebbe essere quello di rendere evidente quando i testi o i contenuti sono interamente prodotti da AI, ma in generale è opportuno e necessario sviluppare strumenti culturali e tecnici per distinguere ciò che è valido da ciò che non lo è. Questo perché non basta produrre contenuti, ma anche garantirne la qualità e in trasparenza, rendere noto il processo di generazione enfatizzando anche la revisione e la supervisione eventualmente umana o le modalità di procedere. Ma cosa fare nell’intervallo temporale fino a che questo processo di generazione e revisione non si sostanzia? Una possibile proposta di ottimizzazione che contrasta l’AI slop arriva dal mondo della ricerca sull’intelligenza artificiale, in particolare, dal metodo di prompting della “catena di pensiero” (Chain of Thought Prompting- CoTP). Secondo il paper della Cornell University Chain-of-Thought Prompting Elicits Reasoning in Large Language Models il CoTP consiste nell’inserire nei prompt una sequenza di passaggi intermedi di ragionamento che guidano il modello verso la risposta finale. In pratica, invece di chiedere direttamente una risposta, si chiede al modello di scomporre il problema, ragionare passo per passo e arrivare gradualmente alla soluzione. L’approccio che imita il modo in cui gli esseri umani affrontano problemi complessi, senza rispondere subito, ma costruendo una catena logica di passaggi permette di migliorare significativamente le prestazioni su problemi complessi, affrontare task che richiedono ragionamento multi-step, riduce risposte generiche, limita contenuti “vuoti” tipici dell’AI slop e contribuisce a rendere il processo più interpretabile, perché espone i passaggi logici. In generale la ricerca evidenzia come i benefici maggiori si osservino su problemi complessi e modelli di grandi dimensioni. Un aspetto importante è che il Chain of Thought non richiede nuovi modelli, ma solo un modo diverso di formulare i prompt. Questo lo rende particolarmente interessante come strumento pratico. Va sottolineato tuttavia un certo limite legato alla catena di ragionamento, che non è sempre corretta o fattuale. Quindi è più corretto parlare di un potenziamento del processo di generazione, piuttosto che di una soluzione definitiva. Nel campo della cybersecurity, l’uso del Chain of Thought può avere un impatto particolarmente rilevante, sia per migliorare la qualità dei contenuti generati sia per ridurre il rischio di AI slop. Nell’ambito dell’analisi strutturata dei rischi, ad esempio, un prompt tradizionale potrebbe chiedere: “quali sono i rischi di questo sistema?” mentre un prompt di tipo “Chain of Thought” potrebbe invece guidare il modello a identificare asset, minacce, vulnerabilità e impatti con una sequenza progressiva che porta lo strumento ad una risposta più strutturata e meno superficiale e in generale contenuti più affidabili. Proprio nella Cybersecurity questi benefici sono ancora più importanti e cruciali perché in questa materia la precisione e il rigore del modo di procedere è importante tanto quanto i risultati e invece una risposta vaga può essere tanto inutile quanto pericolosa. Ancora nell’ambito del supporto al problem solving legato a incident response e/o threat analysis, o anche per la vulnerability assessment il Chain of Thought consente di simulare processi decisionali, verificare la coerenza delle conclusioni e/o individuare errori logici. Naturalmente il Chain of Thought non è una bacchetta magica e quindi anche se una catena di ragionamento può sembrare convincente, potrebbe essere sbagliata; ne consegue che la supervisione e validazione umana è sempre necessaria. w w w . In definitiva, se l’AI slop è il sintomo di un uso indiscriminato dell’intelligenza artificiale, il Chain of Thought rappresenta un passo verso un utilizzo più consapevole, strutturato e responsabile.
Alessia Valentini
(Newletter AIIC n. 05 (2026))
