163 articoli
OpenText Cybersecurity Aviator, presentato a OpenText World 2023, applica intelligenza artificiale e machine learning al rilevamento e alla risposta alle minacce, sia on-premise sia nel cloud.
Il Decalogo del Garante Privacy, pubblicato il 10 ottobre, detta regole per i servizi sanitari nazionali basati su IA: valutazione d’impatto, privacy by design, accountability, conoscibilità e controllo umano.
Prompt injection, prompt leaking e jailbreaking: come si manipolano gli LLM, con i casi remoteli.io, writesonic e vizgpt e le difese basate su prompt, monitoraggio regolare e audit di sicurezza.
Large Language Model come ChatGPT: i dati sensibili finiti nei set di addestramento non si recuperano, per cui servono regole, formazione, tokenizzazione e dati sintetici per limitare i rischi di esposizione.
La bozza dell’AIA approvata l’11 maggio dai Comitati Internal Market e Civil Liberties vieta il Predictive Policing basato su profilazione, luogo o precedenti penali, mentre negli USA è già impiegato.
Dati sporchi, scarsi o isolati dai sistemi di produzione frenano l’IA aziendale: qualità, quantità, velocità, disponibilità e integrazione sono i cinque nodi, con le misure per superarli.
Il report Europol Tech Watch Flash sull’impatto dei LLM sulle forze dell’ordine: rischi di social engineering, phishing, prompt engineering con DAN, disinformazione e codice malevolo, più le raccomandazioni.
Sistemi di gestione integrati e norme ISO: la High Level Structure comune a tutti gli standard, l’allegato A della ISO/IEC 27001:2022 con 93 controlli e la futura ISO/IEC 42001 sull’intelligenza artificiale.
Audit dell’AI: una checklist di domande su conformità, DPIA, rischi dei modelli ML, bias, monitoraggio e impatti etici, più la guida di autovalutazione del CNIL in sette schede e la procedura CapAI.
Un malware polimorfico può usare l’API di ChatGPT per ricevere codice sempre diverso: iniezione di DLL in explorer.exe, mutazione del codice, moduli in forma di testo e rischio di eludere antivirus e AMSI.
Governance dell’AI e controlli: spiegabilità, trasparenza ed etica, la norma ISO 38507, i sistemi di gestione con ISO 42001, gli audit con ISO 19011 e la futura ISO 42006 per gli organismi di certificazione.
L’intelligenza artificiale va trattata come un sistema in cui l’osservatore è parte del sistema stesso: controlli su input, output e black box, principi, rischi e norma ISO 42001.
Una volta al mese riceverai gratuitamente la rassegna dei migliori articoli di ICT Security Magazine