12 articoli
Come cambia il Data Loss Prevention con il NIST CSF 2.0 e la funzione Govern e con il controllo A.8.12 della ISO 27001:2022, tra discovery automatica, classificazione dei dati e policy context-aware.
Le Virtual Escape Room con GenAI e Digital Twin servono al recruitment, per valutare le soft skill, e alla cyber awareness su phishing, governance e strumenti come firewall, VPN e SIEM; esempio di Versy Solutions.
Agenti intelligenti nell’AI generativa: caratteristiche, componenti e tipologie, ruolo nell’automatizzare e personalizzare il processo creativo, esempi concreti e sfide aperte come robustezza ed etica.
Explainable AI e Hybrid AI come risposta all’opacità dei sistemi di intelligenza artificiale: effetti su fiducia, bias, debugging e riproducibilità e ruolo dell’XAI nei modelli generativi.
Fiducia e affidabilità nei sistemi di AI: definizioni di trust, calibrated trust e trustworthiness, esempi di ingegneri, medici e soldati e gli aspetti indicati dal NIST AI Risk Management Framework per misurarla.
Machine unlearning: rimuovere dati da un modello senza riaddestrarlo, use case di privacy, data poisoning e bias, tecniche di mitigazione e rischio di membership inference.
Rischi dell’IA generativa e mitigazione dei bias nei LLM: l’esperimento di role-playing del Software Engineering Institute (CMU) su ChatGPT mostra pregiudizi di genere ed etnici nell’assegnazione di tratti e ruoli.
Framework per valutare il rischio dell’IA generativa sul modello del rischio informatico: test e valutazione, NIST AI RMF, attributi funzionali e qualitativi e le tre dimensioni del rischio.
Hybrid AI e limiti delle reti neurali: rischi di confidenzialità, integrità e governance (CIG) dei modelli di IA generativa, jailbreak e mitigazioni, sul modello del NIST AI RMF.
Tassonomia dei rischi della GenAI per confidenzialità, integrità e governance, natura stocastica dei modelli, assenza di separazione tra codice e dati e linee guida del Regno Unito per sistemi di AI sicuri.
Cos’è la Generative AI, come funziona il ciclo in tre fasi con foundation model e LLM e quali sono le tappe storiche, dal chatbot ELIZA del 1964 a ChatGPT del 2022, passando per GAN e Transformer.
Prima parte di una serie sulla GenAI: governance, sicurezza e rischi di Machine Learning e Large Language Models nei sistemi critici, con i framework NIST AI RMF e un’analisi articolata in sei parti.
Una volta al mese riceverai gratuitamente la rassegna dei migliori articoli di ICT Security Magazine