AI Generativa: Opportunità e Sfide
Agenti intelligenti nell’AI generativa: caratteristiche, componenti e tipologie, ruolo nell’automatizzare e personalizzare il processo creativo, esempi concreti e sfide aperte come robustezza ed etica.
-
-
Nuovi modelli di IA: Explainable AI e Hybrid AI
Explainable AI e Hybrid AI come risposta all’opacità dei sistemi di intelligenza artificiale: effetti su fiducia, bias, debugging e riproducibilità e ruolo dell’XAI nei modelli generativi.
-
Misurare e rendere affidabile un sistema di AI
Fiducia e affidabilità nei sistemi di AI: definizioni di trust, calibrated trust e trustworthiness, esempi di ingegneri, medici e soldati e gli aspetti indicati dal NIST AI Risk Management Framework per misurarla.
-
Machine Unlearning: Metodologie di Mitigazione
Machine unlearning: rimuovere dati da un modello senza riaddestrarlo, use case di privacy, data poisoning e bias, tecniche di mitigazione e rischio di membership inference.
-
IA Gen: Potenziali Strategie di Mitigazione
Rischi dell’IA generativa e mitigazione dei bias nei LLM: l’esperimento di role-playing del Software Engineering Institute (CMU) su ChatGPT mostra pregiudizi di genere ed etnici nell’assegnazione di tratti e ruoli.
-
Valutazione dei Rischi nella IA Generativa
Framework per valutare il rischio dell’IA generativa sul modello del rischio informatico: test e valutazione, NIST AI RMF, attributi funzionali e qualitativi e le tre dimensioni del rischio.
-
Il futuro dell’Intelligenza Artificiale Generativa e potenziali cyber rischi nel campo dell’AI
Hybrid AI e limiti delle reti neurali: rischi di confidenzialità, integrità e governance (CIG) dei modelli di IA generativa, jailbreak e mitigazioni, sul modello del NIST AI RMF.
-
GenAI: sicurezza e protezione
Tassonomia dei rischi della GenAI per confidenzialità, integrità e governance, natura stocastica dei modelli, assenza di separazione tra codice e dati e linee guida del Regno Unito per sistemi di AI sicuri.
-
Generative AI: Evoluzione, Funzionamento e Impatto sulla Trasformazione Digitale
Cos’è la Generative AI, come funziona il ciclo in tre fasi con foundation model e LLM e quali sono le tappe storiche, dal chatbot ELIZA del 1964 a ChatGPT del 2022, passando per GAN e Transformer.
-
Generative Artificial Intelligence (GenAI): Analisi completa di rischi, sicurezza e governance dei sistemi AI
Prima parte di una serie sulla GenAI: governance, sicurezza e rischi di Machine Learning e Large Language Models nei sistemi critici, con i framework NIST AI RMF e un’analisi articolata in sei parti.
