IA e machine learning nella sicurezza informatica: nuovi rischi, usi per difendere e per attaccare, deepfake, agenti AI e regole europee sull’IA.
234 articoli
Attacchi H-CoT contro i modelli di ragionamento: una ricerca della Duke University mostra il crollo dei rifiuti di o1 sotto il 2% e le falle di DeepSeek-R1 e Gemini 2.0 Flash Thinking.
Federated Learning e Privacy Differenziale: addestramento distribuito senza condividere i dati grezzi, limiti contro attacchi come l’inversione del gradiente e garanzie matematiche della DP.
Machine unlearning nell’IA generativa: perché togliere dati dall’addestramento non garantisce la scomparsa degli output, con implicazioni su GDPR, diritto all’oblio, copyright e natura dual-use dei modelli.
Intelligenza artificiale e diritto: definizioni di IA, limiti del ragionamento giuridico basato su correlazioni statistiche, art. 22 GDPR sulle decisioni automatizzate e algoritmi nella PA.
Gyala presenta Agger, piattaforma italiana di cybersecurity IT/OT con EDR, network security, risk management e correlazione, agent distribuiti anche in modalità agentless, sviluppata senza codice estero.
Agenti intelligenti nell’AI generativa: caratteristiche, componenti e tipologie, ruolo nell’automatizzare e personalizzare il processo creativo, esempi concreti e sfide aperte come robustezza ed etica.
Explainable AI e Hybrid AI come risposta all’opacità dei sistemi di intelligenza artificiale: effetti su fiducia, bias, debugging e riproducibilità e ruolo dell’XAI nei modelli generativi.
Differenze tra Generative AI e Agentic AI, ciclo a quattro fasi degli agenti, strumenti di analisi, memoria, orchestratori multi-agente e framework open source per costruire difese autonome.
Fiducia e affidabilità nei sistemi di AI: definizioni di trust, calibrated trust e trustworthiness, esempi di ingegneri, medici e soldati e gli aspetti indicati dal NIST AI Risk Management Framework per misurarla.
Machine unlearning: rimuovere dati da un modello senza riaddestrarlo, use case di privacy, data poisoning e bias, tecniche di mitigazione e rischio di membership inference.
La Commissione UE ha pubblicato a febbraio 2025 le prime Linee Guida sulle pratiche proibite dall’AI Act: livelli di rischio, pratiche vietate dall’art. 5, esclusioni e sanzioni fino a 35 milioni di euro.
L’inserto del Sistema di Informazione per la Sicurezza della Repubblica sull’IA: tecnologia general purpose, deepfake e disinformazione, 18 aree di uso militare, divario digitale, AI Act e protezione del know-how.
Una volta al mese riceverai gratuitamente la rassegna dei migliori articoli di ICT Security Magazine