Machine Learning nella cybersecurity: perché è importante oggi

Il Machine Learning nella cybersecurity rileva le minacce utilizzando il riconoscimento dei modelli comportamentali, riducendo la fatica da allerta e bloccando autonomamente gli attacchi.

Che cos'è il Machine Learning nella Cybersecurity?

Il machine learning nella cybersecurity si riferisce ad algoritmi che apprendono dai dati di sicurezza per individuare, prevenire e rispondere alle minacce senza una programmazione esplicita per ogni scenario di attacco. Questi sistemi analizzano i modelli nel traffico di rete, nel comportamento degli utenti e negli eventi di sistema per distinguere l'attività normale da potenziali minacce.

La sicurezza basata su ML utilizza modelli statistici addestrati su dataset di attività sia lecite che malevole. I modelli imparano a riconoscere le firme comportamentali degli attacchi: la sequenza di chiamate API che precede la cifratura ransomware, i pattern di rete che indicano esfiltrazione di dati o anomalie di autenticazione che suggeriscono furto di credenziali. Questo consente ai sistemi di sicurezza di individuare minacce mai viste prima riconoscendo schemi sospetti invece di confrontare firme note.

Tre principali tecniche di ML alimentano i sistemi di sicurezza moderni. L'apprendimento supervisionato si addestra su dataset etichettati per classificare nuovi eventi. L'apprendimento non supervisionato individua anomalie stabilendo baseline comportamentali. Il deep learning applica reti neurali per elaborare dati complessi come i pacchetti di rete. Ogni tecnica affronta sfide specifiche, dalla classificazione del malware al rilevamento di minacce interne.

Come si collega il Machine Learning alla Cybersecurity?

Il machine learning nella cybersecurity offre rilevamento autonomo delle minacce tramite riconoscimento di pattern che si adatta alle minacce in evoluzione senza programmazione esplicita per ogni scenario. Il ML potenzia i sistemi di sicurezza tramite algoritmi che analizzano pattern, individuano anomalie e si adattano alle minacce. Questo approccio differisce dai metodi basati su firme che richiedono aggiornamenti manuali per ogni nuova variante di minaccia.

Secondo i dati dell'FBI, i reclami per phishing sono aumentati del 714% anno su anno, passando da 2.856 a 23.252 reclami.  Il ML affronta questo problema tramite analisi comportamentale. I sistemi ML hanno individuato con successo varianti ransomware offuscate su grandi insiemi di campioni appartenenti a molteplici famiglie di malware. Le tecniche tradizionali di pattern-matching e basate su firme falliscono contro l'offuscamento avanzato, mentre gli approcci di deep learning mantengono l'efficacia.

Componenti principali del Machine Learning nella Cybersecurity

Il tuo sistema ML aziendale ha cinque livelli che determinano l'efficacia del rilevamento.

1. La raccolta dati costituisce la tua base. Il sistema acquisisce dati sugli eventi di sicurezza da log SIEM, telemetria degli endpoint, acquisizioni di traffico di rete e statistiche dell'infrastruttura cloud. Singularity Platform consolida questi dati in un data lake unificato utilizzando l'Open Cybersecurity Schema Framework (OCSF) che normalizza gli eventi da fonti native e di terze parti.
2. L'ingegneria delle feature determina la precisione del rilevamento. Una corretta ingegneria delle feature consente alle reti neurali artificiali e alle Support Vector Machine di ottenere una maggiore precisione nel rilevamento delle intrusioni. I motori autonomi di correlazione degli eventi convertono gli eventi di sicurezza grezzi in narrazioni strutturate di attacco che i modelli ML analizzano, collegando ogni evento al processo padre, alle connessioni di rete e alle modifiche ai file.
3. L'addestramento del modello richiede di scegliere tra apprendimento supervisionato e non supervisionato. L'apprendimento supervisionato raggiunge tassi di rilevamento elevati documentati per pattern di minaccia noti. L'apprendimento non supervisionato affronta una sfida chiave: dataset etichettati estesi spesso non sono disponibili o sono obsoleti a causa della natura dinamica delle minacce informatiche.
4. L'inferenza in tempo reale elabora migliaia di eventi al secondo, correlando tra più fonti di dati e generando alert azionabili senza sovraccaricare gli analisti. Le piattaforme di sicurezza aziendali implementano l'inferenza in tempo reale tramite architetture distribuite che elaborano migliaia di eventi di sicurezza al secondo. Questi sistemi correlano la telemetria degli endpoint, il traffico di rete e i dati dell'infrastruttura cloud mantenendo tempi di risposta inferiori al secondo necessari per il contenimento del ransomware.
5. La difesa contro gli attacchi avversari completa l'architettura. La natura data-driven dei sistemi ML introduce nuovi vettori di attacco che i sistemi software tradizionali non affrontano. NIST classifica gli attacchi in attacchi di evasione, avvelenamento, privacy e uso improprio che richiedono contromisure avversarie.

Comprendere questi cinque livelli chiarisce come il ML processa le minacce nella pratica.

Applicazioni chiave del Machine Learning nella Cybersecurity

Il machine learning alimenta le capacità di sicurezza lungo l'intero ciclo di vita dell'attacco, dalla prevenzione al rilevamento e alla risposta.

• Rilevamento e classificazione del malware rappresenta l'applicazione ML più matura in ambito sicurezza. L'AI comportamentale analizza il comportamento degli eseguibili, le caratteristiche dei file e le relazioni tra processi per individuare codice malevolo. Questi modelli individuano varianti di malware zero-day che eludono gli antivirus basati su firme riconoscendo pattern di attacco invece di hash di file specifici.
• Il rilevamento delle intrusioni di rete applica il ML per individuare pattern di traffico malevolo. I modelli addestrati sul comportamento normale della rete segnalano anomalie come uso insolito delle porte, trasferimenti di dati sospetti e pattern di comunicazione command-and-control.
• User and entity behavior analytics (UEBA) stabilisce baseline comportamentali per utenti, dispositivi e applicazioni per individuare minacce interne e account compromessi. Quando un account utente accede improvvisamente a risorse insolite o effettua login da posizioni inattese, i modelli ML segnalano l'anomalia per l'indagine. Questo approccio rileva furto di credenziali e movimenti laterali che gli strumenti basati su firme non rilevano.
• La protezione da email e phishing utilizza il natural language processing e l'analisi della reputazione del mittente per individuare messaggi malevoli. I modelli ML analizzano il contenuto delle email, gli URL incorporati e le caratteristiche degli allegati per bloccare i tentativi di phishing.
• La prioritizzazione delle vulnerabilità aiuta i team di sicurezza a concentrare la remediation sulle vulnerabilità più probabili da sfruttare. I modelli ML analizzano le caratteristiche delle vulnerabilità, la disponibilità di exploit e la criticità degli asset per prevedere quali problemi rappresentano il rischio maggiore.

Queste applicazioni lavorano insieme in piattaforme unificate per fornire una difesa stratificata su tutta l'infrastruttura.

Come funziona il Machine Learning nelle operazioni di sicurezza

I sistemi di sicurezza ML seguono un flusso di lavoro sequenziale che trasforma i dati di sicurezza grezzi in threat intelligence azionabile:

• La raccolta dati aggrega eventi di sicurezza da endpoint, reti, infrastruttura cloud e sistemi di identità in un repository centralizzato.
• L'ingegneria delle feature struttura quindi questi eventi per l'analisi estraendo indicatori comportamentali, relazioni tra processi e pattern di connessione di rete.
• Durante l'addestramento del modello, i metodi supervisionati apprendono da dati di minaccia etichettati mentre i metodi non supervisionati individuano anomalie senza categorie predefinite.
• L'inferenza in tempo reale applica i modelli addestrati agli eventi live man mano che si verificano. Quando il modello identifica un comportamento sospetto, genera alert con punteggi di confidenza e informazioni contestuali.
• Il sistema mantiene anche un monitoraggio continuo che traccia le metriche di performance del modello e attiva cicli di riaddestramento quando la precisione scende sotto le soglie stabilite.

Questo flusso di lavoro offre miglioramenti operativi misurabili in termini di rilevamento, risposta ed efficienza degli analisti.

Implementazione del Machine Learning nei programmi di Cybersecurity

Un'implementazione ML di successo richiede un approccio strutturato su preparazione dei dati, selezione dei modelli, integrazione e operatività.

• Fase 1: Fondazione dati. Valuta le fonti di dati di sicurezza esistenti e individua le lacune. I modelli ML richiedono dati di qualità che rappresentino sia le operazioni normali che gli scenari di minaccia. Valuta SIEM, endpoint, rete e telemetria cloud per completezza e periodi di conservazione.
• Fase 2: Prioritizzazione dei casi d'uso. Individua sfide di sicurezza specifiche dove il ML offre un vantaggio misurabile rispetto agli strumenti esistenti. Punti di partenza ad alto valore includono la riduzione dei falsi positivi, l'individuazione di malware sconosciuti tramite analisi comportamentale e l'individuazione di comportamenti utente anomali che indicano credenziali compromesse.
• Fase 3: Deploy pilota. Esegui i sistemi ML in modalità monitoraggio insieme agli strumenti di sicurezza esistenti per confrontare le performance di rilevamento. Questa operatività parallela costruisce fiducia nella precisione del ML e rivela esigenze di tuning specifiche per il tuo ambiente.
• Fase 4: Integrazione in produzione. Collega gli output ML ai flussi di lavoro di sicurezza e ai playbook di risposta. Mappa gli alert ML alle procedure di  incident response esistenti. L'integrazione con le piattaforme SOAR abilita azioni di risposta autonome per rilevamenti ad alta confidenza mentre indirizza i casi incerti agli analisti.
• Fase 5: Ottimizzazione continua. Stabilisci metriche di performance baseline e sistemi di monitoraggio che tracciano la precisione nel tempo. Pianifica cicli regolari di riaddestramento dei modelli per incorporare nuove threat intelligence e adattarsi ai cambiamenti ambientali.

Le organizzazioni che seguono questo approccio strutturato ottengono un time-to-value più rapido ed evitano errori comuni di implementazione.

Vantaggi chiave del Machine Learning nella Cybersecurity

La tua implementazione ML offre miglioramenti misurabili su tre metriche fondamentali per le operazioni SOC: accuratezza del rilevamento delle minacce, riduzione dei falsi positivi e tempi di risposta.

1. L'accuratezza del rilevamento migliora su tutti i vettori di attacco. La protezione endpoint basata su ML utilizza AI comportamentale per individuare minacce zero-day che le soluzioni basate su firme non rilevano affatto. Analizzando il comportamento dei processi invece di confrontare firme note, questi sistemi mantengono alti tassi di rilevamento contro varianti ransomware nuove e attacchi fileless.
2. La riduzione dei falsi positivi taglia il volume degli alert. Il baselining comportamentale e la correlazione intelligente riducono drasticamente il rumore. Nelle valutazioni MITRE, Singularity Platform ha generato solo 12 alert mentre i concorrenti ne hanno prodotti 178.000. Questa riduzione dell'88% nel volume degli alert consente agli analisti di concentrarsi sulle minacce reali invece di inseguire falsi positivi.
3. I tempi di risposta migliorano grazie al contenimento accelerato delle minacce. Quando i modelli ML individuano comportamenti di cifratura ransomware, le capacità di rollback autonome ripristinano i sistemi colpiti allo stato pre-attacco in pochi minuti. La correlazione degli eventi ricostruisce la timeline completa dell'attacco per l'analisi forense. Singularity Identity protegge la superficie d'attacco dell'infrastruttura di identità con difese in tempo reale che rispondono ad attacchi in corso con soluzioni per Active Directory ed Entra ID.
4. La consolidazione degli strumenti crea un'architettura di piattaforma unificata. Le organizzazioni gestiscono tipicamente numerosi strumenti di sicurezza scollegati, creando gap di integrazione che gli attaccanti sfruttano. Le piattaforme basate su ML consolidano rilevamento endpoint, monitoraggio di rete, sicurezza cloud e threat intelligence in architetture unificate. Questo elimina i gap di correlazione tra sistemi disparati riducendo la complessità operativa.
5. La threat hunting proattiva diventa possibile. Il ML abilita la  threat hunting proattiva in ambienti di infrastrutture critiche tra cui utility, sanità e finanza. Singularity Cloud Native Security offre CNAPP agentless con Offensive Security Engine che ragiona come un attaccante, eseguendo automaticamente red teaming su problematiche di sicurezza cloud e presentando Verified Exploit Paths. Il sistema va oltre la semplice rappresentazione dei percorsi di attacco per individuare i problemi, testarli e presentare le evidenze.

Questi vantaggi comportano sfide architetturali che è necessario comprendere prima della distribuzione.

Sfide e limiti del Machine Learning nella Cybersecurity

I sistemi di sicurezza ML presentano vulnerabilità architetturali che le contromisure attuali non possono affrontare completamente. Le linee guida congiunte di NSA, NCSC-UK e CISA affermano che i sistemi ML sono vulnerabili agli attacchi avversari, che sfruttano vulnerabilità intrinseche del machine learning invece di difetti di implementazione correggibili tramite patch.

È importante considerare una varietà di vulnerabilità e limiti unici dei sistemi ML in ambito sicurezza per pianificare una mitigazione efficace. 

• La qualità dei dati determina il successo. I dataset pubblici per l'addestramento ML in cybersecurity sono spesso obsoleti. Molti progetti falliscono perché i modelli si basano su dati inaccurati, incompleti o etichettati in modo errato.
• Il drift del modello crea vulnerabilità persistenti. Gli avversari possono sfruttare i meccanismi di rilevamento del drift, creando istanze avversarie che eludono i rilevatori di drift degradando le performance del modello.
• Gli attacchi di prompt injection emergono come vettore di attacco unico contro i sistemi ML, dove gli avversari manipolano i LLM tramite input appositamente creati per esfiltrare dati o eseguire azioni non autorizzate.
• Le preoccupazioni sull'affidabilità degli agent sono aumentate in tutto il settore. Le piattaforme di sicurezza aziendali devono implementare architetture distribuite in cui gli agent endpoint mantengano capacità di protezione autonoma durante le interruzioni di rete. Le organizzazioni richiedono sempre più piattaforme di sicurezza che mantengano la protezione autonoma durante i blackout di rete, affrontando le preoccupazioni aziendali su affidabilità e continuità operativa.
• La supervisione umana resta essenziale. Le piattaforme di sicurezza aziendali implementano la collaborazione uomo-ML fornendo agli analisti di sicurezza il contesto forense completo per ogni alert. Gli analisti ricevono correlazione delle minacce assistita da ML durante le indagini, ma i sistemi dovrebbero richiedere l'approvazione obbligatoria per le azioni di risposta critiche. Questo mantiene la supervisione umana essenziale per decisioni ad alto rischio.

Evitare questi errori richiede l'adozione di framework e best practice consolidati.

Best practice per il Machine Learning

La distribuzione del machine learning per la cybersecurity richiede un'implementazione strutturata su governance, integrazione e operatività. Tre framework autorevoli guidano questo processo: il NIST AI Risk Management Framework per la struttura di governance, le CISA AI Data Security Guidelines per la protezione dei dati e i SANS Critical AI Security Controls per l'implementazione operativa. Le seguenti best practice riguardano la governance dei modelli, l'integrazione dei framework e la collaborazione uomo-ML.

Governance e verifica dei dati di addestramento

Valuta i modelli ML su dimensioni di sicurezza che includono la sicurezza del modello dati, la sicurezza della pipeline MLOps, il rischio sui dati proprietari e la provenienza dei dati di addestramento. Le linee guida CISA impongono sistemi di verifica multilivello, tracciamento della provenienza tramite sistemi di content credentials, certificazione dei fornitori di dataset di terze parti e validazione dei foundation model quando si utilizzano modelli pre-addestrati.

Evita di distribuire modelli valutati solo su dati puliti senza test avversari. Non dare mai per scontato che i dataset web-scale siano puliti senza verifica; la guida CISA afferma esplicitamente che le organizzazioni non possono assumere che i dataset siano puliti, accurati o privi di contenuti malevoli.

Selezione dei modelli basata sul rischio e verifica dei dati di addestramento 

Valuta i modelli ML su dimensioni di sicurezza che includono la sicurezza del modello dati, la sicurezza della pipeline MLOps, il rischio sui dati proprietari e la provenienza dei dati di addestramento. Le linee guida CISA impongono sistemi di verifica multilivello, tracciamento della provenienza tramite sistemi di content credentials, certificazione dei fornitori di dataset di terze parti e validazione dei foundation model quando si utilizzano modelli pre-addestrati.

Evita di distribuire modelli valutati solo su dati puliti senza test avversari. Non dare mai per scontato che i dataset web-scale siano puliti senza verifica; la guida CISA afferma esplicitamente che le organizzazioni non possono assumere che i dataset siano puliti, accurati o privi di contenuti malevoli.

Integrazione con il framework MITRE ATT&CK e monitoraggio continuo

Il framework ATT&CK fornisce una metodologia di integrazione strutturata:

• Mappa gli output di rilevamento ML a specifiche tecniche e tattiche ATT&CK
• Utilizza la tassonomia ATT&CK come etichette strutturate per i dataset di addestramento
• Valida la copertura del rilevamento su tutto il ciclo di vita dell'attacco

Le piattaforme di sicurezza aziendali dovrebbero mappare automaticamente tutti gli output di rilevamento ML a specifiche tecniche MITRE ATT&CK. Quando i sistemi ML individuano minacce, gli analisti dovrebbero vedere a quali tattiche ATT&CK corrisponde il comportamento, abilitando flussi di indagine strutturati e analisi dei gap di copertura.

Implementa solidi controlli di accesso ai modelli ML e validazione degli input; il CISA JCDC Playbook identifica i controlli deboli come punti di fallimento comuni. Le linee guida SANS impongono monitoraggio continuo con tracciamento autonomo delle performance rispetto alle baseline stabilite, rilevamento del drift sia sui dati che sui concetti, riaddestramento attivato al superamento delle soglie di performance e cicli di validazione prima della distribuzione in produzione.

Collaborazione strutturata uomo-ML

Le organizzazioni dovrebbero implementare un'autonomia graduata che bilanci automazione e supervisione degli analisti. Mantieni la supervisione umana per le decisioni di sicurezza critiche. Le attività di routine operano in modo autonomo mentre le decisioni critiche richiedono validazione umana. Scala il livello di supervisione in proporzione all'impatto della decisione. La qualità dell'ingegneria delle feature determina se si ottiene un'elevata accuratezza di rilevamento o si sottoperforma significativamente.

Come il Machine Learning migliora le operazioni SOC

I Security Operations Center affrontano una pressione crescente dovuta all'aumento del volume di alert, al burnout degli analisti e ad attacchi sofisticati che si muovono più velocemente dei tempi di risposta umani. Il ML trasforma i flussi di lavoro SOC automatizzando le attività di routine e consentendo agli analisti di concentrarsi su attività a maggior valore.

• Il triage e la prioritizzazione degli alert rappresentano il miglioramento SOC più immediato. I modelli ML assegnano un punteggio agli alert in ingresso in base alla gravità della minaccia, alla criticità degli asset e a fattori contestuali per evidenziare gli incidenti che richiedono attenzione urgente. La correlazione intelligente degli alert raggruppa eventi correlati in incidenti coerenti, riducendo il numero di elementi che gli analisti devono esaminare.
• L'indagine automatizzata accelera la risposta. Quando gli analisti indagano su un alert, i sistemi ML forniscono arricchimento contestuale raccogliendo eventi correlati, asset coinvolti e threat intelligence. Purple AI consente query in linguaggio naturale che permettono agli analisti di indagare su catene di attacco complesse senza scrivere sintassi di query.
• La threat hunting diventa proattiva. Le analitiche basate su ML individuano anomalie comportamentali e segnali deboli che meritano indagine prima che superino le soglie di alert. Questo sposta le operazioni SOC dal semplice attendere alert alla ricerca attiva delle minacce.
• La distribuzione del carico di lavoro migliora tramite routing intelligente. I sistemi ML assegnano gli incidenti agli analisti in base al livello di competenza, al carico di lavoro attuale e all'esperienza sul tipo di minaccia. Gli analisti junior ricevono alert con classificazioni ad alta confidenza, mentre gli incidenti complessi vengono indirizzati allo staff senior.

Il risultato è un SOC che gestisce un volume maggiore di minacce con lo staff esistente migliorando tassi di rilevamento e tempi di risposta.

Ferma le minacce avanzate con SentinelOne

Le tue implementazioni ML in cloud richiedono piattaforme di sicurezza che adottino i framework NIST e CISA discussi sopra. Singularity Platform riduce significativamente il volume degli alert. Genera l'88% di alert in meno rispetto alla mediana di tutti i vendor valutati. Le MITRE ATT&CK® Evaluations: Enterprise 2024 hanno confermato che la piattaforma SentinelOne ha raggiunto una precisione di rilevamento del 100% su tutti gli 80 attacchi simulati. Ha ottenuto il 100% di rilevamenti su Windows, Linux e macOS e nessun ritardo di rilevamento nell'identificazione delle minacce in tempo reale.

Storyline fornisce correlazione autonoma degli eventi che converte eventi di sicurezza grezzi in narrazioni di minaccia per la revisione degli analisti.

Purple AI si distingue per le capacità di indagine autonoma che correlano le minacce su tutta l'infrastruttura. Purple AI opera tramite query in linguaggio naturale mantenendo il framework di supervisione umana richiesto dalle linee guida NIST. Fornisce correlazione delle minacce assistita da ML mantenendo l'approvazione umana obbligatoria per le azioni di risposta critiche.

Quando si verifica un attacco ransomware, Rollback ripristina i sistemi allo stato pre-attacco preservando il contesto forense. La Singularity Platform mappa tutti i rilevamenti alle tecniche MITRE ATT&CK, abilitando l'analisi dei gap di copertura nelle operazioni di sicurezza. Singularity Cloud Native Security offre un Offensive Security Engine che esegue automaticamente red teaming su problematiche di sicurezza cloud e presenta Verified Exploit Paths. Singularity Identity protegge l'infrastruttura di identità con difese in tempo reale per Active Directory ed Entra ID. L'agente CNAPP di SentinelOne blocca anche le minacce runtime e fornisce servizi di AI Security Posture Management (AI-SPM). Puoi utilizzarlo per la protezione dei workload cloud, la sicurezza di container e VM, Kubernetes Security Posture Management (KSPM) e per eseguire vulnerability scan. Prompt Security di SentinelOne offre protezione contro minacce basate su LLM, AI malware e può garantire la compliance AI. Puoi bloccare azioni AI agentiche non autorizzate e fermare denial of wallet e service attack, prompt injection, tentativi di jailbreak e altro ancora.

Richiedi una demo di SentinelOne per scoprire come possiamo migliorare la tua postura di sicurezza con una potente AI per proteggere endpoint, server e workload cloud.

Punti chiave

Quando gli attacchi di phishing aumentano drasticamente anno su anno e il ransomware colpisce alle 2 di notte, le difese basate su firme non riescono ad adattarsi abbastanza rapidamente. L'AI e il machine learning nella cybersecurity offrono una precisione di rilevamento superiore con tempi di risposta più rapidi, distribuiti tramite i framework NIST, CISA e SANS, fornendo capacità autonome di rilevamento e risposta per fermare la cifratura prima che si diffonda.

Domande frequenti

Che cos’è il ML nella cybersecurity?

ML nella cybersecurity si riferisce ad algoritmi di machine learning che analizzano i dati di sicurezza per individuare, prevenire e rispondere alle minacce. Questi sistemi apprendono dai modelli nel traffico di rete, nel comportamento degli endpoint e nell'attività degli utenti per distinguere le operazioni normali da quelle malevole. 

ML consente agli strumenti di sicurezza di individuare minacce mai incontrate prima riconoscendo schemi comportamentali sospetti invece di basarsi sulle firme. Le principali applicazioni includono il rilevamento di malware, il rilevamento delle intrusioni di rete, l'analisi del comportamento degli utenti e la risposta autonoma alle minacce.

In che modo il Machine Learning potenzia la cybersecurity?

L'apprendimento automatico potenzia la cybersecurity analizzando i modelli comportamentali per individuare minacce che gli strumenti basati su firme non rilevano. I sistemi di ML elaborano migliaia di eventi di sicurezza al secondo, correlando dati tra endpoint, reti e infrastrutture cloud per identificare gli attacchi in tempo reale. 

I principali miglioramenti includono una significativa riduzione dei falsi positivi, una risposta autonoma alle minacce che contiene il ransomware prima che la crittografia sia completata e un adattamento continuo a nuove tecniche di attacco senza aggiornamenti manuali.

In che cosa il Machine Learning differisce dalla sicurezza tradizionale basata su firme?

La sicurezza basata su firme tradizionale richiede aggiornamenti manuali per ogni nuova variante di minaccia, creando lacune nella rilevazione man mano che gli attacchi evolvono. Il ML utilizza il riconoscimento di pattern per identificare le minacce tramite analisi comportamentale invece che tramite la corrispondenza esatta delle firme. 

I sistemi ML individuano con successo varianti di ransomware offuscate su ampi set di campioni che coprono diverse famiglie di malware, dove il pattern-matching tradizionale fallisce. Il ML si adatta continuamente senza attendere aggiornamenti dal fornitore.

Quale accuratezza di rilevamento possono aspettarsi le aziende dai sistemi di sicurezza ML?

L'accuratezza della rilevazione varia significativamente in base alla qualità dell'implementazione piuttosto che alla scelta dell'algoritmo. Le ricerche dimostrano che l'utilizzo di dataset obsoleti riduce notevolmente l'accuratezza, una corretta estrazione delle caratteristiche comportamentali migliora sensibilmente l'accuratezza e il retraining regolare mantiene l'accuratezza di base, mentre un retraining poco frequente mostra un degrado delle prestazioni. 

Le organizzazioni dovrebbero stabilire baseline di accuratezza durante le fasi pilota e implementare un monitoraggio continuo per attivare cicli di retraining quando le prestazioni peggiorano.

I sistemi di sicurezza ML richiedono supervisione umana o possono operare in modo autonomo?

Le linee guida governative di NIST, NSA e CISA sottolineano che il ML dovrebbe potenziare le capacità umane e non sostituirle. Le organizzazioni dovrebbero mantenere la supervisione umana per le decisioni di sicurezza critiche, in particolare per le azioni di risposta con impatto significativo sul business e in situazioni che coinvolgono incertezza o schemi di attacco nuovi. 

Le attività di routine operano in modo autonomo mentre le decisioni critiche richiedono una validazione umana, con una supervisione proporzionata all’impatto della decisione.

Quali sono le principali sfide di implementazione del ML nella cybersecurity?

I dataset di formazione sulla cybersecurity disponibili pubblicamente sono spesso obsoleti, creando sfide immediate sulla qualità dei dati. NIST riconosce le limitazioni delle attuali contromisure di sicurezza ML che richiedono strategie di defense-in-depth. 

Le organizzazioni spesso falliscono implementando modelli senza test avversari, presumendo che i dataset di formazione siano puliti senza verifica e sottovalutando i requisiti di monitoraggio continuo. I problemi di qualità dei dati causano molti fallimenti nei progetti.

In che modo gli avversari attaccano i sistemi di sicurezza basati su machine learning?

Gli avversari sfruttano le vulnerabilità intrinseche del ML attraverso quattro principali tipologie di attacco: attacchi di evasione che creano input in grado di eludere il rilevamento, attacchi di avvelenamento che compromettono i dataset di addestramento, attacchi alla privacy che estraggono informazioni sensibili dai modelli e attacchi di abuso che manipolano i sistemi generativi. 

Il CISA JCDC Playbook documenta attacchi avversari sistematici contro sistemi di sicurezza abilitati al ML seguendo il framework MITRE ATLAS.

Quali framework guidano l’implementazione della sicurezza ML?

Tre framework autorevoli guidano l’implementazione: il NIST AI Risk Management Framework stabilisce la struttura di governance, le CISA AI Data Security Guidelines forniscono standard di protezione dei dati e i SANS Critical AI Security Controls affrontano l’implementazione operativa. 

Le organizzazioni dovrebbero inoltre integrarsi con il framework MITRE ATT&CK per mappare gli output di rilevamento ML a tecniche specifiche e validare la copertura lungo l’intero ciclo di vita dell’attacco.