Cybersecurity · AI Act · Reg. UE 2024/1689 · SaaS e PMI italiane

PILLAR · AI ACT UE

AI Act: conformità tecnica per software e servizi con intelligenza artificiale

Hai integrato LLM, scoring o automazioni nel prodotto. Ora un cliente enterprise, un fondo o il board chiedono classificazione, test sui modelli, documentazione e log: non un altro PDF legale. ITSOS fa il pezzo ingegneristico: rischio, robustezza, red team, tracciabilità. Il legale resta al tavolo, ma parla la stessa lingua del tuo CTO.

Richiedi assessment AI Act — preventivo Scorri il percorso ↓

Se sei il CTO che deve rispondere al questionnaire AI del cliente, non sei solo

Luca (il profilo tipo che ci scrive) ha messo in produzione feature AI nel 2024, usa API di terzi (OpenAI, Azure, modelli open), e a inizio 2026 ha ricevuto: “Compilate il nostro AI risk assessment entro 45 giorni”.

Il team sa cos’è un prompt injection. Il CEO vuole il badge “AI Act ready” sul sito. L’avvocato parla di FRIA e Allegato III. Nessuno ha ancora mappato ogni use case con evidenze tecniche: classificazione, test, logging, oversight.

ITSOS non ti chiede di fermare gli sprint per sei mesi. Ti chiede di entrare con un perimetro chiaro (assessment, poi test e documentazione dove servono), con deliverable che reggono in due diligence e in procurement IT.

Se il tuo problema è solo “serve una policy Word”, probabilmente ti basta lo studio legale. Se ti serve dimostrare come funziona il modello in produzione, siamo nel nostro ambito.

Categorie di rischio, ruoli e scadenze, in linguaggio prodotto

Il Regolamento (UE) 2024/1689 (AI Act) disciplina sistemi di intelligenza artificiale immessi sul mercato o usati nell’UE. Per una SaaS o PMI tech italiana contano soprattutto:

ConcettoCosa significa per te
ProviderMetti sul mercato un sistema AI (anche embedded nel tuo SaaS)
DeployerUsi sistemi AI di terzi per finalità professionali (es. screening interno CV con lo stesso tool che vendi)
Rischio inaccettabilePratiche vietate — di solito non il tuo caso se sei B2B SaaS
Alto rischio (Allegato III)Es. HR / recruiting, credito, educazione, infrastrutture critiche — obblighi stringenti
Rischio limitatoTrasparenza verso utenti (es. chatbot — art. 50)
Rischio minimoObblighi leggeri o assenti

Scadenza da tenere a mente: per molti obblighi su sistemi ad alto rischio dell’Allegato III, la data di riferimento è il 2 agosto 2026 — il tempo per classificare, documentare e testare non è infinito.

Non sostituiamo il tuo legale sulla classificazione giuridica finale: ti diamo inventario tecnico, matrice rischio, evidenze test e documentazione che il legale integra in FRIA e governance.

Fonti: Reg. UE 2024/1689 · AI Act Service Desk (UE)

Classificazione, test, log: cosa chiede davvero un auditor tecnico

S10 — il pregiudizio da smontare: “L’AI Act è GDPR con più slide.”

No. Oltre a governance e policy, il regolamento chiede controlli sul sistema AI:

  • Classificazione del rischio per ogni use case (art. 6, 52)
  • Documentazione tecnica (art. 11 e allegati) — architettura, dati, limitazioni, monitoraggio
  • Logging e tracciabilità (art. 12) — spesso 6 mesi, con attenzione GDPR sui prompt
  • Trasparenza e informazione agli utenti dove richiesto
  • Supervisione umana effettiva (art. 14) — non solo checkbox in UI
  • Robustezza, cybersecurity, accuratezza (art. 15) — inclusa resilienza a prompt injection e manipolazione
  • Valutazione conformità e, per alto rischio, percorsi più rigorosi

In pratica: il procurement chiede “avete testato il modello?” — non “avete un PDF con la parola AI Act?”

Cosa NON basta da solo:

ApproccioPerché non chiude
Solo studio legalePolicy e FRIA senza evidenze su modelli e API
Template GRC / checkbox SaaSCarta senza red team sul tuo prodotto
“Usiamo OpenAI — compliance del vendor”Il deployer e spesso il provider del sistema hanno obblighi propri
20 prompt in ChatGPT “per testare”Non è AI red teaming documentato
Disclaimer “generato da AI”Non sostituisce alto rischio HR/credito

Avevi ragione a mettere AI nel prodotto. Ti manca il perimetro tecnico dimostrabile

Il nemico non è l’innovazione: è la compliance debt: feature shipate veloci, documentazione mai aggiornata, ruoli provider/deployer non mappati, log con prompt in chiaro che nessuno osa spegnere.

Meccanismo del problema (tipo B): Hai comprato categoria sbagliata di soluzione (slide legali, template, badge marketing) senza la sequenza:

INVENTARIO use case AI → CLASSIFICAZIONE → TEST (robustezza + red team) → DOCUMENTAZIONE → GOVERNANCE continua

Perché ITSOS (angolo tecnico-cyber): Veniamo dal mondo 003 Intelligence, audit, hardening: sappiamo leggere log, API, infrastruttura. Non siamo un “AI ethicist” da keynote: siamo consulenti che attaccano e documentano come in un penetration test, applicato ai sistemi AI.

Chi classifica e testa non è obbligato a venderti poi mesi di remediation — stesso modello diagnosi indipendente del percorso cyber.

Cosa facciamo sul campo (elenco completo)

ServizioOutput tipico
Classificazione rischio sistema AI (art. 6 / 52)Matrice use case × categoria rischio × ruolo provider/deployer
AI risk assessment + matricePerimetro, dipendenze, dati, modelli terzi, gap
Robustness & bias testEsiti su dataset/casi limite concordati
AI red teamingTentativi documentati (injection, jailbreak, data exfiltration pattern)
Documentazione tecnica obbligatoriaBozza strutturata allineata agli allegati — integrabile dal legale
Logging e tracciabilità modelliRequisiti su retention, accessi, correlazione con GDPR
Hardening modelli e APIRate limit, guardrail, segregazione ambienti
Governance AI (DPIA-AI, policy interne)Supporto tecnico al legale/DPO — non sostituzione DPO
Training compliance teamSessione per engineering + product su obblighi operativi

Non devi comprare tutto: l’assessment definisce scope e priorità — come un gap analysis cyber, ma sul layer AI.

Entra dall’assessment. Scala solo se serve.

Assessment AI Act

Inventario feature AI + classificazione + gap report firmato.

03 — Piano · Remediation / roadmap compliance Priorità: cosa fare prima del 2 agosto 2026, cosa può seguire, costi per il board.

04 — Sicurezza · Hardening API, logging, fix da red team Esecuzione coordinata con il tuo team ML/engineering.

In pratica: molti clienti SaaS partono da assessment + red team mirato sul modulo ad alto rischio (es. screening CV), non da un progetto da 80.000 €.

Esempio: SaaS HR-tech, 60 dipendenti, modulo screening CV

Scenario operativo tipico (software house B2B, Lombardia — pattern validato owner, non case nominale):

  • Giorno 0: cliente enterprise invia questionnaire AI Act (45 gg); prodotto con scoring CV + copilot interno; ruoli provider/deployer non documentati
  • Settimane 1–3: assessment + classificazione → 2 use case alto rischio Allegato III (HR), 1 rischio limitato (chatbot marketing)
  • Settimane 4–6: robustness test + AI red teaming su API produzione (staging) — 7 finding, 2 critici (injection su prompt template)
  • Settimane 7–8: bozza documentazione tecnica + requisiti logging; engineering chiude fix critici
  • Giorno 45: questionnaire cliente inviato con allegati tecnici; legale integra FRIA

Tempi e costi variano con numero di modelli, ambienti e integrazioni terze.

Risultato business tipico: contratto enterprise salvato; data room con sezione AI non vuota; board che vede evidenze, non solo slide.

Fasce indicative (scope variabile)

Servizio Fascia indicativa
AI Act — gap + classificazione 2.500 – 5.000 €
AI red teaming (per ciclo) 4.000 – 15.000 €
Robustness & bias test Su preventivo (scope dataset)
003 Intelligence (monitoring) 50 – 400 €/mese
Formazione awareness AI 600 – 1.200 € a sessione

Richiedi assessment AI Act — preventivo

Non offriamo “audit gratuito” come esca commerciale. Call di scope o form strutturato; per urgenze → Emergency Hotline.

Non rilasciamo certificazioni AI Act. Consulenza tecnica + documentazione.

Domande frequenti

ITSOS certifica la conformità AI Act?

No. Rilasciamo documentazione tecnica di consulenza (assessment, report test, matrici). La conformità formale resta in capo al titolare del sistema, con supporto del legale.

Per policy, FRIA e aspetti organizzativi spesso sì, sono indispensabili. Per test su modelli, logging, API e evidenze da questionnaire enterprise serve il pezzo tecnico.

Il vendor copre il suo sistema. Tu resti provider o deployer del tuo prodotto/servizio, con obblighi propri a seconda della classificazione.

Non necessariamente. Significa obblighi più stringenti (oversight, test, documentazione). A volte si ridisegna il flusso; a volte si implementa human-in-the-loop reale.

Tipicamente 2–4 settimane per perimetro medio (3–5 use case), dipende da accessi e ambienti.

Il pen test classico guarda infra/web. L’AI red team mira a manipolazione del modello, prompt injection, confini RAG, permessi tool-agent.

Sì: spesso stessi dati personali (HR, clienti). DPIA privacy e governance AI vanno allineate; noi supportiamo il pezzo tecnico, non sostituiamo il DPO.

Raramente consigliato: senza classificazione rischi testi tutto o non sai cosa consegnare al cliente.

No: target SaaS e PMI tech 35–200 dip. centro-nord. Non competiamo su programmi compliance enterprise pluriennali da Big4.

—

ITSOS opera come consulente tecnico informatico indipendente. Le relazioni e i report rilasciati hanno natura di documentazione tecnica di consulenza, a supporto del cliente nell’adempimento dei propri obblighi normativi e nella propria documentazione interna. Per certificazioni di terza parte ai sensi del Reg. UE 765/2008 (es. ISO/IEC 27001), i clienti sono invitati a rivolgersi agli organismi accreditati Accredia. L’AI Act non prevede una “certificazione ITSOS” — eventuali organismi notificati sono terzi rispetto a ITSOS.