«Quanto guadagna il mio capo?» Una domanda scomoda all’IA aziendale. La domanda decisiva da porre a propria volta è: quali documenti può realmente leggere l’account che invia questa richiesta?
Un possibile errore nasce molto prima dell’IA.
Immaginiamo un’azienda fittizia. In una vecchia cartella del personale si trova un prospetto degli stipendi. Durante una precedente migrazione la cartella è stata condivisa con un gruppo generale di dipendenti. Nessuno usa più il collegamento. La condivisione è ancora attiva.
Ora viene introdotta una ricerca nelle conoscenze aziendali. Se questa fonte è collegata, tecnicamente elaborabile e accessibile all’account che effettua la richiesta, estratti pertinenti possono confluire in una risposta. Non serve superare una nuova barriera di sicurezza. L’IA rende più facile accorgersi di un vecchio errore nei permessi.
Questo è un esempio ipotetico. Non descrive un caso reale di un cliente DAXS né un comportamento generalmente garantito di un determinato prodotto. Senza una fonte adeguata e la possibilità di accedervi, l’IA non può conoscere in modo affidabile la cifra reale; un numero fornito ugualmente può essere inventato.
Tre persone, tre situazioni iniziali diverse.
La responsabile del personale può leggere il documento per svolgere il proprio compito. Un’altra persona non dispone di questo diritto: la sua ricerca deve escludere la fonte. Una terza persona ha accesso tecnico a causa della condivisione errata con il gruppo. Nel suo caso va corretta la condivisione stessa. Il modello non può dedurre in modo affidabile da un prompt l’errore nella decisione organizzativa.
Una risposta corretta può essere una divulgazione sbagliata.
Molti test di IA valutano se una risposta appare corretta ed è supportata da documenti. Per le informazioni riservate occorre inoltre verificare se proprio quella persona può vedere la fonte. Una risposta esatta sullo stipendio può comunque divulgare illecitamente informazioni necessarie solo a una cerchia ristretta in azienda.
Viceversa, un rifiuto di rispondere non dimostra ancora una protezione efficace. Forse il documento non è semplicemente stato trovato. I test di accesso devono quindi includere la fonte, l’indice di ricerca, gli accessi diretti e le formulazioni indirette. Un singolo avviso cortese come «Questi dati sono riservati» non costituisce un controllo affidabile dei permessi.
I calcoli richiedono la stessa attenzione.
Il tema non riguarda solo gli stipendi. Un dipendente potrebbe chiedere la tariffa oraria fatturata per il proprio lavoro, le condizioni di un cliente o un margine interno di progetto. Queste informazioni possono trovarsi in offerte e tabelle. Tariffa di fatturazione, margine di contribuzione e utile aziendale sono grandezze diverse; da una singola cifra trovata non si può dedurre seriamente il guadagno su un’ora di lavoro.
Devono quindi essere corretti sia i permessi delle fonti sia la qualità delle conclusioni. Riordinare gli archivi riservati e verificare professionalmente i risultati sono due compiti distinti.
Che cosa possono verificare le aziende prima del progetto pilota.
- Identificare i documenti del personale, finanziari e strategici e assegnare i responsabili.
- Controllare i permessi effettivi, inclusi gruppi, ereditarietà e link di condivisione.
- Preparare account di prova con accesso consentito, negato e involontariamente troppo ampio.
- Verificare che i permessi vengano applicati prima di passare gli estratti al modello.
- Seguire le revoche delle condivisioni anche in indici, cache, esportazioni e risposte condivise.
Per Microsoft Copilot con dati Microsoft 365, il produttore descrive l’utilizzo dei contenuti entro i permessi dell’utente. È proprio un motivo per correggere permessi iniziali troppo ampi prima dell’introduzione. Altri prodotti di chat e agenti aggiuntivi vanno verificati secondo il loro specifico modello di dati e account.
Un passo successivo sensato.
DAXS può pianificare un controllo circoscritto della sicurezza dell’IA con inventario delle fonti, verifica dei permessi e test negativi documentati. L’obiettivo è uno stato di introduzione verificabile: quali fonti sono autorizzate per quali utenti, quali carenze sono note e chi le risolve?
La pagina specialistica sulla sicurezza dell’IA e l’AI Oversharing spiega i controlli. Per l’architettura di ricerca, Conoscenze aziendali e RAG completa il quadro.
Fonti: Microsoft: dati e permessi · OWASP: divulgazione di informazioni sensibili.
