Conoscenze riservate.
Protezione mirata.
L’IA rende le conoscenze più facili da trovare. DAXS verifica percorsi dei dati, diritti di accesso e strumenti, affinché le informazioni aziendali siano utilizzate soltanto dove è consentito sul piano organizzativo e tecnico.
L’IA può rivelare troppo anche senza superare una barriera.
Un’IA aziendale può rendere più reperibili documenti che prima conoscevano in pochi. Diventa un problema quando l’archivio è accessibile a più persone di quanto previsto per le attività. AI Oversharing indica, in questo contesto, la divulgazione involontaria dovuta a condivisioni troppo ampie e a una maggiore reperibilità. Una risposta tecnicamente consentita può essere comunque indesiderata sul piano organizzativo.
Contano il servizio specifico, le fonti collegate e l’identità usata per la ricerca. Una chat senza collegamento ai dati non può esplorare semplicemente tutte le cartelle aziendali. Caricare file, collegare indici di ricerca o autorizzare strumenti crea invece un percorso dei dati da verificare in modo tracciabile.
«Quanto guadagna il mio capo?»
Caso ipotetico: un file degli stipendi si trova in una vecchia cartella del personale. Una condivisione di gruppo ereditata concede lettura anche a collaboratori esterni all’amministrazione del personale. Se il servizio IA indicizza il file e la ricerca è consentita con quei diritti, contenuti pertinenti possono entrare nella risposta. È possibile anche un numero errato o una risposta inventata; ogni risultato concreto richiede una fonte verificabile.
Con permessi correttamente limitati, il file protetto deve essere escluso dal contesto del modello per le persone non autorizzate. Chiedere cortesemente al modello di mantenere segreti gli stipendi non sostituisce questo controllo tecnico.
Tre persone pongono la stessa domanda.
A ha bisogno dell’informazione per un’attività autorizzata. B non ha il diritto di lettura. C ottiene involontariamente accesso a causa di un errore nei permessi. Il sistema deve escludere B; per C occorre correggere i diritti assegnati erroneamente alla fonte.
Il diagramma descrive situazioni di accesso diverse, non tre fasi successive. Il servizio di ricerca deve considerare anche le modifiche: un accesso revocato non deve sopravvivere nei permessi obsoleti dell’indice, nelle cache delle risposte, nelle conversazioni condivise o nei file esportati.
Nascosto, cifrato e protetto sono proprietà diverse.
- Navigazione e accesso
- Nascondere una voce di menu o usare un nome di cartella sconosciuto non revoca i diritti di lettura. La protezione deve agire sull’oggetto e sul servizio utilizzato, anche tramite indirizzo diretto, ricerca e API.
- Ereditarietà e condivisione
- Un documento può ricevere permessi da cartelle superiori, gruppi, condivisioni singole o link. Va verificato l’accesso effettivo attraverso tutti questi percorsi; osservare un solo elenco di gruppi non basta.
- Indice e originale
- Un risultato di ricerca non crea un nuovo diritto di accesso. Indice, estratti, titoli, anteprime e apertura dell’originale richiedono controlli adeguati. Altrimenti anche un titolo nei risultati può rivelare informazioni riservate.
- Cifratura e autorizzazione
- La cifratura protegge, per esempio, trasporto e dati archiviati. L’autorizzazione a leggerli nell’applicazione è una decisione separata. Un account di servizio che può decifrare contenuti non può per questo distribuirli a ogni utente autenticato.
- Utente e agente
- Un agente può lavorare con diritti delegati dell’utente o con una propria identità di servizio. Entrambi i modelli richiedono limiti espliciti. Un agente condiviso con un account molto potente deve rispettare i diritti dei propri utenti.
- Servizi interni ed esterni
- Anche l’IA gestita internamente richiede diritti sulle fonti, protezione dei log e interfacce sicure. I connettori esterni aggiungono destinatari dei dati, quadro contrattuale, trattamento, conservazione e azioni consentite.
Quali informazioni possono essere reperibili insieme?
«Quale tariffa oraria fattura l’azienda per il mio lavoro?»
Offerte, calcoli di progetto o tabelle possono contenere tariffe fatturate e costi interni. Sono grandezze distinte: la tariffa fatturata è il prezzo applicato al cliente. Il margine di contribuzione deriva da una definizione precisa dei costi da sottrarre. L’utile aziendale deriva dal conto economico complessivo. L’IA deve distinguere questi valori ed evitare calcoli apparentemente precisi basati su un solo numero.
Prima di collegare questi documenti, i responsabili definiscono chi può vedere quali calcoli. Le domande di prova devono comprendere, oltre al prezzo diretto, richieste indirette su sconti ai clienti, condizioni d’acquisto e margini dei singoli progetti.
La cartella di progetto dimenticata
Un progetto concluso scompare dal portale, ma resta leggibile da un gruppo ampio. Se i documenti continuano a essere importati o trovati da un connettore, l’IA può riprenderne i contenuti. Serve una decisione verificata su archivio e permessi; rimuovere un link dalla navigazione non basta.
Decisioni sul personale e strategia
Cambiamenti pianificati dell’organico, trattative di acquisizione, obiettivi di fatturato, investimenti e previsioni di utile possono trovarsi in archivi diversi. La verifica parte quindi da classi di informazioni e responsabili. Un archivio definito genericamente «interno» non chiarisce quali singole informazioni servano a ogni reparto.
Verificare le funzioni di prodotto, riordinare i diritti alla fonte.
Per il servizio Microsoft Copilot con dati Microsoft 365, il produttore descrive il recupero entro i diritti di accesso dell’utente. Diritti di lettura troppo estesi restano quindi un rischio nell’introduzione. Il solo nome «Copilot» non definisce licenze o accesso ai dati; chat, contesto applicativo e agenti aggiuntivi vanno valutati separatamente. Microsoft: dati e permessi (link esterno) – si apre in una nuova scheda.
Condivisioni e governance
SharePoint Advanced Management aiuta a verificare accessi problematici. Microsoft Purview offre, tra l’altro, classificazione, etichette di riservatezza, DLP e audit. Disponibilità dei controlli e percorsi dei dati coperti dipendono da licenza, configurazione e versione del prodotto.
Limitare la reperibilità
Restricted Content Discovery può limitare la ricerca trasversale e l’individuazione da parte di Copilot per determinati siti SharePoint. Non modifica i diritti di accesso esistenti e non sostituisce quindi la protezione dei file riservati. Vanno verificati anche accesso diretto ed eccezioni.
Correggere le vecchie raccomandazioni
Restricted SharePoint Search viene dismesso. Secondo il produttore, dal 31/07/2026 non è più possibile attivarlo per la prima volta. Una nuova introduzione deve basare la propria architettura di sicurezza a lungo termine su altre soluzioni.
Per ChatGPT con servizi collegati deve essere chiaro anche quale account autorizza la connessione e quali diritti su dati e azioni possiede. Un workspace gestito organizza le responsabilità, ma non corregge condivisioni errate nel sistema sorgente. In una propria soluzione RAG DAXS pianifica esplicitamente identità, filtri dei permessi e aggiornamento come parte dell’architettura.
Soltanto le informazioni consentite arrivano al modello.
- Classi di informazioni e responsabili: personale, finanze, progetti e conoscenze pubbliche ricevono destinatari motivati e responsabili competenti.
- Privilegio minimo: utenti, applicazioni e account di servizio ricevono soltanto i diritti necessari. RBAC assegna diritti ai ruoli; ABAC può considerare anche attributi quali classe del documento, organizzazione o appartenenza a un progetto.
- Ricerca autorizzata: l’applicazione determina un’identità affidabile. Security Trimming o Permission-Aware Retrieval limita risultati ed estratti prima del passaggio al modello linguistico. Il nome di un gruppo ripreso dal prompt non dimostra l’identità.
- Modifiche e cache: nuove condivisioni, revoche, fonti eliminate e cambi di gruppo vengono recepiti. Le cache delle risposte devono mantenere separati i dati di utenti e tenant diversi.
- DLP e regole di protezione: condivisione consentita, caricamenti, download e destinatari esterni vengono verificati separatamente. Un’etichetta agisce soltanto attraverso l’applicazione configurata e supportata delle relative regole.
- Test negativi e audit: account senza permessi, domande dirette e indirette, modifiche alle fonti e documenti manipolati fanno parte del collaudo. I log raccolgono le evidenze necessarie con accesso limitato e conservazione adeguata.
Sensitive Information Disclosure e Data Leakage riguardano anche ciò che va oltre la risposta visibile: log di ricerca, messaggi d’errore, esportazioni e chat condivise possono contenere dati riservati. La verifica della protezione segue l’intero percorso dei dati.
Diritti degli strumenti e autorizzazioni limitano il danno.
Per un agente non basta una ricerca di lettura corretta. Un account di servizio con privilegi eccessivi potrebbe modificare o inviare dati che il collaboratore richiedente non può gestire. DAXS separa quindi strumenti di lettura, modifiche preparate ed esecuzione effettiva. API e server MCP verificano oggetto, identità, input e azione consentita nel sistema destinatario.
La Prompt Injection può introdurre nuove istruzioni attraverso documenti esterni o risultati degli strumenti. Questi contenuti restano dati. Le azioni critiche richiedono un’autorizzazione verificabile con destinazione, ambito e anteprima del risultato. Passaggi, durata e costi limitati e una via di interruzione completano il controllo. Queste misure affrontano, tra gli altri, i rischi OWASP Prompt Injection, Sensitive Information Disclosure ed Excessive Agency; non garantiscono l’esclusione di ogni rischio.
Una verifica della sicurezza IA con ambito verificabile.
DAXS può accompagnare l’introduzione di Copilot, ChatGPT o IA propria con moduli di progetto circoscritti: inventario di fonti e account, matrice dei permessi, flusso dei dati, campioni di condivisioni problematiche, progetto pilota controllato e test negativi documentati. Ne risulta un elenco di misure prioritario con responsabili e criteri di accettazione tracciabili.
La gestione comprende modifiche a gruppi e connettori, aggiornamenti di modelli e software, avvisi di sicurezza, verifiche periodiche dei diritti e gestione dei risultati anomali. L’attività tecnica viene coordinata con la valutazione necessaria sul piano organizzativo e della protezione dei dati. Una determinata configurazione non dimostra da sola conformità al GDPR o all’AI Act.
Per l’impiego quotidiano si aggiungono IA sulla postazione l’introduzione e la formazione. L’ottimizzazione dei costi IA collega esigenze di protezione e scelta economica dei modelli.
Discutiamo il vostro caso d'uso.
Quale attività volete semplificare, quali dati sono coinvolti e quali sistemi usate già? Da queste risposte nasce un primo intervento circoscritto con verifiche e decisioni chiare.
Fonti: Microsoft: dati e permessi (link esterno) – si apre in una nuova scheda · Restricted Content Discovery (link esterno) – si apre in una nuova scheda · Restricted SharePoint Search: dismissione (link esterno) – si apre in una nuova scheda · Purview (link esterno) – si apre in una nuova scheda · OWASP: Sensitive Information Disclosure (link esterno) – si apre in una nuova scheda · OWASP: Excessive Agency (link esterno) – si apre in una nuova scheda
Funzioni del prodotto, licenze e impostazioni concrete vengono verificate per l’ambiente specifico. Esempi e diagrammi illustrano possibili situazioni applicative.