Samsung lancia l’allarme: c’è stata una fuga di dati. Non l’ha provocata un attacco hacker, ma un semplice prompt, il testo che l’utente compone con la tastiera e fornisce al chatbot per istruirlo: «Compila un verbale della riunione». In allegato, codice informatico e documenti aziendali. Nel 2023 alcuni dipendenti hanno caricato su ChatGpt materiale relativo ad apparecchiature difettose e altri contenuti riservati. Il conglomerato sudcoreano ha vietato temporaneamente al personale l’uso di modelli di linguaggio avanzato (Llm) pubblici e sviluppato una famiglia di algoritmi aziendali, Samsung Gauss.
Non è solo una questione di privacy o tutela di segreti commerciali; le informazioni che l’utente condivide con l’intelligenza artificiale sono anzitutto una risorsa economica. Quando le aziende sottoscrivono un abbonamento con OpenAi (ChatGpt), Anthropic (Claude) o Google (Gemini), pagano due volte Big Tech: con soldi e dati. Per spiegare il concetto il Ceo di Microsoft Satya Nadella è partito dal paradosso dell’informazione teorizzato dall’economista Kenneth Arrow (1962): chi vende un’idea deve rivelarla al potenziale acquirente per poterne dimostrare il valore. Se lo fa, finisce per cedergliela senza ricevere nulla in cambio. Nadella rovescia il dilemma: nell’economia dell’Ai è il compratore che deve regalare conoscenza per usare il prodotto acquistato.
Nelle politiche d’utilizzo molte società del settore dichiarano di non allenare gli Llm – che per poter elaborare risposte adeguate devono essere alimentati, durante la fase di training, con grandi quantità di testo – sulle interazioni con gli utenti. «Anche quando un fornitore garantisce di non usare le conversazioni per l’addestramento dei modelli, il valore economico si sposta semplicemente a monte», precisa Giuseppe Italiano, professore di Computer Science e prorettore all’Università Luiss per l’intelligenza artificiale e le digital skills. «Ogni prompt corretto due volte, ogni feedback come ‘non è quello che intendevo’, ogni configurazione su misura rivela come un’azienda pensa, dove sbaglia, quali processi automatizza per primi».
La tech riceve costantemente recensioni sul sistema che commercializza da personale impegnato sul campo: potrebbe consultare le richieste fatte, le risposte approvate, le ricerche che hanno funzionato e finanche gli errori del Llm (anche se la libertà d’accesso a questo materiale dipende dai termini contrattuali). Un serbatoio di statistiche dall’alto valore operativo, perché sono utili a migliorare il servizio.
Inoltre il cliente costruisce, dentro l’infrastruttura altrui, il complesso di prompt e procedure che rende l’AI capace di lavorare secondo le sue regole: un “pacchetto” che è complicato esportare e trasferire. Infatti un’intelligenza artificiale non sa a priori come una compagnia assicurativa gestisce un’eccezione: i dipendenti glielo insegnano attraverso esempi, correzioni e risposte valutate positivamente. Queste condizioni possono creare dipendenza (il cosiddetto “lock-in”) dalla società che fornisce tecnologia.
«Anche se in forma aggregata e anonimizzata», conclude Italiano, «i pattern di utilizzo di migliaia di clienti rivelano al fornitore dove il mercato sta andando prima che i clienti stessi lo formalizzino. Un vantaggio competitivo enorme, ottenuto senza mai toccare una singola conversazione a fini di training». Assistendo all’incremento nell’adozione di funzioni programmate per analizzare documenti legali, ad esempio, la tech potrebbe investire e mettere sul mercato prima dei concorrenti un prodotto ad hoc.
«I dati dei clienti non rappresentano una forma di pagamento a Microsoft», dice a Zeta Andrea D’Onofrio, “Cloud Platform e Ai Lead” della filiale italiana. «Il vero scambio di valore consiste nel fatto che le organizzazioni utilizzano i dati per generare valore per sé stesse: migliorando la produttività, accelerando il processo decisionale, preservando la conoscenza istituzionale e creando vantaggio competitivo. Il ruolo di Microsoft è fornire strumenti che aiutino i clienti a trarre maggiori benefici dai propri dati, mantenendone al tempo stesso la proprietà e il controllo».
La ricetta di Microsoft per le aziende che vogliono proteggersi da eventuali fughe d’informazioni e controllare il loro patrimonio informativo consiste in una combinazione di misure e interventi multilivello: «sul piano tecnico, sono fondamentali una solida gestione delle identità, controlli di accesso basati sui ruoli, chiavi di crittografia gestite dal cliente, policy per la prevenzione della perdita di dati, etichette di riservatezza e capacità di auditing». Anche le imprese che adottano l’Ai devono dotarsi di linee guida e politiche solide in materia. Infine, «le organizzazioni dovrebbero assicurarsi che i dati dei clienti non vengano utilizzati per addestrare modelli di base senza un consenso esplicito».
Molte aziende, sulla scorta di Samsung, sono al lavoro su soluzioni efficienti e all’avanguardia, come ambienti digitali protetti: i dipendenti possono accedere ai chatbot tradizionali, però la società trattiene le informazioni e si assicura il controllo sul materiale condiviso. Ci sono imprese che hanno sviluppato Llm aziendali, come Bloomberg. Il gruppo statunitense, che eroga servizi finanziari (e possiede l’omonima agenzia di stampa), ha creato BloombergGpt, sistema linguistico specializzato nell’analisi di documenti economico-finanziari. Sul versante italiano, nel 2024 Fastweb ha acceso la NeXXt Ai Factory, un data center con sede nella provincia di Bergamo: l’infrastruttura alimenta Miia, un modello proprietario.
Di norma le strategie variano in base alla sensibilità dei contenuti processati dall’Ai: per mansioni ordinarie o di routine, lo strumento può anche girare su server esterni (cioè nei data center di terzi come Amazon o Google). Nei reparti in cui circolano documenti riservati sono preferibili soluzioni on-premise (il sistema funziona su server controllati dall’impresa), che richiedono infrastrutture, personale e costi più elevati.
Fincantieri spiega a Zeta di aver adottato un approccio tecnologicamente agnostico. Quando sono coinvolti progettazione navale, difesa, proprietà intellettuale o know-how strategico, il colosso della cantieristica opta per sistemi installati su server sotto il proprio controllo e, se necessario, algoritmi sviluppati o adattati internamente. L’obiettivo è proteggere non soltanto i documenti, ma anche prompt, feedback e conoscenze prodotti attraverso l’utilizzo dell’AI, considerati parte del patrimonio aziendale.
