L'UE avverte Microsoft che potrebbe essere multata miliardi per mancanza di informazioni sul rischio GenAI

L'Unione Europea ha avvertito Microsoft che potrebbe essere multata fino all'1% del suo fatturato annuo globale ai sensi del regime di governance online del blocco, il Digital Services Act (DSA), dopo che l'azienda non ha risposto a una richiesta di informazioni vincolante dal punto di vista legale per strumenti AI generativi.

A marzo, l'UE aveva chiesto a Microsoft e ad altri giganti della tecnologia informazioni sui rischi sistemici posti dagli strumenti AI generativi. Venerdì, la Commissione ha dichiarato che Microsoft non ha fornito alcuni dei documenti richiesti.

La Commissione ha dato all'azienda tempo fino al 27 maggio per fornire i dati richiesti o rischiare l'applicazione della legge. Le multe previste dal DSA possono raggiungere fino al 6% del fatturato globale, ma informazioni errate, incomplete o fuorvianti fornite in risposta a una richiesta formale di informazioni possono comportare una multa a sé stante dell'1%. Ciò potrebbe sommarsi a una penalità di fino a un paio di miliardi di dollari nel caso di Microsoft: l'azienda ha riportato un fatturato di 211,92 miliardi di dollari nell'anno fiscale chiuso il 30 giugno 2023.

Le obbligazioni di rischio sistemico delle piattaforme più grandi ai sensi del DSA sono supervisionate direttamente dalla Commissione, e questa avvertenza si aggiunge a una serie di potent...

La Commissione ha detto che mancano informazioni relative ai rischi derivanti dalle funzionalità di IA generativa del motore di ricerca Bing, in particolare, il regolatore ha evidenziato l'assistente AI "Copilot in Bing" e lo strumento di generazione di immagini "Image Creator by Designer".

L'UE ha detto di essere particolarmente preoccupata per i rischi che gli strumenti possono comportare per il discorso civico e i processi elettorali.

La Commissione ha dato a Microsoft tempo fino al 27 maggio per fornire le informazioni mancanti o rischiare una multa dell'1% del fatturato annuo. Se l'azienda non fornirà i dati entro tale data, la Commissione potrà anche imporre "penalità periodiche" fino al 5% del suo reddito medio giornaliero o del fatturato annuo mondiale.

Bing è stato designato come un cosiddetto "motore di ricerca online molto grande" (VLOSE) ai sensi del DSA nell'aprile 2023, il che significa che è soggetto a un ulteriore strato di obblighi legati alla mitigazione dei rischi sistemici come la disinformazione.

L'obbligo del DSA per le piattaforme più grandi di mitigare la disinformazione mette le tecnologie di IA generative direttamente in primo piano. I giganti della tecnologia sono stati in prima linea nell'incorporare GenAI nelle loro piattaforme principali nonostante evidenti difetti come la tendenza dei grandi modelli linguistici (LLM) a fabbricare informazioni presentandole come verità.

È stato dimostrato che gli strumenti di generazione di immagini basati su AI producono anche output sessualmente tendenziali o potenzialmente dannosi, come deepfakes ingannevoli. L'UE, d'altro canto, ha in programma delle elezioni il prossimo mese, il che sta concentrando le menti a Bruxelles sulla disinformazione politica alimentata dall'IA.

“La richiesta di informazioni si basa sul sospetto che Bing possa aver violato il DSA per i rischi legati all'IA generativa, come i cosiddetti ‘allucinazioni’, la diffusione virale dei deepfakes, nonché la manipolazione automatizzata dei servizi che possono ingannare gli elettori,”ha scritto la Commissione in un comunicato stampa.

“Ai sensi del DSA, i servizi designati, compreso Bing, devono svolgere una adeguata valutazione dei rischi e adottare rispettivi misure di mitigazione del rischio (Art 34 e 35 del DSA). L'IA generativa è uno dei rischi identificati dalla Commissione nelle sue linee guida sull'integrità dei processi elettorali, in particolare per le prossime elezioni al Parlamento europeo a giugno.”

Raggiunto per un commento, un portavoce di Microsoft ha inviato una dichiarazione in cui afferma di essere “profondamente impegnata nella creazione di esperienze sicure online e di collaborare con i regolatori su questo argomento importante”.

“Abbiamo cooperato pienamente con la Commissione europea nell'ambito della richiesta volontaria di informazioni e restiamo impegnati a rispondere alle loro domande e a condividere di più sul nostro approccio alla sicurezza digitale e alla conformità con il DSA,” ha scritto anche Microsoft, aggiungendo: “Attraverso la nostra vasta gamma di servizi online intraprendiamo azioni per misurare e mitigare i rischi potenziali. Questo include una serie di azioni per preparare i nostri strumenti per le elezioni del 2024 e aiutare a salvaguardare gli elettori, i candidati, le campagne e le autorità elettorali. Continueremo inoltre a collaborare con i nostri colleghi del settore nell'ambito dell'accordo tecnico per combattere l'uso ingannevole dell'IA alle elezioni del 2024.”

Questo report è stato aggiornato con un commento da Microsoft