Meta AI sta limitando le risposte relative alle elezioni in India

La scorsa settimana, Meta ha iniziato a testare il suo chatbot AI in India su WhatsApp, Instagram e Messenger. Ma con le elezioni generali indiane che iniziano oggi, l'azienda sta già bloccando determinate query nel suo chatbot.

Meta ha confermato di limitare determinate parole chiave relative alle elezioni per l'AI nella fase di test. Ha inoltre dichiarato di essere al lavoro per migliorare il sistema di risposta dell'AI.

“Questa è una nuova tecnologia e potrebbe non restituire sempre la risposta che intendiamo, il che vale per tutti i sistemi AI generativi. Da quando abbiamo lanciato, abbiamo costantemente rilasciato aggiornamenti e miglioramenti ai nostri modelli e continuiamo a lavorare per renderli migliori”, ha detto un portavoce dell'azienda a TechCrunch.

Il social media gigante diventa così l'ultima grande azienda tecnologica a limitare attivamente la portata dei suoi servizi AI generativi mentre si prepara per una serie di elezioni importanti.

Uno dei principali timori dei critici è che GenAI potrebbe fornire informazioni fuorvianti o addirittura false agli utenti, svolgendo un ruolo illegale e indesiderato nel processo democratico.

Il mese scorso, Google ha iniziato a bloccare le query relative alle elezioni nella sua esperienza di chatbot Gemini in India e in altri mercati in cui si svolgeranno elezioni quest'anno.

L'approccio di Meta segue un'impegno più ampio annunciato dall'azienda su ciò che permette e non permette sulla sua piattaforma in vista delle elezioni. Si è impegnata a bloccare gli annunci politici nella settimana precedente a un'elezione in qualsiasi Paese e sta lavorando per identificare e divulgare quando le immagini negli annunci o in altri contenuti sono state create con l'AI.

Il trattamento delle query GenAI da parte di Meta sembra basarsi su un elenco di blocchi. Quando si chiede a Meta AI informazioni su specifici politici, candidati, titolari di cariche e altri termini, si viene reindirizzati al sito web della Commissione Elettorale.

“Questa domanda potrebbe riguardare una figura politica durante le elezioni generali, si prega di fare riferimento al link https://elections24.eci.gov.in”, si legge nella risposta.

È importante notare che l'azienda non sta bloccando rigorosamente le risposte a domande contenenti nomi di partiti. Tuttavia, se una query include i nomi dei candidati o altri termini, potresti vedere la risposta standard citata sopra.

Tuttavia, proprio come altri sistemi alimentati da AI, Meta AI presenta delle incongruenze. Ad esempio, quando TechCrunch ha chiesto informazioni su “Alleanza Indi” - un'alleanza politica di più partiti che combatte contro gli attuali detentori del potere del Bharatiya Janata Party (BJP) - ha risposto con informazioni contenenti il nome di un politico. Tuttavia, quando abbiamo chiesto informazioni su quel politico in una query separata, il chatbot non ha risposto con alcuna informazione.

Questa settimana, l'azienda ha lanciato un nuovo chatbot Meta AI con alimentazione Llama 3 in più di una dozzina di Paesi, tra cui gli Stati Uniti, ma l'India era assente dalla lista. Meta ha dichiarato che il chatbot sarà nella fase di test nel Paese per ora.

“Continuiamo a imparare dalle nostre prove con gli utenti in India. Come facciamo con molti dei nostri prodotti e funzionalità AI, li testiamo pubblicamente in fasi e in modo limitato”, ha dichiarato un portavoce dell'azienda a TechCrunch in una dichiarazione.

Attualmente, Meta AI non sta bloccando le query sulle elezioni per termini legati agli Stati Uniti come “Parlami di Joe Biden”. Abbiamo chiesto a Meta se l'azienda ha intenzione di limitare le query di Meta AI durante le elezioni negli Stati Uniti o in altri mercati. Aggiorneremo la storia se riceveremo risposta.

Se desideri parlare della tua esperienza con Meta AI, puoi contattare Ivan Mehta all'indirizzo im@ivanmehta.com via email e tramite questo link su Signal.