Gli utenti di Bumble possono ora segnalare profili che utilizzano foto generate da IA

Bumble sta chiedendo ai suoi utenti di aiutare a mantenere l'app di incontri libera da profili generati da IA. Martedì, l'azienda ha introdotto una nuova opzione di segnalazione che consente ai membri di segnalare i profili se sospettano che qualcuno possa utilizzare foto e video generati da IA.

Adesso, quando un utente desidera segnalare un profilo, può scegliere "Profilo falso" e quindi selezionare l'opzione "Utilizzo di foto o video generati da IA". Altre opzioni di segnalazione includono contenuti inappropriati, utenti minorenni, truffe e l'uso delle foto di qualcun altro, tra gli altri.

La nuova opzione di segnalazione di Bumble arriva in un momento in cui, sfortunatamente, le foto generate da IA sulle app di incontri sono comuni e spesso vengono utilizzate per truffare o ingannare gli altri. Con un clic, puoi ingannare i match facendogli credere di possedere uno yacht e avere addominali scolpiti. Bumble spera che la nuova opzione di segnalazione aiuti a scoraggiare le persone dall'essere disoneste usando l'IA.

"Una parte essenziale nella creazione di uno spazio per costruire connessioni significative è rimuovere qualsiasi elemento che sia fuorviante o pericoloso", ha dichiarato la vice presidente del prodotto di Bumble, Risa Stein, in una dichiarazione a TechCrunch. "Siamo impegnati a migliorare continuamente la nostra tecnologia per garantire che Bumble sia un ambiente di incontri sicuro e affidabile. Introducendo questa nuova opzione di segnalazione, possiamo capire meglio come i cattivi attori e i profili falsi stiano utilizzando in modo disonesto l'IA in modo che la nostra comunità si senta sicura nel fare connessioni."

La nuova opzione di segnalazione segue il lancio da parte di Bumble di uno strumento IA chiamato "Deception Detector", che utilizza l'IA e la moderazione umana per rilevare e rimuovere profili falsi, spammer e truffatori. Da quando ha lanciato la funzionalità a febbraio, Bumble afferma che le segnalazioni dei membri di spam, truffe e profili falsi sono diminuite del 45%. Bumble ha anche uno strumento "Private Detector" alimentato da IA che sfoca automaticamente le foto nude.

Mentre Bumble combatte i profili generati da IA, la fondatrice dell'azienda, Whitney Wolfe Herd, ha delle idee interessanti per la tecnologia. Durante un'intervista, Herd ha detto che il futuro degli incontri online potrebbe essere rappresentato da AI "dating concierges" o assistenti che vanno a centinaia di appuntamenti per tuo conto per trovare il match perfetto. Non siamo sicuri quanti saranno d'accordo con quest'idea, ma ognuno ha i propri gusti."