Notizia

Jun 17, 2023

L'app Foto di Google non riesce ancora a trovare i gorilla. E nemmeno Apple può farlo.

Advertisement Supported by Eight years after a controversy over Black people

Annuncio

Sostenuto da

Otto anni dopo una controversia sui neri etichettati erroneamente come gorilla dai software di analisi delle immagini – e nonostante i grandi progressi nella visione artificiale – i giganti della tecnologia temono ancora di ripetere l’errore.

Di Nico Grant e Kashmir Hill

Quando Google ha lanciato la sua app Foto nel maggio 2015, le persone sono rimaste stupite da ciò che poteva fare: analizzare le immagini per etichettare le persone, i luoghi e le cose in esse contenute, un’offerta sorprendente per i consumatori in quel momento. Ma un paio di mesi dopo la pubblicazione, uno sviluppatore di software, Jacky Alciné, ha scoperto che Google aveva etichettato le foto di lui e di un amico, entrambi neri, come "gorilla", un termine particolarmente offensivo perché riecheggia secoli di razzismo. tropi.

Nella controversia che ne seguì, Google impedì al suo software di classificare qualsiasi cosa in Foto come gorilla e promise di risolvere il problema. Otto anni dopo, con progressi significativi nel campo dell’intelligenza artificiale, abbiamo testato se Google avesse risolto il problema e abbiamo esaminato strumenti comparabili dei suoi concorrenti: Apple, Amazon e Microsoft.

Le app fotografiche realizzate da Apple, Google, Amazon e Microsoft si affidano all'intelligenza artificiale per permetterci di cercare elementi particolari e individuare ricordi specifici nelle nostre raccolte fotografiche sempre più grandi. Vuoi trovare la tua giornata allo zoo tra 8.000 immagini? Chiedi all'app. Quindi, per testare la funzione di ricerca, abbiamo curato44 immaginiraffiguranti persone, animali e oggetti di uso quotidiano.

Abbiamo iniziato con Google Foto. Quando abbiamo cercato nella nostra collezionegattiEcanguri, abbiamo ottenuto immagini che corrispondevano alle nostre query. L'app ha funzionato bene nel riconoscere la maggior parte degli altri animali.

Ma quando abbiamo cercatogorilla, Google Foto non è riuscito a trovare alcuna immagine. Abbiamo ampliato la nostra ricerca ababbuini, scimpanzé, oranghiEscimmie,e non è riuscito comunque, anche se c'erano immagini di tutti questi primati nella nostra collezione.

Abbiamo poi esaminato i concorrenti di Google. Abbiamo scoperto che Apple Foto aveva lo stesso problema: poteva trovare con precisione foto di animali particolari, ad eccezione della maggior parte dei primati. Abbiamo ottenuto risultati pergorilla,ma solo quando il testo appariva in una foto, ad esempio un'immagine di Gorilla Tape.

La ricerca di foto in Microsoft OneDrive ha lasciato uno spazio vuoto per ogni animale che abbiamo provato. Amazon Photos ha mostrato risultati per tutte le ricerche, ma era eccessivamente inclusivo. Quando abbiamo cercatogorilla,l'app mostrava un serraglio di primati e ripeteva lo stesso schema per altri animali.

non definito

C'era un membro della famiglia dei primati che Google e Apple sono stati in grado di riconoscere: i lemuri, gli animali dalla coda lunga dall'aspetto permanentemente sorpreso che condividono i pollici opponibili con gli umani, ma sono più lontanamente imparentati delle scimmie.

Gli strumenti di Google e Apple erano chiaramente i più sofisticati per quanto riguarda l'analisi delle immagini.

Eppure Google, il cui software Android è alla base della maggior parte degli smartphone del mondo, ha deciso di disattivare la possibilità di cercare visivamente i primati per paura di commettere un errore offensivo ed etichettare una persona come animale. E Apple, con una tecnologia che ha funzionato in modo simile a quella di Google nel nostro test, sembra aver disabilitato la capacità di cercare anche scimmie e primati.

I consumatori potrebbero non aver bisogno di eseguire frequentemente tale ricerca, anche se nel 2019 un utente iPhone si è lamentato sul forum di assistenza clienti di Apple che il software “non riesce a trovare le scimmie nelle foto sul mio dispositivo”. Ma la questione solleva domande più ampie su altri difetti irrisolti, o non risolvibili, che si nascondono nei servizi che si basano sulla visione artificiale – una tecnologia che interpreta le immagini visive – così come in altri prodotti basati sull’intelligenza artificiale.

Il signor Alciné è rimasto costernato nell'apprendere che Google non ha ancora risolto completamente il problema e ha affermato che la società ripone troppa fiducia nella tecnologia.

"Non avrò per sempre fiducia in questa intelligenza artificiale", ha detto.