Jacky Alcine e una sua amica, entrambi di colore, sono stati catalogati come “gorilla” da Google Photos, un’app che permette tra l’altro lo storage di immagini e la loro archiviazione in base a categorie assegnate automaticamente.
Pazienza che nelle altre immagini caricate il software abbia saputo riconoscere correttamente aeroplani, grattacieli, automobili, biciclette e anche una festa di laurea; la gaffe razzista, per quanto involontaria, c’è tutta.
Alcine ha postato su Twitter lo screenshot con la schermata del software che è diventata virale.
E’ noto da tempo che il riconoscimento visuale per mezzo di sofisticati algoritmi è l’ultima frontiera della catalogazione. Aziende importanti come Microsoft e Google se ne stanno occupando con grossi investimenti.
Altrettanto note sono le difficoltà che persistono in questo campo, nonostante i notevoli progressi. Questo è normale, vista la complessità dell’obiettivo, ma quello che è successo a Google, che si è affrettata a scusarsi, è piuttosto imbarazzante.
Ma Google non è la sola a doversi scusare.
Flickr qualche mese fa ha avuto un incidente molto simile: anche il suo sistema di auto-tagging ha catalogato un uomo di colore come scimmia (ape)…