Google označoval černochov v aplikácii Fotky ako gorily, ospravedlnil sa

 

Minulý mesiac uviedol Google novú verziu aplikácie Fotky, ktorá dokáže automaticky označovať a kategorizovať fotky. Táto aplikácia však niesla aj chybu, ktorá označovala ľudí s čiernou pleťou ako gorily.

Aplikácia Fotky vznikla oddelením od Google+ pričom do nej boli pridané niektoré nové funkcie ako napríklad schopnosť automaticky označovať fotky a na základe identifikovaných objektov vytvárať automaticky albumy ako napríklad „jedlo“ či „krajiny“. Automatická identifikácia objektov však nefungovala vždy 100%-ne, o čom sa v pondelok presvedčil istý Afroameričan. Pri pohľade na aplikáciu Google Fotky zistil, že aplikácia mu automaticky vygenerovala album s názvom gorily. Na fotkách pritom nebol sám ale aj so svojou priateľkou, ktorá má taktiež tmavú pleť.

 

Poškodeným užívateľom je programátor Jacky Alciné, ktorý zverejnil zlé označené fotky na sociálnej sieti Twitter, pričom podpichol Google so slovami „Aký druh vzorových obrázkových dát ste zbierali, keď je výsledkom toto?“

 

Za asi hodinu a pol sa dočkal Jacky odpovede a to priamo od šéfa sociálnej architektúry v Google, Yonatana Zungera. Ten si pred ústa servítky nedával a samozrejme priznal chybu na strane Google. Zunger zároveň požiadal o plný prístup k Jackyho účtu a sľúbil, že náprava chyby bude doručená ešte neskôr v ten večer.

 

V utorok Zunger oficiálne prostredníctvom Twitter-u oznámil, že štítok „gorila“ bol odstránený z databázy aplikácie. Zároveň tiež dodal, že vývojári budú musieť ešte zapracovať na situáciách kedy aplikácia nerozpozná ľudskú tvár, pričom špecificky vyzdvihol, že ide o tváre tmavej pleti. Taktiež dodal, že istú dobu mala aplikácia veľkú chybu, keď boli ľudia všetkých rás automaticky označovaní ako psy.

 

Celá konverzácia medzi Zungerom a Jackym obsahovala mnoho ospravedlnení a Jacky sa za nápravu poďakoval. Hovorkyňa Google-u sa pre magazín ArsTechnica vyjadrila, že sú šokovaní a úprimne ich mrzí čo sa stalo. Zároveň dodala, že je očividné, že na technológiach automatického rozpoznávania je treba ešte tvrdo pracovať, aby sa podobné prípady nestali aj v budúcnosti.

 

Zdroj: arstechnica