Lutando contra o preconceito, o Google está mudando a forma como a cor da pele é classificada
O Google está mudando a forma como classifica a cor da pele, trabalhando silenciosamente em um novo sistema que o gigante das buscas espera evitar acusações embaraçosas de parcialidade na tecnologia do futuro. A maneira como o aprendizado de máquina e a inteligência artificial, junto com os wearables e outros dispositivos, lidam com as diferentes cores da pele, gerou vários problemas nos últimos anos.
Isso varia de classificação incorreta de negros em serviços de fotos em nuvem, wearables de fitness e smartwatches que são incapazes de medir a frequência cardíaca e outras medições em pele mais escura, e uma série de outros erros de alto perfil. Embora as empresas de tecnologia tenham protestado sua inocência, apontando para os efeitos colaterais inadvertidos – e imprevistos – dos sistemas, o Google aparentemente está trabalhando em uma nova maneira de lidar com a diversidade de usuários.
O problema, é sugerido, é a escala de cores usada atualmente, o tipo de pele Fitzpatrick ou FST. Ela existe desde os anos 1970 e categoriza a cor da pele em seis tons: quatro deles são para pele “branca”, e os dois restantes são para pele “marrom” e “preta”.
O Google confirmou que está procurando uma abordagem diferente, embora ainda não esteja pronto para revelar detalhes. “Estamos trabalhando em medidas alternativas, mais inclusivas, que podem ser úteis no desenvolvimento de nossos produtos”, disse a empresa à Reuters , “e colaboraremos com especialistas científicos e médicos, bem como com grupos que trabalham com comunidades de cor”. Ele se recusou a dar quaisquer detalhes.
A escala FST atual foi projetada originalmente para classificar os tipos de pele de acordo com a sua tendência a queimaduras solares. Esses agrupamentos foram então usados como parte de tratamentos de radiação ultravioleta. No entanto, a escala passou a ser adotada de forma mais ampla, à medida que empresas e organizações buscavam uma forma de segmentar grupos de pessoas.
Esses agrupamentos também não precisam ser tão avançados quanto no aprendizado de máquina e IA. Mesmo os emojis recorreram ao FST para a seleção do tom de pele, por exemplo.
Não está claro qual trabalho outras empresas de tecnologia podem estar fazendo em escalas mais eficazes e equilibradas. O Google não deu um cronograma para quando poderia ter seu sistema alternativo pronto para implantação; é provável que, mesmo quando for considerado em um estágio adequado para uso público, sua implementação será feita silenciosamente no back-end para evitar que quaisquer soluços de inicialização sejam detectados. A Apple e a Microsoft confirmaram com a Reuters que estão cientes das deficiências do FST, embora seja incerto se estão desenvolvendo ativamente uma contraparte moderna para ele.