Essas colunas provocantes foram escritas após um estudo da Georgia Tech para avaliar se as câmeras em carros autônomos tem menor probabilidade de identificar pessoas com pele mais escura. O que os pesquisadores descobriram foi que a tecnologia parecia mais precisa ao reconhecer aqueles com tons de pele mais claros. Isso foi o suficiente para a imprensa marcar veículos autônomos racistas! O Mail Online chegou ao ponto de apontar o dedo para as pessoas por trás dos testes de aprendizado de máquina. Sua manchete bastante complicada dizia: "Carros sem motorista têm maior probabilidade de atingir pessoas com pele mais escura, porque muitas pessoas brancas são usadas para treinar a tecnologia de reconhecimento de objetos".
Mas é verdade?
Embora as manchetes possam vender jornais, elas não contam a história completa. Usando a escala de Fitzpatrick, que classifica o tom de pele entre 1 e 6 com base na predisposição à queimação, os acadêmicos descobriram uma desigualdade na detecção de tons de pele mais escuros, especificamente aqueles entre 4 e 6 na escala. Como um estudo, isso é extremamente útil, pois destaca um viés no aprendizado de máquina, mesmo que os programadores não os tenham informado conscientemente. Mas este é exatamente o propósito de estudos como este, para identificar falhas em um sistema e destacá-las para que as questões possam ser abordadas antes que a tecnologia seja lançada. Eu também estaria interessado em saber se o estudo considerava a cor da roupa, a hora do dia e outros fatores ambientais. Seria uma diferença se uma pessoa de pele escura estivesse usando roupas leves ou uma pessoa de pele clara usando roupas escuras?
Nenhum comentário:
Postar um comentário