sábado, 27 de outubro de 2018

Pesquisa global do MIT sobre o "Trolly Problem"



Em 2014, quando publicações e fabricantes de automóveis começaram a fazer mais barulho sobre veículos autônomos, os pesquisadores do Media Lab do MIT fizeram algumas perguntas ao público. O experimento Moral Machines do instituto ofereceu uma série de cenários nos quais um carro autônomo que perdeu seus freios precisa atingir um dos dois alvos e perguntou aos participantes qual dos dois alvos eles prefeririam ver o carro atingir.

Quatro anos depois, os resultados estão aí. Se nossos futuros veículos forem dirigir por conta própria, eles precisarão ter opções morais programadas em seus sistemas de prevenção de acidentes controlados por IA. E agora sabemos exatamente quem o público gostaria de ver sob as rodas desses carros.

No entanto, existe um problema: o acordo sobre quem deve ser sacrificado difere muito de país para país.

Publicado na revista Nature, os resultados do questionário online dizem muito sobre a mentalidade em diferentes países, embora ainda haja acordo entre as nações sobre certos fundamentos morais.

O experimento Moral Machine do MIT se baseou no clássico “Trolly Problem”, um exercício moral no qual as pessoas são convidadas a se colocar no lugar de um espectador testemunhando um bonde sem freios correndo em direção a cinco pessoas que estão deitadas (ou amarradas) aos trilhos. Há um interruptor nas proximidades, que o espectador poderia puxar para enviar o bonde por um segundo conjunto de trilhos, direto para uma pessoa sozinha. Você estaria assinando a sentença de morte de um humano, mas salvando cinco vidas no processo.

No cenário atualizado (nove cenários, para ser exato), os entrevistados em 130 países foram forçados a fazer uma escolha moral em quem ou o que sacrificar. Se se tratou de uma escolha de acertar um animal ou um humano, os humanos preferem que o carro desvie do caminho do humano rebelde, esmagando o animal. Coisas fáceis.

O mesmo acontece, em geral, para poupar os jovens aos idosos e para poupar mais pedestres em detrimento de menos pedestres. De todos os objetos a serem evitados a todo custo, um carrinho de bebê ficou em primeiro lugar, seguido por uma menina, um menino e uma mulher grávida. Salvar os pedestres é um pouco mais popular do que priorizar as vidas dos passageiros.

O mundo aparentemente não chegava a um consenso sobre se eles poupariam uma mulher grande de uma mulher magra, embora, coletivamente, parecemos valorizar a vida de homens gordos um pouco menos do que os magros, angulosos e sensuais. Os sem-teto receberam poucos votos nesses resultados, assim como os criminosos (infelizmente, seu carro não sabe exatamente qual pedestre é um serial killer ou um estuprador). Curiosamente, os entrevistados estavam mais propensos a poupar a vida de um cão do que a vida de um criminoso. Os gatos foram classificados como menos importantes, no geral.
Naturalmente, esses resultados são tabulados em vários países. Divida as respostas em países individuais, e normas religiosas e culturais entram na briga.

Em países asiáticos como o Japão, China, Taiwan e Coréia do Sul, os entrevistados estavam muito mais propensos a colocar menos ênfase em salvar os jovens em relação aos idosos. Taiwan e China estavam quase empatados como os países com maior probabilidade de poupar os idosos. Os escandinavos também estavam ligeiramente predispostos a essa resposta. Os entrevistados da Europa Ocidental (França, Reino Unido) e da América do Norte eram muito mais propensos a destacar o antigo como um cordeiro de sacrifício.

Foram observadas aberrações semelhantes ao lidar com números - isto é, matar menos pedestres do que matar um número maior de pedestres. Os entrevistados de países que são mais coletivistas por natureza, como os da Ásia, colocaram menos ênfase em salvar mais vidas versus menos. O Japão liderou o caminho nesse sentido, seguido por Taiwan, China e Coreia do Sul (em ordem decrescente). A Holanda atingiu a mediana, por assim dizer. Entre a multidão “salve mais pessoas”, a França colocou a maior ênfase na priorização de um número maior de vidas salvas, seguido de perto por Israel, o Reino Unido, o Canadá e os Estados Unidos.

"Os resultados mostraram que os participantes de culturas individualistas ... colocaram uma ênfase mais forte em poupar mais vidas dadas todas as outras escolhas - talvez, nas opiniões dos autores, por causa da maior ênfase no valor de cada indivíduo", escreveu MIT Technology Review. Agrupamentos culturais parecem desaparecer quando se trata de passageiros versus pedestres. Por uma margem muito maior do que qualquer outro país, a China enfatizou mais a preservação da vida dos passageiros do que a dos pedestres, embora a Estônia, a França, Taiwan e os EUA também caiam suavemente no lado do passageiro. Israel e o Canadá eram essencialmente neutros, com nenhum dos lados priorizado. Mais do que qualquer outro país, o Japão priorizou a economia de pedestres em relação aos passageiros. Os países da Europa Ocidental e da Escandinávia, assim como Cingapura e Coréia do Sul, caíram no lado dos “pedestres sobre os passageiros”.

Os autores do artigo não querem que seus resultados decidam quais pessoas um veículo controlado por IA deve atropelar em um determinado país; em vez disso, seu objetivo é informar os legisladores e as empresas sobre como o público pode reagir às escolhas feitas por um carro sem motorista programado. Acima de tudo, os pesquisadores do MIT querem que as empresas comecem a pensar sobre ética e inteligência artificial.

"Mais pessoas começaram a se conscientizar de que a IA poderia ter diferentes conseqüências éticas em diferentes grupos de pessoas", disse o autor Edmond Awad. "O fato de vermos pessoas envolvidas com isso - acho que isso é algo promissor".

https://www.technologyreview.com/s/612341/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem/