Postagem, traduzida e editada de: seeker.com
Imagem por: Leon R. Sütfeld, Richard Gast, Peter König, Gordon Pipa.
Os carros autônomos estão cada vez mais próximos de nós. Empresas como Google,
Ford, Waymo, Lyft, Uber e Volvo já estão testando este sistema em cidades do mundo, com carros semi-autônomos já disponíveis para venda. Mas enquanto o futuro da direção autônoma parece cada vez mais certo, pesquisadores ainda tentam chegar a um consenso sobre como incorporar a tomada de decisões morais em sistemas informatizados.
Agora, pela primeira vez, pesquisadores que usam a realidade virtual mostraram que os modelos de computador são efetivos para prever decisões morais. A capacidade de tomada de decisão usando algoritmos de aprendizado de máquinas pode oferecer um caminho aceitável para entregar as chaves do carro aos sistemas de condução autônoma.
O pesquisador Sütfeld e seus colegas Gordon Pipa, Richard Gast e Peter Königalso, do Instituto de Ciências Cognitivas da Universidade de Osnabrück na Alemanha, publicaram seu estudo na quarta-feira na revista Frontiers in Behavioral Neuroscience.
A pesquisa foi realizada com 105 pessoas na qual foi utilizado um headset de realidade virtual para colocar os participantes a dirigir em uma rua suburbana nas mais variadas situações de transito. Na simulação apareciam dois obstáculos que forçavam o motorista a escolher qual objeto atingir num tempo de 1 a 4 segundos. Havia 17 obstáculos diferentes de três categorias: humanos (crianças e adultos), animais (por exemplo, um cão) e objeto inanimado.
Os pesquisadores, então, usaram o conjunto de dados das experiências de realidade virtual para treinar três modelos de computador diferentes para pensar em cenários como um humano. Depois que os modelos foram treinados, os pesquisadores avaliaram o uso de novos dados de tráfego que não faziam parte do conjunto de dados original.
Sütfeld e Pipa descobriram que um simples modelo de "valor de vida", que neste estudo atribuiu um único valor a cada objeto, funcionou melhor. Foi capaz de encontrar uma base moral entre todas as decisões tomadas pelos participantes do estudo, proporcionando um valor médio para cada obstáculo.
Por exemplo, este grupo considerou mais valioso o cervo do que as cabras. Um carro autônomo usando este modelo escolheria atingir a cabra para salvar o cervo. Os seres humanos foram considerados mais valiosos que os animais. As crianças também foram consideradas mais valiosas do que os adultos, embora a diferença fosse marginal e não estatisticamente significante.
Outros fatores, como diferentes probabilidades de lesão ou morte, também poderiam ser incluídos neste modelo, mas isto não estava dentro do objetivo do estudo, diz Sütfeld.
Uma abordagem alternativa poderia ter utilizado redes neurais para tomar decisões. Esses algorítimos mais complexos são semelhantes a estrutura do cérebro biológico, e obtiveram sucesso ao identificar objetos. Mas eles possuem um lado negativo, explica Sütfeld.
As redes neurais ainda são desconhecidas para nos, podemos ver o que colocamos nela e ver o que sai, mas não entendemos o que acontece no meio do processo. Um algoritmo menos complexo pode ser quase tão preciso como a rede neural, mas oferecer muito mais transparência.
Independente do algorítimo escolhido, situações inevitáveis de ter que escolher atingir uma pessoa idosa ou uma criança ainda permanecem abertas para discussões, e são situações que infelizmente os veículos autônomos terão que enfrentar.
"Queremos que eles se comportem como humanos, ou que sigam regras categóricas?", Perguntou Sütfeld.
Claro, nenhum sistema, por mais razoável que seja ou moral, será capaz de evitar completamente um acidente de trânsito. Mas construir modelos baseados nos cenários mais realistas é muito importante.
Postagem, traduzida e editada de: seeker.com
Imagem por: Leon R. Sütfeld, Richard Gast, Peter König, Gordon Pipa.
Os carros autônomos estão cada vez mais próximos de nós. Empresas como Google,
Ford, Waymo, Lyft, Uber e Volvo já estão testando este sistema em cidades do mundo, com carros semi-autônomos já disponíveis para venda. Mas enquanto o futuro da direção autônoma parece cada vez mais certo, pesquisadores ainda tentam chegar a um consenso sobre como incorporar a tomada de decisões morais em sistemas informatizados.
Agora, pela primeira vez, pesquisadores que usam a realidade virtual mostraram que os modelos de computador são efetivos para prever decisões morais. A capacidade de tomada de decisão usando algoritmos de aprendizado de máquinas pode oferecer um caminho aceitável para entregar as chaves do carro aos sistemas de condução autônoma.
O pesquisador Sütfeld e seus colegas Gordon Pipa, Richard Gast e Peter Königalso, do Instituto de Ciências Cognitivas da Universidade de Osnabrück na Alemanha, publicaram seu estudo na quarta-feira na revista Frontiers in Behavioral Neuroscience.
A pesquisa foi realizada com 105 pessoas na qual foi utilizado um headset de realidade virtual para colocar os participantes a dirigir em uma rua suburbana nas mais variadas situações de transito. Na simulação apareciam dois obstáculos que forçavam o motorista a escolher qual objeto atingir num tempo de 1 a 4 segundos. Havia 17 obstáculos diferentes de três categorias: humanos (crianças e adultos), animais (por exemplo, um cão) e objeto inanimado.
Os pesquisadores, então, usaram o conjunto de dados das experiências de realidade virtual para treinar três modelos de computador diferentes para pensar em cenários como um humano. Depois que os modelos foram treinados, os pesquisadores avaliaram o uso de novos dados de tráfego que não faziam parte do conjunto de dados original.
Sütfeld e Pipa descobriram que um simples modelo de "valor de vida", que neste estudo atribuiu um único valor a cada objeto, funcionou melhor. Foi capaz de encontrar uma base moral entre todas as decisões tomadas pelos participantes do estudo, proporcionando um valor médio para cada obstáculo.
Por exemplo, este grupo considerou mais valioso o cervo do que as cabras. Um carro autônomo usando este modelo escolheria atingir a cabra para salvar o cervo. Os seres humanos foram considerados mais valiosos que os animais. As crianças também foram consideradas mais valiosas do que os adultos, embora a diferença fosse marginal e não estatisticamente significante.
Outros fatores, como diferentes probabilidades de lesão ou morte, também poderiam ser incluídos neste modelo, mas isto não estava dentro do objetivo do estudo, diz Sütfeld.
Uma abordagem alternativa poderia ter utilizado redes neurais para tomar decisões. Esses algorítimos mais complexos são semelhantes a estrutura do cérebro biológico, e obtiveram sucesso ao identificar objetos. Mas eles possuem um lado negativo, explica Sütfeld.
As redes neurais ainda são desconhecidas para nos, podemos ver o que colocamos nela e ver o que sai, mas não entendemos o que acontece no meio do processo. Um algoritmo menos complexo pode ser quase tão preciso como a rede neural, mas oferecer muito mais transparência.
Independente do algorítimo escolhido, situações inevitáveis de ter que escolher atingir uma pessoa idosa ou uma criança ainda permanecem abertas para discussões, e são situações que infelizmente os veículos autônomos terão que enfrentar.
"Queremos que eles se comportem como humanos, ou que sigam regras categóricas?", Perguntou Sütfeld.
Claro, nenhum sistema, por mais razoável que seja ou moral, será capaz de evitar completamente um acidente de trânsito. Mas construir modelos baseados nos cenários mais realistas é muito importante.
Postagem, traduzida e editada de: seeker.com