Uma questão pertinente

Imaginem que estão a bordo de um veículo que se dirige sózinho.
De repente, um grupo de pessoas cruza o vosso caminho quando o carro está rápido demais para parar.
A única opção é desviar, mas a batida contra um muro pode-vos ser fatal.
Como é que o sistema decide o que fazer?
E no caso de uma eventual morte, de quem é a responsabilidade pelas escolhas de um algoritmo?

Os veículos autónomos podem estar ainda em estágios iniciais de desenvolvimento, mas já motivam os pesquisadores a encontrar respostas para dilemas morais e éticos como este.
Jean-Francois Bonnefon, professor da Universidade de Toulouse, na França, decidiu consultar o senso comum para saber como uma inteligência artificial pode ser julgada.

Propôs então a um grupo de participantes imaginarem o cenário acima descrito.
A questão proposta era se o carro deveria optar por se desviar do grupo de pedestres, já que matar apenas uma pessoa seria "melhor" do que matar várias; ou se ele deveria priorizar a vida do ocupante, que é, afinal, quem comprou e pagou pelo veículo.

O resultado é que a maioria dos participantes se sentiu de acordo com a ideia de minimizar a quantidade de vidas perdidas - ou seja, sacrificar o ocupante do veículo em vez de matar um grupo de pedestres - desde que as pessoas dentro do carro não fossem elas mesmas ou conhecidos.
Contudo, ficaram na dúvida quando tiveram que responder: quem compraria um carro programado para matar o dono?

Na mesma experiência, Bonnefon também propôs cenários onde o grupo de pedestres era formado por 10, 15 ou até 30 pessoas, para ver se a quantidade de possíveis vítimas mudaria a reação do entrevistado.
Noutro casos, o pesquisador sugeriu que o dilema fosse o de bater contra um muro ou atropelar um cachorro.

De qualquer modo, segundo ele, é o público consumidor que vai definir as diretrizes que os fabricantes deverão seguir.
"É aceitável que um carro autónomo se desvie de uma motocicleta e bata num muro, sendo que as chances do passageiro do carro sobreviver são maiores do que a do sujeito que dirige a motocicleta?
Será que decisões diferentes deveriam ser tomadas caso houvesse crianças a bordo?

E se o fabricante oferecer versões diferentes do software, com decisões morais diferentes, deixando ao comprador a escolha de uma delas conscientemente?
Será que o comprador deve ser responsabilizado pelas consequências da decisão do algoritmo?", questiona Bonnefon.

Actualmente, o Google é a empresa com as pesquisas mais avançadas nesta área.
O seu carro autónomo já está em testes por algumas cidades americanas, e, por enquanto, ainda anda cuidadosamente devagar.
Na maioria dos casos, a resposta do veículo a qualquer movimento estranho à sua frente é sempre de frear bruscamente.
Conforme os sistemas amadureçam, é importante que esse tipo de questões seja levantado.

Que opinião teriam, se fossem confrontados com estas situações?