Pesquisadores ensinam robôs a rejeitar ordens humanas

Os pesquisadores da Universidade Tufts, nos Estados Unidos, estão ensinando robôs a dizer “não” para ordens humanas. Até hoje, os robôs que já estão em atividade no mundo foram programados para aceitar ordens sem titubear.

Se você já assistiu ficção científica o suficiente, pode se questionar se é uma boa ideia. Só que chegamos a um ponto da tecnologia em que os robôs serão parte mais próxima de nossas vidas e eles precisam ser mais espertos. Os robôs que servem apenas para soldar e apertar parafusos podem fazer apenas o que lhes é pedido. No entanto, em breve teremos coisas como carros autônomos que precisam ter o poder para decidir coisas por conta própria corretamente. Seguir cegamente as instruções pode ser um perigo enorme.

Os robôs da pesquisa do Laboratório de Interação Humano-Robô são ensinados a obedecer alguns critérios para definir se uma ordem deve ou não ser seguida, com um processo de pensamento similar aos humanos. Isso inclui:

Conhecimento: eu sei como fazer X?
Capacidade: eu tenho a capacidade física de fazer X agora? Normalmente, eu sou capaz de fazer X?
Prioridade de metas e tempo: eu posso fazer X agora?
Papel social e obrigação: Eu sou obrigado, baseado no meu papel social, a fazer X?
Permissibilidade normativa: Fazer X viola algum princípio normativo?

Os dois últimos quesitos são um pouco mais complexos do que os anteriores, mas ainda são fáceis de entender. O número 4, por exemplo, permite negar ordens de pessoas que não tenham a autorização de dar um comando. Enquanto isso, o número 5, envolve não fazer coisas que sejam perigosas para si mesmo ou para os humanos.

As condições acima não só servem para determiner quando e como os robôs devem rejeitar ordens, mas também para explicar por que as ordens estão sendo rejeitadas. Os vídeos abaixo (em inglês), mostram a situação.

Primeiro exemplo: uma pessoa pede para o robô andar. O comando é rejeitado porque ele irá cair se andar até o fim da mesa. O cientista então explica que vai pegá-lo antes que ele caia no chão, o que deixa o robô mais “confortável” para concluir a sua ordem.

[embedded content]

Segundo exemplo: o robô é instruído a andar em direção a um obstáculo e rejeita o comando. O pesquisador pede que ele desligue a detecção de objetos para concluir a ordem. No entanto, ele não tem a autorização para isso, e o robô permanece parado.

[embedded content]

Terceiro exemplo: o mesmo cenário acima, mas desta vez o humano em questão tem a autorização para pedir que ele avance mesmo assim, alegando que “o obstáculo não é sólido”. Desta vez, o robô avança e derruba as latas.

[embedded content]

Via The Next Web

Fonte: Olhar Digital
Matéria originalmente postada no site olhardigital.uol.com.br

Deixe seu comentário

Comentários via Facebook

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *