Incerteza moral e Meta normatividade

Resumo

Como devemos conciliar valores morais contraditórios? Como devemos eleger os nossos representantes políticos? Como as preferências individuais podem ser agregadas de forma justa para representar uma vontade, norma ou decisão social? Um campo emergente de estudo fornece um plano interdisciplinar para perguntas como estas. A área de pesquisa em segurança em Inteligência Artificial, que dentro da filosofia é uma das vertentes contemporâneas da ética de máquina, vem ganhando rápida expansão nos últimos anos. Um dos principais objetivos desta área é o alinhamento de valores entre agentes artificiais e humanos, ou seja, como imbuir nossas preferências morais de forma robusta e clara a processos autônomos. Na cerne do que chamamos de problema de alinhamento existem diversas questões filosóficas importantes, questões que vão além de qualquer limitação técnica que atualmente enfrentamos, uma delas sendo o problema de tomada de decisão em situação de incerteza moral. Afinal, o que devemos fazer quando não sabemos o que fazer? Neste estudo irei revisar uma estratégia de tomada de decisão lidando com incerteza moral. Por fim, iremos propor uma integração de um modelo meta normativo com a teoria da utilidade esperada, resultando em um modelo para tomada de decisão adequado para situações de incerteza empírica e moral.