Além do Algoritmo #11: Sistemas autônomos, como Agentic IA, trazem perigos e dilemas éticos

Máquinas que por contra própria tomam decisões e fazem uma série de tarefas. Essa tecnologia está disponível através dos sistemas de inteligência artificial Agentic IA. "É tudo ainda muito experimental, mas o mais importante desse passo é que ele tira os humanos da frente", afirma o professor Glauco Arbix, em conversa com o jornalista Marcello Rollemberg, nesta edição de Além do Algoritmo. "Toda vez que você substitui o humano, você cria problemas éticos e morais."

Arbix cita como exemplo uma situação em que um médico precisa priorizar um de dois pacientes. "A máquina vai resolver isso de acordo com a orientação que ela tiver. Se for orientada para minimizar custos, ela vai tratar o paciente que pode ser curado mais rapidamente e de forma mais barata", diz o professor. "Se tiver cuidando de uma pessoa pobre, não vai sugerir tratamentos complicados, que poderiam salvar a vida dessa pessoa."

Arbix lembra que as máquinas não necessariamente são "perigosas". Entretanto, ao buscar formas de realizar uma ação, sem o controle humano, elas podem trazer consequências inesperadas. "Digamos que, para cumprir uma tarefa, a máquina precisa de algum recurso que ela não encontra facilmente. Ela, então, vai procurar caminhos para esses recursos e isso pode dar a ela um poder não previsto."

Ouça o podcast no link acima.

Esta edição reproduz o programa Além do Algoritmo, transmitido pela Rádio USP no dia 30 de maio de 2025.