À medida que a Inteligência Artificial se integra ao cotidiano, dos diagnósticos médicos às decisões jurídicas, passando por conselhos emocionais e orientações profissionais, cresce também a dúvida: afinal, podemos responsabilizar a IA por seus erros? Para o engenheiro, filósofo e escritor Pedro de Medeiros, a resposta é clara: não.
E insistir nessa ideia pode afastar o debate do que realmente importa. “A I.A não delibera, não julga e não tem intenção moral. Ela calcula. Responsabilizar a máquina é como responsabilizar um relâmpago por onde caiu”, afirma Medeiros. O especialista explica que, na filosofia, responsabilidade está ligada à consciência, algo que sistemas automatizados simplesmente não possuem.
Mesmo assim, observa Medeiros, há um movimento crescente de delegar à tecnologia decisões que deveriam permanecer humanas, de conselhos pessoais a diagnósticos complexos.
“Quando alguém pede orientação a um algoritmo e segue aquela sugestão sem reflexão, quem decidiu de fato? O risco não está no erro da máquina, mas na nossa tentação de fugir da responsabilidade pelas próprias escolhas”, diz.
No ambiente profissional, a situação se agrava conforme softwares avançados ganham protagonismo em rotinas críticas. Médicos, advogados e analistas têm recorrido cada vez mais a sistemas inteligentes para orientar decisões técnicas. O que acontece quando algo dá errado? Segundo Medeiros, surge uma perigosa zona cinzenta. “Empresas e profissionais começam a usar o argumento do ‘o algoritmo mandou’ como uma nova forma de evasão moral. Mas delegar não elimina responsabilidade, apenas a esconde.”
O especialista alerta que não existe “moral artificial”, apenas a amplificação dos padrões humanos nos dados que alimentam os sistemas. “Se nossos dados são enviesados, o algoritmo será enviesado. Se nossas escolhas são imprudentes, ele amplificará essa imprudência. A IA não inventa problemas, ela revela os nossos.”
Para ele, a discussão central não é se a IA deve ser responsabilizada, mas até onde estamos dispostos a ceder autonomia às máquinas. “Responsabilidade não é algo que se terceiriza. Se errarmos ao seguir a IA, não haverá um sistema para pedir desculpas em nosso lugar. No fim, a imagem refletida no espelho será sempre a nossa”, finaliza.
