O avanço da inteligência artificial (IA) tem ampliado as possibilidades de uso da tecnologia e, ao mesmo tempo, levantado discussões sobre seus limites. À medida que os sistemas ganham capacidade para tomar decisões, utilizar ferramentas e interagir com diferentes ambientes, aumenta o debate sobre até que ponto essas tecnologias poderão ser controladas pelos seres humanos.
Na avaliação de Thiago Molino, CEO da Globalsys, os possíveis riscos associados ao avanço da inteligência artificial exigem atenção, embora não seja possível afirmar que a tecnologia represente, de fato, uma ameaça.
“Quando desenvolvemos uma tecnologia com potencial de transformar profundamente a sociedade, é razoável discutir não apenas o que ela pode fazer, mas também até onde queremos permitir que ela vá”, afirma.
Segundo Molino, o principal ponto de atenção não está necessariamente na possibilidade de máquinas desenvolverem intenções semelhantes às humanas, mas na combinação entre capacidade, autonomia e acesso. Sistemas cada vez mais sofisticados, capazes de tomar decisões e atuar sobre redes e ferramentas, exigem mecanismos de controle proporcionais ao nível de autonomia que recebem.
O executivo defende que a governança acompanhe o desenvolvimento tecnológico desde o início. Empresas, pesquisadores, governos e sociedade, segundo ele, precisam participar da construção de critérios de segurança, testes, transparência, monitoramento e responsabilização.
“Não podemos delegar à própria tecnologia a responsabilidade por seus limites”, destaca Molino.
A discussão também chega ao ambiente corporativo. Na avaliação do executivo, adotar inteligência artificial não deve ser apenas uma decisão relacionada à eficiência ou à redução de custos. É necessário definir quais decisões poderão ser automatizadas, quais permanecerão sob responsabilidade humana, quais dados e acessos serão concedidos aos sistemas e como os resultados serão supervisionados.
Ao mesmo tempo, Molino ressalta que a preocupação com os riscos não deve impedir o aproveitamento das oportunidades proporcionadas pela IA. A tecnologia já encontra aplicações em áreas como ciência, educação, indústria, saúde e produtividade.
“Se existe a possibilidade de que a IA produza riscos além da nossa capacidade de controle, a melhor resposta não é o pânico. É preparação”, afirma.
Para o CEO da Globalsys, a discussão sobre o futuro da inteligência artificial passa menos por tentar prever se a tecnologia poderá acabar com a humanidade e mais por definir quais limites serão estabelecidos enquanto seu desenvolvimento avança.
“O futuro da IA não será determinado apenas pelo que as máquinas forem capazes de fazer, mas pelas decisões que tomarmos sobre os poderes e limites que estaremos dispostos a entregar”, conclui.
