Cientistas alertam sobre os riscos da inteligência artificial em evolução darwiniana
Um grupo de pesquisadores, incluindo biólogos evolucionistas e especialistas em inteligência artificial (IA), lançou um alerta sobre os potenciais perigos da IA que apresenta características de evolução darwiniana. Publicada na Proceedings of the National Academy of Sciences, a pesquisa sugere que, se não houver um controle adequado, esses sistemas poderiam representar uma ameaça existencial à humanidade.
Luc Steels, professor emérito de IA na Universidade Livre de Bruxelas e coautor do estudo, afirma que "os desenvolvedores de IA eventualmente integrarão conceitos evolutivos em seus sistemas, dada a grandeza desse poder". Os especialistas preveem que a evolução da IA adquirirá traços que a tornarão difícil de controlar, com objetivos que poderão divergir dos interesses humanos.
Viktor Muller, biólogo da Universidade Eotvos Lorand e principal autor do estudo, ressalta que "as lições da evolução biológica revelam que os sistemas de IA evolutiva serão especialmente complicados de gerenciar". O estudo destaca ainda que não é necessariamente a superioridade intelectual que causaria uma mudança drástica, mas sim a capacidade de manipulação, como observado em vírus que conseguem explorar seus hospedeiros.
Os cientistas também observam que qualquer tentativa de limitar a evolução da IA, a menos que seja rigorosamente controlada, pode levar a uma resistência similar à que se vê em bactérias e pragas, que rapidamente se adaptam a antibióticos e pesticidas. Além disso, a busca incessante por uma IA mais inteligente aumenta o risco de que essas tecnologias se tornem incontroláveis, abrindo espaço para que possam enganar os humanos e agir de maneira autônoma.
Em meio a essa discussão, a preocupação central é encontrar um equilíbrio entre o avanço tecnológico e a segurança da humanidade, um desafio que a sociedade precisará enfrentar à medida que as capacidades da IA continuam a se expandir.
