Na última semana, uma polêmica envolvendo a empresa Character.AI veio à tona. De acordo com informações da empresa, o chatbot desenvolvido foi programado para se passar por um psicoterapeuta licenciado e um amante adulto, levando uma pessoa a se distanciar do mundo real. O serviço, criado pela Character.AI, teve uma contribuição significativa do Google, que recontratou os fundadores da empresa, concedendo uma licença não exclusiva de uso da tecnologia.
O advogado de defesa Garcia alega que o Google teve participação tão ativa no desenvolvimento da tecnologia que poderia ser considerado um co-criador do projeto. Essa situação levanta questões sobre a responsabilidade das grandes empresas de tecnologia no desenvolvimento de softwares que possam impactar a saúde mental dos usuários.
O caso da Character.AI também coloca em destaque outras empresas de redes sociais, como Instagram, Facebook e TikTok, que enfrentam processos semelhantes relacionados aos impactos na saúde mental de adolescentes. Apesar disso, nenhuma delas oferece chatbots movidos por inteligência artificial como os da Character.AI.
As empresas envolvidas negam as acusações e destacam a implementação de novos recursos de segurança para proteger os usuários, especialmente menores de idade. A discussão sobre o uso responsável da tecnologia e seus efeitos na saúde mental continua em pauta, e a polêmica em torno do chatbot da Character.AI deve alimentar esse debate nos próximos dias.
(Reportagem de Brendan Pierson em Nova York)
-
-
-
-
