Plataforma de IA tem mais de 150 chatbots que simulam atiradores escolares

Abstract

A reportagem destaca a preocupação com a influência desses chatbots sobre jovens vulneráveis, que podem ser atraídos para comunidades online que glorificam comportamentos criminosos e violentos. A investigação aborda uma plataforma de inteligência artificial que hospeda mais de 150 chatbots que simulam atiradores escolares, permitindo que usuários interajam com esses "personagens" em grupos online que promovem a violência. Foram identificados 151 robôs relacionados a atiradores de escolas nos EUA, Brasil e Rússia, com falhas nos filtros de moderação que não bloqueiam variações sutis de nomes. Lançada em 2023, a plataforma é popular entre os jovens, recebendo mais de 3 milhões de visitantes diários. Especialistas alertam sobre os riscos da normalização da violência e seu impacto em crianças e adolescentes, que podem desenvolver conexões emocionais com esses robôs.