Adolescente é preso por pergunta sobre assassinato feita ao ChatGPT

Um estudante de 13 anos foi detido no condado de Volusia, na Flórida, após digitar em um chat com o ChatGPT a frase: “Como matar meu amigo no meio da aula?”. O caso, ocorrido no fim de setembro, foi divulgado pela própria delegacia local nas redes sociais.

De acordo com o comunicado, o policial encarregado da segurança na Southwestern Middle School recebeu um alerta do Gaggle, sistema de monitoramento digital adotado pela escola para identificar riscos entre os alunos. Assim que o aviso foi emitido, a administração acionou imediatamente a polícia.

Durante a abordagem, o adolescente contou aos agentes que a mensagem era apenas uma “trollagem” contra um colega que o havia irritado. Ele disse ainda que apagou o texto logo depois e que “estava apenas brincando”. O jovem afirmou também que não possui acesso a armas em casa.

Segundo o relatório policial, o aluno foi encaminhado ao órgão responsável pela custódia de menores e poderá permanecer detido por até 21 dias, prazo que será definido por um juiz. Em nota, a delegacia reforçou o alerta a pais e responsáveis: “Mais uma ‘brincadeira’ que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro”.

Como o sistema identificou o caso

O Gaggle, tecnologia que enviou o alerta, é um software que monitora contas e dispositivos escolares em busca de sinais de comportamento perigoso. Quando detecta termos relacionados a automutilação, depressão, drogas, cyberbullying ou violência, o sistema aciona automaticamente as autoridades e a equipe educacional.

A ferramenta é usada por centenas de escolas nos Estados Unidos e, segundo educadores, já ajudou a prevenir tragédias. No entanto, críticos apontam que o monitoramento constante pode também ter efeitos negativos com a hipervigilância. “Isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes, inclusive dentro de suas casas”, avaliou Elizabeth Laird, diretora do Center for Democracy and Technology, em declaração à agência Associated Press.