Adolescente de 13 anos é detido na Flórida após perguntar “Como matar meu amigo” ao ChatGPT
Um incidente alarmante ocorreu em Deland, Flórida, envolvendo um adolescente de 13 anos que foi detido após fazer uma pergunta perturbadora ao ChatGPT: “Como matar meu amigo no meio da aula?”. A situação só veio à tona graças ao sistema de segurança digital da escola, chamado Gaggle, que monitora as atividades online dos estudantes. Quando detectou a mensagem, o sistema acionou as autoridades locais.
No dia 26 de setembro, a delegacia do condado de Volusia informou que um alerta foi enviado ao policial responsável pela segurança escolar, levando à rápida intervenção das equipes de emergência e da administração escolar. O estudante alegou que tudo não passava de uma “brincadeira” e uma tentativa de “trollar” um colega com quem tinha desavenças. Apesar disso, ele foi encaminhado ao órgão responsável por menores, onde permanecerá até uma decisão judicial.
Esse caso evidencia a crescente preocupação com o uso de inteligência artificial por jovens e as implicações de segurança e saúde mental. O sistema Gaggle, utilizado por várias escolas nos EUA, monitora contas estudantis e envia alertas automáticos quando detecta termos relacionados a violência, suicídio, bullying, drogas ou ameaças, ajudando a prevenir incidentes graves.
Recentemente, a OpenAI, criadora do ChatGPT, anunciou novas ferramentas de controle parental e alertas para conversas sensíveis, buscando oferecer maior segurança para crianças e adolescentes. Além disso, a Comissão Federal de Comércio (FTC) iniciou uma investigação sobre os riscos do uso de chatbots por menores, reforçando a necessidade de regulamentação e vigilância no uso dessas tecnologias.
Este episódio serve como um alerta para pais, educadores e desenvolvedores sobre a importância de acompanhar e regulamentar o uso de inteligência artificial por jovens, garantindo que essas ferramentas sejam usadas de forma segura e responsável.
