La investigación sostiene que el sospechoso también había consultado al chatbot sobre posibles ataques contra escuelas, iglesias y policías, además de buscar información sobre sustancias tóxicas como la ricina e intentar reformular sus preguntas para evitar los mecanismos de seguridad de la plataforma.
Entre las conversaciones analizadas había mensajes en los que el hombre hablaba de la posibilidad de comprar un arma y provocar un enfrentamiento con policías para conseguir que lo mataran. También habría planteado atacar a personas vinculadas al tráfico de drogas.
La policía consideró especialmente grave que una de las presuntas víctimas fuera su propio hijo, un menor identificable. Según los investigadores, el hombre prácticamente no tenía contacto con el niño más allá del pago de la manutención y ese conflicto podría haber formado parte de los motivos investigados.
Durante un allanamiento, además, fueron encontradas cuatro botellas con sustancias todavía no identificadas y una cuerda con un nudo, elementos que los investigadores consideran compatibles con una posible intención suicida, aunque deberán ser sometidos a pericias.
El jefe de la unidad de delitos cibernéticos de Espírito Santo sostuvo que parte de la información proporcionada por la empresa fue posteriormente corroborada durante el procedimiento policial.
El caso tiene, sin embargo, un aspecto judicial importante. El hombre pasó 54 días detenido y recuperó la libertad el 13 de agosto debido a demoras en la investigación. Hasta ahora no se presentaron cargos en su contra y el expediente continúa abierto.
Actualmente cumple medidas cautelares, entre ellas vigilancia electrónica y la prohibición de comunicarse con su hijo o con la madre del menor. Los investigadores analizan su teléfono y esperan los resultados de las pericias sobre los elementos secuestrados para establecer si pasó de las conversaciones y la planificación a alguna acción concreta.
Su abogado sostiene que su cliente simplemente estaba diciendo cosas sin intención de llevarlas a cabo y cuestiona que una conversación con un chatbot pueda ser utilizada como base suficiente para una investigación penal.
El caso también puso en discusión hasta dónde pueden llegar las empresas de inteligencia artificial cuando detectan conversaciones que podrían representar una amenaza.
Según la policía brasileña, OpenAI entregó información sobre el usuario y los mensajes enviados, pero no las respuestas generadas por ChatGPT. Especialistas en derecho penal señalaron que esa ausencia puede ser relevante porque el contexto completo de una conversación permite determinar si el sistema simplemente respondió a lo que planteaba el usuario o si tuvo algún tipo de influencia en el intercambio.
La empresa señaló que puede notificar a las autoridades cuando detecta un riesgo creíble e inminente de daño a terceros. Al mismo tiempo, especialistas citados en la investigación advierten que estos mecanismos deberían distinguir entre una amenaza concreta y expresiones de angustia, fantasía o provocación, para evitar que una evaluación automática termine convirtiéndose por sí sola en el origen de una investigación.
El caso brasileño deja planteada una pregunta que empieza a ganar peso a medida que los chatbots forman parte de la vida cotidiana: qué debe hacer una inteligencia artificial cuando una conversación deja de parecer una simple consulta y comienza a mostrar una amenaza concreta contra una persona identificable.