Tras un tiroteo escolar en Canadá, demandarán al ChatGPT por no detectar violencia

El gobierno de la provincia canadiense de Columbia Británica anunció que prepara una demanda contra OpenAI por su actuación previa a un tiroteo escolar ocurrido en la localidad de Tumbler Ridge. Según informó la administración provincial, buscará que la Justicia determine si la empresa tenía la obligación de comunicar a las autoridades una actividad detectada en la plataforma ChatGPT que consideró potencialmente preocupante.

El anuncio fue realizado por la fiscal general provincial, Niki Sharma, quien señaló que la acción judicial apunta a establecer responsabilidades por la falta de una notificación a las fuerzas de seguridad antes del ataque.

De acuerdo con las autoridades, la investigación posterior al hecho reveló que OpenAI había suspendido una cuenta presuntamente vinculada con la autora del ataque varios meses antes de la tragedia. Según la empresa, esa suspensión respondió a la detección de un uso que podía relacionarse con actividades violentas.

Sin embargo, OpenAI sostuvo que, al momento de tomar esa decisión, no existían elementos suficientes para concluir que se estaba preparando un ataque concreto o inminente, motivo por el cual no realizó una denuncia ni comunicó la situación a los organismos de seguridad.

Tras conocerse el caso, la empresa informó que reforzó sus mecanismos internos de seguridad y revisó sus protocolos para mejorar la respuesta ante señales de riesgo o situaciones de extrema preocupación detectadas en sus plataformas.

Asimismo, un portavoz de OpenAI reiteró que la compañía mantiene una política de "tolerancia cero" respecto del uso de sus herramientas para facilitar actos de violencia y que continúa fortaleciendo sus sistemas de prevención.

El anuncio de la demanda reavivó el debate sobre el papel que deben asumir las empresas desarrolladoras de inteligencia artificial cuando detectan conductas potencialmente peligrosas entre sus usuarios. La discusión enfrenta dos principios centrales: la protección de la privacidad de las conversaciones y la obligación de prevenir posibles hechos de violencia.

El caso también se produce en un contexto de creciente discusión regulatoria sobre la inteligencia artificial en Canadá y Estados Unidos, donde distintas iniciativas buscan establecer mayores exigencias de transparencia y responsabilidad para las compañías del sector. De concretarse, la demanda podría convertirse en un caso de referencia para determinar el alcance de las obligaciones legales de las plataformas de inteligencia artificial frente a indicios de conductas violentas.