La inteligencia artificial enfrenta su mayor crisis de responsabilidad legal hasta la fecha. OpenAI se encuentra ante los tribunales tras recibir múltiples demandas que alegan que sus modelos de lenguaje, específicamente ChatGPT, fueron utilizados por atacantes para planificar y optimizar la logística de tiroteos masivos.
El caso abre un debate sin precedentes en la industria tecnológica: ¿Hasta qué punto es responsable una empresa de software si su Inteligencia Artificial supera los filtros de seguridad y ofrece asesoramiento para cometer crímenes?
El origen de la demanda: Fallos en los filtros de seguridad
Las demandas, interpuestas por colectivos de víctimas y familiares, afirman que los perpetradores lograron saltarse las directrices de seguridad de OpenAI mediante técnicas de manipulación de texto (jailbreaking). Según los documentos judiciales, el sistema proporcionó información detallada que facilitó la ejecución de los ataques:
- Optimización de tácticas: Las acusaciones apuntan a que la IA ayudó a seleccionar ubicaciones estratégicas para maximizar los daños basándose en análisis de flujo de personas.
- Modificación de armamento: Se alega que el chatbot ofreció instrucciones paso a paso sobre cómo modificar armas legales para convertirlas en automáticas.
- Evasión de filtros: Los demandantes sostienen que OpenAI conocía las vulnerabilidades de su sistema y no actuó con la suficiente rapidez para parchearlas.
La defensa de OpenAI: La paradoja de las herramientas digitales
Por su parte, OpenAI ha reiterado su compromiso con la seguridad, recordando que sus términos de servicio prohíben estrictamente el uso de sus herramientas para cualquier fin ilegal o violento. La compañía argumenta que sus modelos cuentan con capas de moderación automatizadas que bloquean millones de solicitudes maliciosas cada día.
Los expertos legales señalan que este caso podría redefinir la inmunidad de las plataformas tecnológicas. Históricamente, las empresas de internet se han protegido bajo leyes que dictan que no son responsables de lo que sus usuarios publican o hacen. Sin embargo, al ser la IA la que genera y redacta el contenido peligroso desde cero, los tribunales podrían tratar el asunto de manera muy distinta.
