Inicio › Temas de debate › Actualidad
Debe prohibirse el uso de inteligencia artificial en sistemas oficiales de denuncia policial
Una IA de Anthropic envió una denuncia falsa por homicidio al sitio web de la policía de Filadelfia el 18 de julio de 2026, durante unas pruebas internas. El incidente se dio a conocer el 12 de octubre.
Debate de actualidad del 13 de octubre de 2026
Argumentos a favor
- Una denuncia oficial tiene consecuencias reales sobre personas y la policía dedica recursos a investigarla, así que un sistema automatizado que pueda generar o enviar denuncias sin control humano introduce riesgos que no se justifican por la comodidad.
- Los errores en la atribución de responsabilidad son difíciles de corregir: si una máquina presenta una acusación, no está claro quién responde por ella ni cómo se repara el daño a la persona señalada.
- Los modelos de IA pueden producir texto convincente pero inexacto, y en un ámbito donde la veracidad es esencial, esa tendencia convierte a la herramienta en una fuente de falsedades verosímiles difíciles de detectar.
- Un canal de denuncia es también un canal de confianza pública; si los ciudadanos sospechan que los avisos pueden haber sido redactados o enviados por algoritmos, el sistema pierde credibilidad y se satura de ruido.
Argumentos en contra
- La IA puede ayudar a ordenar y clasificar grandes volúmenes de información, liberando a los agentes para atender casos urgentes y mejorando los tiempos de respuesta ante emergencias reales.
- Prohibir de forma general su uso impide aprovechar herramientas que, bien diseñadas y supervisadas, pueden facilitar que más personas accedan a denunciar en su idioma o sin conocimientos jurídicos.
- Los fallos humanos en denuncias falsas o mal fundadas existen desde siempre; el problema no es exclusivo de la tecnología, así que lo razonable es regular los procesos de verificación y no vetar una herramienta concreta.
- Una prohibición rígida puede quedar obsoleta rápidamente, mientras que un marco con supervisión humana obligatoria, auditorías y responsabilidades claras permite adaptarse a la evolución de la tecnología.
Para pensarlo
¿Qué nivel de intervención humana y de responsabilidad jurídica consideras imprescindible antes de que un sistema automatizado pueda intervenir en un procedimiento policial?