No confíes, verifica: El error humano como fuente de la responsabilidad en el uso de inteligencia artificial generativa.

Por Alexis Candia

“La jurisprudencia demuestra una verdad incómoda pero necesaria: el riesgo no está en la tecnología, sino en cómo se la utiliza. A partir de esta premisa, desarrollaré un principio originado en el mundo de la ciberseguridad, pero útil y cada vez más necesario en el ámbito jurídico: 'Don’t Trust, Verify' (no confíes, verifica). El principio 'Don’t Trust, Verify' se consolida dentro del modelo de ciberseguridad conocido como 'Zero Trust' (confianza cero). Este modelo surge en el año 2010 gracias a John Kindervag, como respuesta a la insuficiencia del enfoque tradicional de seguridad de ese momento, basado en el concepto de 'castillo y foso' (castle-and-moat). El modelo 'Zero Trust' elimina la confianza implícita por defecto. Su premisa fundamental es que ningún usuario, dispositivo, ni conexión es fiable por defecto, ya sea que se encuentre dentro o fuera del perímetro de la red. Este enfoque asume la violación de los sistemas (assume breach) como una posibilidad constante. En esencia, 'Zero Trust' (confianza cero) y su máxima 'Don’t Trust, Verify' (No confíes, verifica) no promueven una desconfianza generalizada, sino la evolución de la confianza implícita hacia una cultura de comprobación constante y verificada. La lógica de la 'confianza cero' es altamente aplicable para mitigar el riesgo de error humano en el ejercicio profesional del Derecho, especialmente cuando se integra la inteligencia artificial generativa en las tareas diarias para la redacción de escritos o la emisión de dictámenes."

Copyright 2025 - elDial.com - editorial albrematica - Tucumán 1440 (1050) - Ciudad Autónoma de Buenos Aires - Argentina

Términos mencionados en esta doctrina: inteligencia, artificial, verify, principio, ciberseguridad, verifica, generativa, jurisprudencia, tecnología, jurídico.