A medida que la inteligencia artificial se integra más en nuestras vidas, la necesidad de una regulación clara y efectiva se hace más evidente. Con la introducción del Reglamento de Inteligencia Artificial (IA) de la Unión Europea, se busca establecer un marco que garantice tanto la innovación como la protección ética de los ciudadanos.
Para explorar este tema en profundidad, Blas Simarro, Regional Sales Manager Iberia at Cyberbit, nos ofrece su perspectiva sobre cómo esta legislación podría moldear el desarrollo futuro de la tecnología.
¿Qué destacas de la nueva ley de IA?
El principal aspecto a destacar es la propuesta de clasificación de los sistemas de IA en función de su nivel de riesgo, dividiéndolos en sistemas de IA prohibidos, sistemas de IA de alto riesgo, y sistemas de IA de riesgo limitado. Esto permite una regulación más específica según el riesgo que representen para los derechos y la seguridad de los ciudadanos.
Asimismo, se establecen normas éticas y de seguridad para el desarrollo y despliegue de sistemas de IA, incluyendo la prohibición de ciertos sistemas de IA considerados inaceptables debido a su potencial para causar daño o violar derechos fundamentales. La legislación exige transparencia y trazabilidad en el desarrollo y uso de sistemas de IA, proporcionando información clara sobre el funcionamiento de los sistemas de IA y cómo se toman las decisiones.
En este sentido, se establecen requisitos para la evaluación de conformidad y certificación de sistemas de IA de alto riesgo antes de su puesta en el mercado o su uso, garantizando que cumplan con los estándares de seguridad y ética establecidos.
Aparte de todo lo anterior, me parece un aspecto crítico que se hayan previsto mecanismos de supervisión y aplicación para garantizar el cumplimiento de la legislación, incluyendo la designación de autoridades encargadas de supervisar el cumplimiento de las normas y, en su caso, la imposición de sanciones.
¿Cómo afectará a las empresas esta nueva legislación?
El nuevo Reglamento de IA de la UE establece las bases regladas de una nueva era de competitividad tecnológica. La adopción de cualquier tecnología disruptiva pasa por diversas fases de aceptación, desde un pico de interés generalizado, miedo/cautela y aceptación. La IA necesitaba de este marco legal para abordar esta última fase de manera generalizada, y ya lo tenemos.
Dentro de ese proceso de transformación general, en nuestro entorno de la ciberseguridad podremos ver en los años sucesivos avances a pasos agigantados en la detección de amenazas avanzadas, phishing, malware… que a su vez utilizarán esta misma tecnología de IA para su desarrollo.
Por último, otro vector tecnológico que sufrirá una profunda transformación es todo lo relativo a la monitorización de usuarios y sistemas. Las nuevas técnicas de aprendizaje automático permitirán identificar desviaciones y actuar automáticamente sobre las mismas de manera temprana, cambiando nuestra percepción de todo lo relativo a la respuesta a incidentes según la entendemos hoy en día.
