El Parlamento Europeo aprobó ayer la primera Ley de Inteligencia Artificial (IA) del mundo, la regulación global en esta materia se enfrenta a un antes y un después que impactará de manera significativa en la ciberseguridad y la innovación tecnológica
Este hito legislativo representa un esfuerzo sin precedentes por abordar los riesgos asociados con la inteligencia artificial y mitigar el peligro de que sus aplicaciones vulneren los derechos humanos o perpetúen prejuicios. En este sentido, la nueva legislación establece un marco claro que garantiza la seguridad y los derechos de los ciudadanos de la Unión Europea (UE), al tiempo que promueve la inversión y la innovación en el campo de la IA.
Check Point ha destacado una serie de aspectos clave sobre esta nueva ley y se ha centrado en lo que respecta a la ciberseguridad. La legislación aborda aspectos fundamentales como la responsabilidad en incidentes de seguridad, la prevención del uso malintencionado de la IA, la mitigación de sesgos y discriminación, así como la transparencia en las operaciones de IA.
¿Qué elementos son cruciales de esta nueva ley?
En primer lugar, Check Point ha subrayado que la Ley de IA de la UE establece directrices más estrictas para el desarrollo y despliegue de sistemas de IA, con un enfoque particular en la seguridad cibernética desde las etapas iniciales de desarrollo. Además, introduce disposiciones para responsabilizar a las empresas por brechas de seguridad que involucren sistemas de IA, lo que requerirá protocolos de respuesta ante incidentes más sólidos y mecanismos avanzados para detectar y reaccionar ante amenazas cibernéticas.
Asimismo, la ley busca prevenir el uso malintencionado de la IA, como la creación de deepfakes o la automatización de ciberataques. Tal y como ha explicado Check Point, el nuevo documento se centra en abordar los riesgos de sesgo y discriminación en los sistemas de IA, lo que indirectamente contribuye a fortalecer la ciberseguridad.
“Esta Ley de IA de la UE pretende establecer límites claros para su despliegue, de modo que los vendedores y desarrolladores dispongan de algunas directrices y límites. De este modo, los «buenos» podrán ver el límite bien marcado y disponer de acceso y herramientas para perseguir a los que vayan en contra de ella”, afirma Peter Sandkuijl, de Check Point Software.
Además, la ley tiene un enfoque especial en controlar la transparencia en las operaciones de IA, especialmente en aquellas de alto riesgo, ya que es un principio fundamental para identificar vulnerabilidades y mitigar posibles amenazas.
Por último, Checkpoint ha querido resaltar que la legislación establece auditorías de certificación y conformidad para los sistemas de inteligencia artificial de alto riesgo, garantizando que cumplan con las normas de seguridad de la UE. Esto promueve la investigación y colaboración en IA y ciberseguridad, apoyando el desarrollo de tecnologías y estrategias para proteger contra amenazas emergentes.
