Con la entrada en vigor de la AI Act y el debate sobre los riesgos de la inteligencia artificial, las empresas españolas se preguntan si deben frenar sus proyectos. Desde Logixs defienden que la normativa puede servir para planificar mejor su desarrollo y destacan dos aspectos esenciales para avanzar con garantías: la privacidad de los datos y la trazabilidad de las decisiones
En las últimas semanas se ha visto cómo varias voces importantes en el ecosistema tecnológico y de la inteligencia artificial, reflexionaban sobre la importancia de que se detuviera el desarrollo de la IA para evitar así el descontrol de una tecnología que avanza a pasos agigantados.
Este debate global, se suma a la reciente entrada en vigor en Europa de la conocida AI Act, un reglamento promovido en el continente europeo que nace con el objetivo de regular esta nueva tecnología. Esta regulación es aún vista con dudas ante el desconocimiento de lo que esta ley supone para miles de empresas, y todo este aluvión de información ha llevado a las compañías españolas a reflexionar sobre una cuestión: ¿conviene frenar los proyectos de IA que ya están implementando en las empresas?
Ante esta situación de incertidumbre y necesidad de más información, os facilitamos el comentario de Francisco Moreno Balboa, CEO y fundador de Logixs, compañía española especializada en el diseño e integración de soluciones de IA para empresas, donde analiza las principales cuestiones a tener en cuenta sobre el AI Act:
«Esta regulación, lejos de paralizar posibles proyectos de AI, anima a las empresas a entrar en una fase de planificación más profunda e interesante. Con ella no se pretende frenar la innovación sino hacerla más accesible, teniendo presente siempre la gobernabilidad para su implementación. Con esta nueva ley Europa quiere asegurar que los proyectos cumplen con los estándares de seguridad necesarios, para que los sectores, incluso los más sensibles como pueden ser la banca, energía o el sanitario, puedan estar bien protegidos ante posibles incidentes», destaca Moreno. «Por ello, creemos que es importante que las compañías españolas aprovechen esta regulación para analizar y revisar los cimientos de los proyectos de IA puestos en marcha para asegurar que son sólidos y cumplen con la normativa que ya entró en vigor en agosto y aquellas cuestiones que aún quedan por implantarse en un futuro no muy lejano».
Además, desde Logixs destacan 2 cuestiones que las empresas españolas deben plantearse para saber si realmente cumplen con las exigencias de esta nueva regulación:
-
Privacidad del dato: es importante saber qué datos se pueden facilitar a las herramientas de IA y cuáles son sensibles. Y no sólo eso, sino que hay que saber en todo momento dónde se alojan esos datos, cómo viajan, cómo se protegen y qué pasa si se filtran, información que ha de conocerse desde el principio, desde la propia arquitectura.
-
Trazabilidad: es una de las palabras que más están sonando en el entorno de la IA. Las empresas necesitan poder reconstruir y asegurar de dónde sale cualquier decisión y afirmación que pueda realizar un sistema para poder medir su impacto y poder tomar medidas.
«La inteligencia artificial ha llegado para quedarse, también su implementación en las empresas. Sin embargo, es clave contar con un equipo que planifique y se asegure de minimizar riesgos, evaluando el impacto que esta pueda tener antes de desarrollarlo, para conseguir así un producto mejor. Quienes aprovechen los próximos meses para construir un gobierno del dato sólido, llegarán al mercado con una ventaja competitiva enorme», concluye Moreno.
