Hace tiempo que la inteligencia artificial dejó de ser una cuestión de ciencia ficción para introducirse en el día a día de muchas empresas. Tampoco es ya un asunto exclusivo de grandes corporaciones con altos presupuestos tecnológicos, sino que está revolucionando la vida empresarial de pymes y profesionales autónomos que pueden beneficiarse de las ventajas que aportan las nuevas tecnologías basadas en IA.

Sin embargo, la rapidez de su evolución y la facilidad de acceso no debe distraer a los responsables de las empresas de las implicaciones legales de su uso. ¿Qué herramientas basadas en IA se usan en tu negocio? ¿Estás seguro de que cumplen con la legislación vigente? Te contamos las principales claves y algunos ejemplos:

¿Qué normativas hay que tener en cuenta para el uso de IA en las empresas?

• El reglamento europeo

La denominada EU AI Act es la normativa sobre inteligencia artificial de la Unión Europea. Entró en vigor el 1 de agosto de 2024 y afecta a todas las empresas que ejerzan su actividad dentro del territorio europeo.

Consiste en un reglamento de implantación progresiva que establece un sistema de niveles de riesgo en el uso de la inteligencia artificial, desde el riesgo mínimo sin obligaciones legales a las prácticas prohibidas por su riesgo inaceptable.

La norma establece que, una vez que un sistema de inteligencia artificial se comercializa, las autoridades se encargan de la vigilancia del mercado, y los responsables de su implantación deben garantizar la supervisión y el control humanos, y la notificación de incidentes graves. Esto responsabiliza también a las empresas que utilizan un sistema de IA en su actividad profesional, aunque haya sido creado por un tercero.

• La protección de datos

La fuerte regulación en materia de protección de datos de carácter personal que existe en Europa y España es uno de los aspectos más sensibles del uso de la IA, ya que el Reglamento General de Protección de Datos (RGPD) limita el uso de datos personales en herramientas de inteligencia artificial tanto para su entrenamiento, como para el escaneo, captura o filtrado de datos.

• La propiedad intelectual

Las leyes relativas a la propiedad intelectual, la propiedad industrial y los secretos comerciales limitan el uso de obras protegidas en herramientas de inteligencia artificial y el resultado de la creación de contenidos debe estar vigilado también en estos términos.

¿Cómo se aplica la IA en tu empresa y qué riesgos legales tiene?

En base a estas regulaciones y tomando como base la EU IA Act podemos detallar algunos ejemplos de actividades habituales que involucran herramientas de inteligencia artificial en las empresas y sus riesgos legales:

Herramientas internas y algoritmos básicos: riesgo mínimo sin obligaciones legales

Las empresas pueden utilizar la inteligencia artificial sin obligaciones ni riesgos legales para, por ejemplo:

• Establecer filtros de spam en el correo electrónico.
• Utilizar correctores de ortografía y estilo en la redacción de textos.
• Establecer sistemas de recomendación básicos como las sugerencias de las tiendas online basadas en los datos de navegación autorizados por el cliente.
• El uso de software para inventarios basados en estadísticas internas

Chatbots y generación de contenido con IA: obligación de transparencia

Las empresas que utilizan herramientas de inteligencia artificial para interactuar con personas o para generar contenido deben siempre explicitarlo. Esto afecta a casos como, por ejemplo:

• Chatbots de atención al cliente: la empresa debe advertir a sus clientes si el asistente virtual de su página web, el canal de WhatsApp o el teléfono no es un humano sino un programa generado con inteligencia artificial.
• IA para generación de contenidos: la empresa o profesional debe advertir si ha utilizado la inteligencia artificial para crear imágenes (en especial si se trata de imágenes realistas denominadas Deep fakes) o redactar textos en su página web, redes sociales, artículos de blog o incluso carteles promocionales. Además, deben asegurarse de que la herramienta utilizada para ello cumple con los derechos de autor.

Filtrado de personas y uso de biometría: necesidad de control y supervisión

De acuerdo con el reglamento de la UE, existen determinadas aplicaciones de la IA que pueden tener un alto impacto sobre los derechos fundamentales, y por este motivo deben ser sometidas a control humano y, en su caso, auditorías externas. Se trata de casos como, por ejemplo:

• Uso de IA en tareas de recursos humanos: Utilizar la inteligencia artificial en los procesos de selección de empleados ya sea para analizar y filtrar currículos o para puntuar entrevistas de trabajo, debe estar bajo continua vigilancia humana y sometido a auditorías para evitar los sesgos discriminatorios. Esto también afecta al uso de la IA en la toma de decisiones sobre condiciones de empleo, subidas salariales, asignación de tareas o revisión de rendimiento.
• Uso de IA en la evaluación de solvencia: utilizar un programa de IA para filtrar perfiles de solvencia en entidades financieras, agencias inmobiliarias, seguros, etc, puede conllevar de igual modo a sesgos discriminatorios, por lo que debe ser supervisado.
• El uso de la biometría más allá de la mera verificación de la identidad se considera un caso de alto riesgo y debe ser supervisado.

Puntuaciones sociales y detección de emociones: actividades prohibidas

El Reglamento de la UE prohíbe, entre otras, las siguientes prácticas de IA con un nivel de riesgo inaceptable:

• Sistemas de puntuación social: una empresa no puede crear o utilizar un software basado en IA para clasificar y penalizar o premiar a clientes o trabajadores en función de sus características sociales o personales ya que puede dar lugar a un trato injusto no relacionado con el contexto en el que se recogieron los datos.
• Detección de emociones: existen programas basados en IA capaces de analizar microexpresiones faciales, tonos de voz o registro de determinados movimientos para evaluar las emociones de una persona. Está prohibido su uso en centros de trabajo para evaluar a clientes o empleados por vulnerar su privacidad.
• Bases de datos de reconocimiento facial: se prohíbe el uso de herramientas de IA para realizar rastreos y almacenamientos masivos de imágenes personales, ya sea en internet, redes sociales o cámaras.
• Evaluación del riesgo criminal: los sistemas de seguridad de una empresa no pueden usar softwares de predicción de probabilidad de cometer un delito basándose únicamente en perfiles faciales o rasgos de personalidad. Se trata de un uso limitado a investigaciones criminales objetivas y basadas en hechos.
• Técnicas subliminales o engañosas: por supuesto, la ley prohíbe el uso de la inteligencia artificial para manipular el comportamiento de individuos o grupos, utilizando estímulos no perceptibles o aprovechando la vulnerabilidad de un colectivo. 

La firma de servicios profesionales MOORE España es consciente de la importancia que tienen las nuevas tecnologías basadas en inteligencia artificial para las empresas de cualquier tamaño y sector, y por este motivo ofrecen un servicio exhaustivo de Consultoría TI y Auditoría de Sistemas a sus clientes para aprovechar todo el poder de la tecnología en el crecimiento y desarrollo de la empresa, pero cumpliendo siempre la normativa vigente. El enfoque multidisciplinar de MOORE España permite además combinar la Consultoría TI con la Asesoría Legal para asegurar el cumplimiento de todas las leyes y prevenir o hacer frente a cualquier sanción.