La Inteligencia Artificial se ha convertido en un componente habitual de numerosos productos tecnológicos. ERP, CRM, plataformas SaaS, aplicaciones sanitarias, herramientas de recursos humanos, sistemas documentales o soluciones de atención al cliente incorporan ya funcionalidades basadas en IA.
En muchos casos, las empresas no desarrollan sus propios modelos, sino que integran servicios, APIs o soluciones de proveedores como OpenAI, Microsoft, Google, Anthropic o Amazon. Sin embargo, utilizar tecnología de terceros no significa que desaparezcan las responsabilidades de la empresa que integra esa Inteligencia Artificial dentro de su producto y posteriormente lo comercializa.
Para analizar estas obligaciones y explicar cómo evaluar de forma independiente este tipo de soluciones, el próximo 30 de septiembre, de 16:00 a 17:30 horas —horario de Madrid—, se celebrará un webinar online especializado en cumplimiento normativo, auditoría y certificación de software con Inteligencia Artificial.
IA integrada en software: ¿qué debe revisar el fabricante?
Antes de comercializar una solución que incorpora Inteligencia Artificial es necesario identificar exactamente qué componentes de IA utiliza, cuál es su función dentro del producto y qué riesgos pueden derivarse de su funcionamiento.
No presenta las mismas implicaciones un asistente de IA generativa incorporado a un CRM que un sistema utilizado para recomendar candidatos en un proceso de selección, analizar información sanitaria o clasificar documentación de clientes.
Durante el webinar se explicará cómo determinar el papel que ocupa cada empresa dentro de la cadena de valor de la IA y cómo analizar las responsabilidades asociadas a la utilización de modelos propios o de terceros.
También se abordará la clasificación de los sistemas conforme al Reglamento Europeo de Inteligencia Artificial, así como las obligaciones que pueden resultar aplicables dependiendo de la finalidad, características y nivel de riesgo del sistema.
Contratos, RGPD y proveedores de Inteligencia Artificial
La integración de una API o modelo externo introduce además una serie de cuestiones contractuales y de protección de datos que deben ser evaluadas.
Entre otros aspectos, será necesario revisar las condiciones del proveedor, las garantías ofrecidas, el tratamiento de la información enviada al sistema, la posible utilización de datos personales y las responsabilidades asumidas por las diferentes partes.
Por este motivo, la auditoría de un producto con IA no debe limitarse exclusivamente a comprobar su funcionamiento técnico.
Debe analizar también los aspectos jurídicos, contractuales, de privacidad, seguridad, trazabilidad y gestión del riesgo.
¿Qué documentación debe conservar una empresa?
Uno de los principales retos para los fabricantes consiste en disponer de evidencias suficientes para demostrar cómo se ha diseñado, probado y supervisado una determinada funcionalidad de IA.
Durante la sesión se explicará qué tipo de documentación, controles, pruebas y evidencias debería conservar la empresa y cómo puede estructurarse un expediente que permita acreditar la diligencia aplicada durante el desarrollo y explotación del producto.
Una adecuada trazabilidad facilita además responder a procesos de homologación, cuestionarios de compliance de clientes, auditorías de terceros o posibles requerimientos regulatorios.
Casos prácticos de software con IA
El webinar tendrá un enfoque práctico mediante el análisis de diferentes escenarios habituales en el mercado tecnológico, entre ellos:
- un ERP o CRM con un asistente de IA generativa;
- una aplicación que utiliza una API para analizar o clasificar documentos;
- un chatbot que responde utilizando información de clientes;
- un sistema de recursos humanos que recomienda o evalúa candidatos;
- una solución sanitaria que utiliza IA como herramienta de apoyo;
- una plataforma capaz de generar textos, informes, imágenes o código.
En cada supuesto se estudiará cómo podría clasificarse el sistema, qué riesgos deberían evaluarse, qué documentación debería existir y qué controles podrían revisarse dentro de una auditoría.
Auditoría y certificación privada de software con IA
La auditoría independiente permite analizar el grado de control existente sobre una solución y detectar posibles carencias antes de que generen problemas regulatorios, contractuales o comerciales.
Además, una evaluación especializada puede ayudar a la empresa a demostrar diligencia ante clientes y terceros, mejorar la documentación y trazabilidad del producto, responder a procesos de compliance y reducir riesgos antes de poner nuevas funcionalidades en producción.
Durante el webinar se explicará también cómo puede desarrollarse un proceso de auditoría y certificación privada de software con IA y qué elementos pueden acreditarse mediante un informe técnico y un sello de software auditado.
¿A quién se dirige?
La sesión está especialmente orientada a fabricantes y desarrolladores de software, empresas SaaS, integradores tecnológicos y compañías que comercializan bajo su propia marca soluciones que incorporan IA de terceros.
También resultará de interés para responsables de producto, tecnología e innovación, departamentos jurídicos y de cumplimiento, responsables de seguridad y profesionales de protección de datos.
Ponente
El webinar será impartido por D. Luis Vilanova Blanco, de LEGAL AUDITORS, auditor CISA, AAIA y AAIR de ISACA, Lead Auditor ISO/IEC 42001, perito informático judicial y Máster en Inteligencia Artificial por MBIT.
Datos del webinar
Fecha: 30 de septiembre
Horario: 16:00 a 17:30 horas —Madrid, España—
Modalidad: Online
Inscripción: Reglamento de Inteligencia Artificial: clasificación y expediente de conformidad para fabricantes de software
Contáctanos en info@legalauditors.es
