Agentes IA · Pymes · Seguridad · Cumplimiento · España
Antes de poner un agente de IA en producción: todo lo que debes exigir a tu proveedor para no asumir riesgos que son suyos
Una lista de comprobación práctica sobre seguridad, contratos y cumplimiento normativo para que tu pyme no descubra los problemas cuando ya sea tarde.
Montar una demo de un agente de IA es relativamente sencillo. Ponerlo en producción —donde toca datos reales de clientes, ejecuta acciones en sistemas críticos y opera de forma autónoma— es una decisión completamente diferente. El problema es que muchas pymes llegan a ese momento sin haber preguntado las cosas correctas a su proveedor, y solo entonces descubren que nadie firmó el contrato adecuado, que los logs se guardan en servidores de terceros sin saber dónde, o que el modelo se entrena con sus datos de negocio.
Este artículo te da una lista de comprobación concreta: qué debes exigir antes de dar luz verde, cómo distinguir al proveedor del modelo del que implanta el agente —porque son actores distintos con responsabilidades distintas—, y qué dice la normativa europea de IA sobre todo esto en términos generales. Al final, tres preguntas que dejan en evidencia a cualquier proveedor que nunca ha puesto nada en producción de verdad.
Regla de oro: Si tu proveedor no puede responderte por escrito a las preguntas de esta lista, el agente no está listo para producción, aunque la demo funcione perfectamente.
El proveedor del modelo y el que implanta: dos actores, dos responsabilidades
El problema: Una de las confusiones más frecuentes en pymes que adoptan agentes de IA es tratar al proveedor como si fuera uno solo. En realidad casi siempre intervienen al menos dos partes: quien fabrica o distribuye el modelo de lenguaje o el motor de IA (OpenAI, Anthropic, Google, Mistral…) y quien construye e implanta el agente sobre ese modelo para tu caso de uso concreto. Cuando algo sale mal, ambas partes se señalan mutuamente y tú, como cliente, quedas en tierra de nadie.
La solución: Necesitas identificar por separado a cada actor y obtener compromisos escritos de cada uno. El proveedor del modelo tiene sus propias condiciones de uso, política de privacidad y reglas sobre si entrena o no con tus datos: léelas o pide que te las expliquen sin jerga. El que implanta el agente es quien diseña la arquitectura, gestiona los accesos, define los permisos y es tu interlocutor directo en caso de incidente. Este segundo actor debe asumir contractualmente su papel de encargado del tratamiento si maneja datos personales tuyos o de tus clientes, y debe poder acreditar que el proveedor del modelo también cumple con la normativa aplicable. Nunca aceptes un «el modelo lo gestiona el proveedor del modelo, nosotros solo lo usamos» como respuesta a tus preguntas de seguridad.
Punto crítico: El contrato con el implantador debe especificar explícitamente quién responde ante una brecha de datos, quién notifica a la AEPD y en qué plazo. Si eso no está escrito, la respuesta legal por defecto recae sobre ti como responsable del tratamiento.
La lista de comprobación: ocho puntos antes de dar luz verde
El problema: Cuando una pyme pide seguridad a su proveedor antes del despliegue, habitualmente recibe presentaciones con logos de certificaciones y frases sobre «infraestructura de nivel enterprise». Lo que necesitas no es marketing, sino respuestas concretas a preguntas concretas.
La solución: Punto 1 — Contrato de encargado del tratamiento con el proveedor del modelo: si el agente procesa datos personales (nombres, correos, conversaciones con clientes…), el proveedor del modelo debe firmar un acuerdo de encargado del tratamiento conforme al RGPD. Exige el documento, no una referencia a sus términos generales publicados en la web. Punto 2 — Dónde se guardan los logs y cuánto tiempo: pregunta en qué país o región se almacenan los registros de actividad del agente, quién tiene acceso a ellos y cuál es la política de retención y borrado. Si los logs contienen datos personales, aplica el principio de minimización y debes conocer la base legal de su tratamiento. Punto 3 — Si el proveedor entrena con tus datos: algunos modelos utilizan las conversaciones y los datos enviados para mejorar sus sistemas. Debes saber si esto ocurre en tu caso y, si ocurre, poder desactivarlo contractualmente. Pide confirmación por escrito. Punto 4 — Permisos mínimos del agente: el agente solo debe tener acceso a los sistemas, APIs y datos estrictamente necesarios para su función. Un agente de atención al cliente no necesita permisos de escritura sobre tu ERP. Revisa los permisos y aprobaciones de un agente antes de conectarlo a cualquier sistema de producción. Punto 5 — Aprobación humana en acciones irreversibles: cualquier acción que no pueda deshacerse fácilmente (enviar un correo masivo, borrar registros, hacer una transferencia, publicar contenido externamente) debe requerir confirmación explícita de una persona antes de ejecutarse. Esto debe estar implementado en la arquitectura, no ser solo una promesa. Punto 6 — Registro de cada acción: el sistema debe guardar un log auditable de qué hizo el agente, cuándo, con qué datos de entrada y cuál fue el resultado. Sin trazabilidad no hay forma de investigar errores ni demostrar cumplimiento ante una auditoría. Para saber qué pruebas exigir antes de producción consulta la guía de tareas y validaciones previas al despliegue. Punto 7 — Plan de apagado: debe existir un procedimiento documentado para detener el agente de forma inmediata si se detecta un comportamiento anómalo, sin que eso provoque pérdida de datos ni interrupciones catastróficas en tus operaciones. Pide ver ese procedimiento escrito. Punto 8 — Quién responde si el agente se equivoca: el contrato debe especificar el régimen de responsabilidad ante errores del agente: quién compensa, cómo y hasta qué límite. «El agente es una herramienta y el usuario es responsable del uso» es una cláusula de exoneración, no una solución.
¿Tienes un agente casi listo y nadie te ha dicho qué revisar antes de encenderlo?
Si no estás seguro de qué preguntar a tu proveedor antes del despliegue, puedo ayudarte a preparar esa conversación.
Lo que la normativa europea de IA te va a pedir según el riesgo de tu uso
El problema: El Reglamento Europeo de Inteligencia Artificial clasifica los sistemas de IA por nivel de riesgo y establece obligaciones diferentes para cada categoría. Muchas pymes asumen que sus agentes quedan en la categoría de riesgo mínimo sin haberlo verificado, lo que puede generar problemas en cuanto la normativa sea plenamente aplicable.
La solución: Sin entrar en fechas concretas de aplicación ni cifras de sanción —que conviene verificar con un asesor legal actualizado—, el esquema general es el siguiente: los sistemas de IA de alto riesgo (los que intervienen en decisiones sobre personas en ámbitos como recursos humanos, crédito, educación o servicios esenciales) deben cumplir requisitos estrictos de documentación técnica, supervisión humana, gestión de riesgos y transparencia. Si tu agente ayuda a seleccionar candidatos, a evaluar la solvencia de un cliente o a tomar decisiones que afecten significativamente a personas, es probable que entre en esta categoría. Los sistemas de riesgo limitado —chatbots de atención al cliente, generadores de contenido— tienen obligaciones principalmente de transparencia: el usuario debe saber que interactúa con una IA. Los de riesgo mínimo (filtros de spam, recomendadores de contenido interno) tienen muy pocas restricciones. Lo que debes exigir al proveedor es que haya hecho una clasificación de riesgo del agente que te va a implantar, que esa clasificación esté documentada y justificada, y que el diseño del sistema contemple desde el principio los requisitos que correspondan a esa categoría. Un proveedor que no ha pensado en esto no está preparado para ponerte nada en producción.
Recomendación: Pide al proveedor el documento de evaluación de conformidad o, como mínimo, una nota escrita que justifique por qué el agente se clasifica en la categoría de riesgo que él afirma. Si no existe ese documento, pide que se elabore antes del despliegue.
Las tres preguntas que dejan en evidencia a un proveedor sin experiencia real
El problema: Hay proveedores que han desplegado agentes de IA en entornos de producción reales, con clientes reales, y han gestionado incidentes, auditorías y revisiones de contratos. Y hay proveedores que han hecho demos muy buenas. La diferencia no siempre es evidente en las primeras reuniones de ventas.
La solución: Estas tres preguntas no tienen trampa: o se han vivido o no. Primera pregunta — «¿Puedes mostrarme el procedimiento que seguiste la última vez que un agente tuyo tuvo un comportamiento inesperado en producción?» Un proveedor con experiencia real tiene un postmortem, un registro de incidentes, o al menos un relato coherente de qué pasó y cómo se resolvió. Quien solo ha hecho demos no tiene esa historia. Segunda pregunta — «¿Cómo gestionas la rotación de credenciales y el acceso a los sistemas del cliente cuando termina el contrato?» Esto toca directamente a la seguridad operativa: qué pasa con los tokens de API, los accesos a tus sistemas, las claves almacenadas, cuando dejas de trabajar con ellos. Un proveedor sin procesos formalizados improvisará una respuesta vaga. Uno con experiencia te dará un protocolo de offboarding. Tercera pregunta — «¿Qué ocurre con los datos que el agente ha procesado si quiero cambiar de proveedor?» La portabilidad de datos y el borrado seguro al finalizar la relación son marcadores claros de madurez. Si la respuesta es «eso habría que verlo», el proveedor no ha pensado en la salida porque nunca ha tenido que gestionarla.
Preguntas frecuentes sobre elegir proveedor para poner en produccion agentes de ia
¿Es obligatorio firmar un contrato de encargado del tratamiento con el proveedor del agente de IA?
Si el agente procesa datos personales —lo cual ocurre en prácticamente cualquier caso de uso empresarial— sí es obligatorio conforme al RGPD. No basta con aceptar los términos generales del proveedor: debe existir un acuerdo específico que detalle las instrucciones de tratamiento, las medidas de seguridad y las obligaciones de cada parte. Si el proveedor se niega o dice que sus términos generales son suficientes, consulta con un asesor de protección de datos antes de seguir.
¿Cómo sé si el proveedor del modelo entrena con mis datos?
La respuesta está en sus condiciones de uso y en la política de privacidad aplicable a clientes de empresa o API. Muchos proveedores permiten desactivar el uso de datos para entrenamiento cuando se usa la API directamente o cuando se contrata un plan empresarial específico. Pide confirmación escrita de que esta opción está activada en tu cuenta y que quedará reflejada en el contrato.
¿Qué significa «permisos mínimos» para un agente de IA y cómo lo verifico?
Significa que el agente solo tiene acceso a los sistemas, bases de datos y funciones estrictamente necesarios para las tareas que debe realizar. Para verificarlo, pide al proveedor un listado de todos los accesos que el agente solicita o utiliza, y contrástalo con las tareas que realmente va a ejecutar. Si el agente necesita leer datos de clientes pero tiene también permisos de escritura o borrado, eso es un riesgo innecesario que debe corregirse antes del despliegue.
¿Qué debe incluir un plan de apagado de emergencia para un agente de IA?
Como mínimo: el procedimiento paso a paso para detener el agente de forma inmediata, quién tiene autoridad para activarlo, qué ocurre con las tareas en curso en ese momento, y cómo se recupera el sistema a un estado estable sin pérdida de datos. Debe estar documentado por escrito y probado antes del despliegue, no solo existir como intención.
¿Las obligaciones del Reglamento Europeo de IA afectan ya a las pymes?
El Reglamento se está aplicando de forma progresiva por categorías de riesgo, y algunas obligaciones ya son exigibles mientras otras tienen plazos más amplios. Lo más prudente es que identifiques en qué categoría de riesgo cae tu caso de uso específico y consultes con un asesor legal la situación actual, ya que la normativa sigue desplegándose y las fechas y requisitos concretos conviene verificarlos con fuentes actualizadas.
¿Estás a punto de poner un agente en producción y quieres una segunda opinión?
En una sesión de diagnóstico gratuita revisamos juntos el contrato, la arquitectura de permisos y los puntos de riesgo antes de que el agente toque datos reales. Así sabes exactamente qué exigir y qué negociar.
Rubén Rodríguez · Consultor IT e IA para pymes · Barcelona
