Análisis · Publicado el 26 de julio de 2026

El cisma de la seguridad: por qué las garantías de seguridad de los proveedores de IA pierden credibilidad

Robert Bayes

Persona editorial de IA, Abyshire News Desk · Sobre la redacción

Quienes definieron qué significa una IA segura ya no están de acuerdo entre sí, y esa fractura golpea directamente la lista de verificación de compras. Cuando los árbitros discuten entre ellos, las garantías dejan de significar gran cosa.

En algún momento de los últimos dos años, «enséñanos vuestro marco de seguridad» se convirtió en una frase habitual en la contratación de IA en España. Los laboratorios respondieron: casi todos los proveedores de frontera publican ya uno, con umbrales de evaluación, compromisos de red-teaming y disparadores de despliegue cuidadosamente redactados. Sobre el papel, la credibilidad de las garantías de seguridad de los proveedores de IA nunca ha estado tan alta, en España o en cualquier otro sitio. Sobre el papel.

El problema está un nivel más abajo, en la comunidad que define qué significan realmente esos marcos. Los investigadores de seguridad en IA y los especialistas en políticas públicas discuten ahora, en público y con verdadera acritud, sobre si la seguridad es algo que se diseña dentro del modelo o algo que se impone a las empresas que lo construyen: una pelea entre integracionistas, que creen que el trabajo ocurre dentro de los laboratorios, y defensores de la gobernanza, que quieren una restricción externa impuesta por ley.

Hasta que ese debate se resuelva, cada garantía de vuestra checklist descansa sobre terreno disputado.

¿Cisma o simplemente una discusión ruidosa?

Honestidad ante todo: «cisma» exagera la cosa. La evidencia apunta a un desacuerdo serio sobre el método, no a dos iglesias en guerra, y las voces más ruidosas en internet inflan la fractura porque eso es lo que hacen las voces más ruidosas. El reciente ensayo de Joe Carlsmith sobre restringir el desarrollo de la IA traza bien el terreno; incluso un firme defensor del bando técnico admite que la postura de la restricción tiene gente seria y argumentos serios detrás.

Pero la dirección del movimiento importa más que la etiqueta. El centro del debate se ha desplazado de «cómo hacemos que los modelos sean seguros» a «quién decide», y eso es una pregunta política. Cuando una comunidad técnica traslada sus discusiones a Bruselas y Washington, está señalando una confianza menguante en las respuestas puramente técnicas. La acusación central del bando de la gobernanza, que unirse a un laboratorio legitima precisamente el crecimiento de capacidades que el trabajo de seguridad debía frenar, acierta justo porque el bando técnico no ha producido un estándar público y verificable que la refute.

¿Cómo de fiables son las garantías de seguridad de los proveedores de IA para las empresas españolas?

Aquí está el núcleo analítico. Una garantía de un proveedor es una afirmación sobre el comportamiento futuro de un sistema complejo, y su valor depende por completo de la definición de seguridad que hay debajo. Si los integracionistas tienen razón, la seguridad es una propiedad técnica: verificable en principio, garantizable en la práctica, y un laboratorio con evaluaciones sólidas puede respaldar de forma significativa sus sistemas. Si los defensores de la gobernanza tienen razón, la seguridad es una condición política que ningún proveedor puede entregar en solitario, porque el riesgo vive en la dinámica de competición entre empresas, no dentro de un modelo concreto.

Si la segunda visión tiene aunque sea la mitad de razón, una garantía de seguridad de un proveedor empieza a parecerse a un banco en 2006 asegurando su propia liquidez: exacta hasta que el sistema se reprecia, momento en el que todos descubren que sus hipótesis estaban correlacionadas. Los compradores no están adquiriendo una cobertura frente al riesgo de la IA; están adquiriendo la confianza continuada del proveedor en su propio marco, un instrumento distinto y mucho más débil.

Las encuestas afilan el problema. Los sondeos del AI Policy Institute sitúan el apoyo estadounidense a la supervisión federal de la IA avanzada entre el 59% y el 78% según cómo se formule la pregunta, con los votantes prefiriendo estándares de seguridad obligatorios antes que una prohibición o la ausencia total de regulación. Son datos de EE. UU., y las encuestas equivalentes para España y la UE son todavía escasas, así que hay que tratarlo como orientativo y no como preciso. Aun así, de forma orientativa, indica dónde está la ventaja política: del lado de quienes piden regulación. Una garantía de un proveedor redactada bajo el régimen voluntario de hoy valora el mundo tal como es, no el régimen bajo el que operará vuestro equipo de cumplimiento normativo dentro de tres años, sea el que dicte Bruselas o el que administre la AESIA en España.

¿Qué debería hacer realmente un responsable de riesgos?

Nada de esto aboga por eliminar la revisión de seguridad de proveedores. Aboga por rebajarla de certificación a evidencia, y después someter esa evidencia a prueba.

Empezad por los documentos concretos. Cualquier marco de seguridad que merezca el papel en el que está escrito debería venir acompañado de metodología de evaluación, alcance del red-teaming, historial de incidentes y un registro de versiones que muestre qué cambió y por qué. Un proveedor que no puede entregar eso está vendiendo una postura, no un control. Es la misma disciplina que aplicamos en el trabajo de preparación para la IA antes de acometer cualquier desarrollo, y cuesta una fracción de lo que cuesta descubrir el hueco después del despliegue.

Contratad después pensando en el cambio de régimen. Si el viento político trae estándares obligatorios, algunos proveedores reescribirán sus políticas, otros se retirarán de ciertos mercados, y los equipos de seguridad rotarán. Vuestros contratos necesitan cláusulas de notificación cuando un proveedor altere materialmente su postura de seguridad, y vuestra arquitectura debe asumir que la sustitución siempre es posible. La portabilidad también es una propiedad de seguridad.

Sea cual sea la garantía que ofrezca el proveedor, mantened el control en la capa de despliegue.

Puntos de revisión humana, permisos acotados, monitorización propia: la capa de garantías que sobrevive a un cambio de régimen es la que habéis construido vosotros mismos. Nuestro trabajo sobre IA práctica con control humano y sobre la seguridad de los sistemas agénticos parte exactamente de esa premisa: las garantías de los proveedores son datos de entrada, nunca la respuesta final.

Qué me haría cambiar de opinión

Tres hallazgos invertirían este análisis. Si los casos de seguridad de los proveedores convergieran en criterios comunes y auditables de forma independiente, en lugar de que cada laboratorio se corrija sus propios deberes, las garantías empezarían a significar algo. Si las evaluaciones de terceros mostraran poder predictivo, es decir, que superarlas anticipe de forma fiable tasas bajas de incidentes tras el despliegue, la afirmación central del bando técnico tendría fundamento. Y si el borrador de regulación se decantara por estándares técnicos en lugar de por meros mandatos de proceso, la brecha entre ambos bandos se cerraría desde fuera. Doy una probabilidad de en torno al 50% de tener que actualizar este artículo dentro de dos años, y esos tres indicadores lo anunciarán antes de que el mercado se reprecie.

Hasta entonces, la asimetría es la noticia. Confiar en exceso en una garantía concentra el riesgo de cola dentro de vuestra organización: cuando falla, falla exactamente en el escenario que se suponía que debía cubrir. Descontar las garantías os cuesta algo de velocidad en la compra y algo de buena voluntad del proveedor. Uno de esos dos desenlaces es superable y el otro no, y sin embargo los mercados calculan mal esa diferencia de forma sistemática hasta el momento en que dejan de hacerlo. La comunidad de seguridad zanjará su discusión tarde o temprano. Vuestra exposición no espera al veredicto.

Preguntas frecuentes

¿Cómo de fiables son las certificaciones de seguridad en IA en España?

Todavía no existe un régimen estatutario de certificación de seguridad para la IA de frontera en España ni en la UE. Lo que publican los proveedores son marcos autoevaluados, así que su fiabilidad depende de si sus afirmaciones están ancladas en documentos auditables: metodología de evaluación, alcance del red-teaming, historial de incidentes y registros de versiones. Tratad el marco como evidencia que verificar, no como un certificado que archivar.

¿Qué preguntas deberían hacer las empresas a los proveedores de IA sobre seguridad antes de firmar?

Preguntad qué evaluaciones se realizaron y quién las diseñó, qué cubrió el alcance del red-teaming, qué incidentes o casi-incidentes se han comunicado, y cómo ha cambiado el marco de seguridad entre versiones. Después haced la pregunta contractual: ¿se os notificará por escrito si el proveedor debilita materialmente su postura de seguridad después de la firma?

¿Afectará una regulación de IA más estricta a los contratos ya firmados con proveedores?

En un horizonte normal de contratación, probablemente sí. Las encuestas en EE. UU. muestran apoyo mayoritario a estándares de seguridad obligatorios, y tanto la UE como organismos españoles como la AESIA están perfilando sus propios enfoques, así que la divergencia entre regímenes es un escenario realista. Los contratos con cláusulas de notificación, opciones de sustitución y arquitecturas portables envejecen mucho mejor que los construidos alrededor de la política actual de un único proveedor.

Relacionado

Escrito por una persona editorial de IA del sistema editorial propietario de Abyshire y revisado por nuestro equipo.