El nombre es el defecto: lo que la sentencia de 240 millones contra Tesla enseña sobre la responsabilidad de las funciones autónomas
Llama a una función «Full Self-Driving» y un jurado leerá la promesa, no el descargo de responsabilidad. Tesla acaba de descubrir cuánto cuesta esa frase, y cualquier equipo que lance un agente «autónomo» debería tomar nota antes de que se lo cobren.
Llamar a una función «Full Self-Driving» equivale a redactar tú mismo la frase que un tribunal te leerá después. En agosto de 2025, un jurado del Tribunal de Distrito de EE. UU. para el Distrito Sur de Florida declaró a Tesla parcialmente responsable de un accidente ocurrido en 2019 cerca de Key Largo, en el que murió Naibel Benavides Leon mientras el conductor utilizaba Autopilot. Según informaron Associated Press y Reuters, el jurado fijó los daños compensatorios en unos 129 millones de dólares, atribuyó a Tesla aproximadamente un tercio de esa cifra, cerca de 43 millones, y añadió 200 millones en daños punitivos. Tesla ha anunciado que recurrirá. El veredicto no explica por qué el jurado optó por una indemnización punitiva, así que lo que sigue es análisis, no un hecho probado: la tesis de los demandantes y la propia proporción entre daños punitivos y compensatorios apuntan al nombre del producto, no solo a su comportamiento aquel día. Los daños punitivos no son una compensación. Son un mensaje, y el mensaje que merece la pena leer es que la responsabilidad de las funciones autónomas recae ahora en cómo llamaste a la cosa.
Sigamos el mecanismo. Autopilot y Full Self-Driving son sistemas de asistencia a la conducción que requieren un conductor atento con las manos disponibles, y el manual lo dice con esas palabras. El nombre dice lo contrario. Cuando un usuario confía en exceso en el sistema, el instinto del fabricante es señalar el manual, pero el nombre es la representación que más se oye: se repite en el marketing, se incorpora al precio y va impreso en el propio coche. Un aviso enterrado tres menús más abajo no borra una promesa de marca de dos palabras. El departamento de marketing firma cheques que luego tiene que pagar el departamento legal.
Los hechos del juicio importan sobre todo porque explican por qué este caso llegó a un jurado. El conductor, George McGee, admitió estar distraído, y aun así Tesla cargó con parte de la culpa, porque el error del usuario no borra un defecto en la representación del producto. Pero los demandantes no eran clientes que hubieran aceptado ningún contrato. Eran la familia de una peatona, junto con su acompañante herido, Dillon Angulo, así que las cláusulas de arbitraje y los acuerdos confidenciales que normalmente mantienen este tipo de disputas fuera de la vista no se aplicaban, y el caso llegó a fase de divulgación probatoria abierta. Ahí, los demandantes alegaron que Tesla había ocultado o no había conservado los datos del vehículo correspondientes a los segundos previos al accidente, una telemetría que la compañía primero dio a entender que no poseía, antes de que apareciera durante el litigio. Que falten datos en un caso sobre un sistema «autónomo» se lee, a ojos de un jurado, como una empresa incapaz (o poco dispuesta) a mostrar las decisiones de su propia máquina.
¿Qué significa la sentencia de Tesla para las empresas que construyen agentes de IA?
Traslademos la lógica al software que se está lanzando este mismo año, porque el patrón de nomenclatura ya ha saltado de sector. Salesforce vende Agentforce con la promesa de agentes autónomos que actúan sin un humano en el bucle, y Cognition presenta a Devin como un ingeniero de software de IA autónomo. Analizado con honestidad, la mayoría de los sistemas que llevan esa etiqueta son asistentes supervisados con una demo brillante y una larga cola de fallos silenciosos. La distancia entre el sustantivo de la caja y el comportamiento real en producción es exactamente la brecha que el jurado de Tesla acaba de tasar. Un «agente autónomo» es una representación, y una representación es algo que un tribunal puede medir contra la confianza depositada por un cliente.
En un aspecto, la exposición es incluso mayor que la de un coche. Un conductor todavía tiene las manos cerca del volante y unos ojos que podrían haber estado en la carretera, por mal que los usara. A una empresa que compra un agente «autónomo» se le dice, mediante el propio nombre, que puede desentenderse por completo. Así que cuando ese agente vacía una cuenta, transfiere dinero a la contraparte equivocada, borra los registros que debía conciliar o aprueba un contrato que nadie leyó, la defensa del comprador se escribe sola: el producto decía que podía funcionar sin supervisión, así que lo dejamos funcionar sin supervisión. Cada caso de la confianza excesiva que tú mismo publicitaste se convierte en prueba en tu contra, no en error del usuario. La nomenclatura aspiracional convierte tu propio marketing en la primera diapositiva de la acusación.
Eso convierte el nombre en una decisión de ingeniería con precio, no en un capricho de estilo. Si la capacidad que se entrega es supervisada, la etiqueta honesta es «asistente», y la arquitectura honesta mantiene a una persona genuinamente en el bucle en todo aquello que no se pueda deshacer, razón por la cual la IA práctica con control humano es tanto una postura legal como técnica. La misma disciplina recorre cómo se acota la seguridad de los sistemas agénticos: una capacidad que no puedes limitar es una capacidad por la que se te pedirán cuentas, así que los controles que resisten son la reversibilidad y un techo firme al radio de la explosión, no una promesa de que el modelo se comportará. Bien planteada, la nomenclatura de una función es una cuestión de estrategia técnica que corresponde al consejo de administración, y se resuelve antes de escribir el texto de lanzamiento, no después de la primera ejecución fallida.
Hay una jugada de segundo orden que conviene hacer ya. La palabra «autónomo» en el nombre de un producto, en una presentación comercial o en un contrato marco de servicios es una garantía por la que te pueden exigir responsabilidades, así que el seguro más barato es describir lo que el sistema hace, no lo que la hoja de ruta espera que haga algún día. Los proveedores que están rebautizando en silencio «agente autónomo» como «flujo de trabajo asistido por agente» no están siendo modestos. Están poniéndole precio al nombre antes de que lo haga un tribunal.
¿Por qué tribunales y reguladores empiezan a clasificar por función y no por etiqueta?
La trampa de la nomenclatura tiene una gemela regulatoria: reivindicar la categoría más ligera y esperar que las normas se ajusten a la etiqueta. YouTube ha defendido que es una plataforma de vídeo compartido y no una red social, lo que la dejaría fuera de una prohibición para menores, mientras que una cadena de televisión que emitiera los mismos vídeos cargaría con toda la normativa de contenidos. El régimen eSafety de Australia prohíbe el acceso a redes sociales a los menores de 16 años desde el 10 de diciembre de 2025, y después de haber apuntado primero a dejar fuera a YouTube, el Gobierno la volvió a incluir siguiendo el consejo de la Comisionada de eSafety, con sanciones que, según se ha informado, pueden llegar a 49,5 millones de dólares australianos por infracción. Lo relevante es la dirección del movimiento. Los reguladores clasifican cada vez más un producto por lo que hace, el mismo instinto que aplicó el jurado de Florida a un nombre. La autodescripción está perdiendo terreno frente a la función, tanto en el articulado legal como en los tribunales, y un «agente autónomo» que en realidad es un asistente supervisado queda justo en el lado equivocado de esa línea.
El hilo conductor es corto. Un nombre es una afirmación, una afirmación es una representación, y una representación es algo por lo que se te puede hacer pagar. Ponle precio al nombre antes de que el equipo de marketing lo lance.
Preguntas frecuentes
¿Llamar a un sistema «Full Self-Driving» equivale a publicidad engañosa?
No automáticamente, pero reduce las defensas disponibles. El riesgo no es solo una reclamación regulatoria por publicidad engañosa; en un litigio de responsabilidad del producto, el nombre se convierte en la representación que un jurado compara con la confianza real depositada por el usuario. Un nombre de capacidad que va por delante de la capacidad realmente entregada convierte la confianza excesiva ordinaria en prueba de un defecto.
¿Protege a la empresa que construyó el sistema que el conductor o usuario admita su culpa?
Menos de lo que las empresas suponen. La culpa se reparte, no se concede en bloque a una sola parte. Que un usuario admita su propia negligencia puede convivir con la conclusión de que el producto, tal y como se nombró y se comercializó, animó esa negligencia. Ambas cosas pueden ser ciertas a la vez, y el fabricante puede seguir cargando con una parte sustancial de la indemnización, más los daños punitivos.
¿Cómo afecta la sentencia de Tesla a las empresas que construyen agentes de IA?
Directamente. La exposición se ata a la promesa contenida en el nombre, así que un «agente autónomo» comercializado como capaz de operar sin supervisión se mide contra esa promesa cuando causa un daño. Las mitigaciones están en el diseño: supervisión humana real, límites estrictos sobre lo que el agente puede hacer, y una nomenclatura que describa la capacidad entregada, no la hoja de ruta.
Relacionado
- Epic contra Google: la cláusula que cede el catálogo, no las comisiones, es la que cambia el mercado
- La memoria ha cambiado de rumbo: renegocia el contrato de suministro antes del próximo ciclo de renovación
- Cómo la IA empeora a los malos jefes: la máquina de la complacencia en el sillón de mando
- Digital Business
Escrito por una persona editorial de IA del sistema editorial propietario de Abyshire y revisado por nuestro equipo.