EN FR ES PT DE AR 中文

O Verdadeiro Contrato de IA é a Política de Utilização que Ninguém Lê

As compras avaliam um modelo de fronteira pela capacidade e pelo preço. O limite que realmente vincula é um documento de política que o fornecedor escreve sozinho e pode fazer cumprir depois de assinado.

Eis a parte de um contrato de IA que ninguém lê em voz alta. A capacidade é demonstrada, o preço é negociado, o questionário de segurança é preenchido. Depois alguém cola um URL no acordo principal, e esse URL aponta para uma política que o fornecedor escreveu sozinho e pode rever segundo o seu próprio calendário. A empresa não negociou aquilo; herdou-o, e isso pode condicionar uma implementação já em produção muito depois de a assinatura estar seca.

Por isso, leia o contrato como um adversário o leria: cláusula a cláusula, perguntando o que cada uma permite ao fornecedor fazer-lhe no seu pior dia. A capacidade e o preço são escrutinados de qualquer forma. Quatro cláusulas raramente são, e entre elas decidem o grau de exposição da empresa. O que as políticas do fornecedor proíbem. Quando o fornecedor pode cortar o acesso. Onde o modelo corre fisicamente. Se a linguagem de governação da empresa significa alguma coisa perante uma auditoria. Este artigo percorre cada uma, e termina com as perguntas a colocar do outro lado da mesa e as respostas que deveriam travar o negócio.

O que está a empresa realmente a aceitar ao licenciar um modelo de fronteira?

Um contrato empresarial de um laboratório de fronteira faz mais do que licenciar um modelo. Traz as próprias políticas do fornecedor para dentro do acordo por referência, e reserva um direito de suspensão. Os termos comerciais da OpenAI incluem uma cláusula de suspensão expressa: a OpenAI pode suspender o acesso sempre que considere razoavelmente existir um risco de segurança, uma exigência legal ou regulatória, ou uma violação das suas políticas. Essas políticas, incluindo a política de utilização, são incorporadas pelo mesmo contrato, pelo que um documento que o fornecedor pode editar unilateralmente passa a ser uma cláusula viva do acordo da empresa. Pela nossa leitura do mercado, este padrão é a norma, não a exceção. A política de utilização aceitável não é letra miúda. Codifica o apetite de risco do fornecedor, não o da empresa, e determina o que a implementação está autorizada a fazer.

Quão unilateral isto é na prática depende do que se negoceia. Compradores com poder negocial conseguem por vezes obter períodos de pré-aviso para alterações, cláusulas de manutenção de utilizações já em curso, ou um direito de saída em caso de alteração materialmente desfavorável da política. A maioria não pede nada disto, aceita a política ligada tal como está escrita, e só encontra os seus limites quando um piloto de chatbot se transforma num agente que toca sistemas de produção. É nesse momento que um caso de uso começa a roçar uma linha vermelha, e quem avaliou apenas capacidade e preço descobre que a cláusula vinculativa era uma página de política que nunca tinha sido escrutinada.

O que acontece quando um fornecedor e um governo discordam sobre o seu modelo?

Isto deixou de ser abstrato assim que os modelos de fronteira entraram em contratos de defesa e de administração pública. Os laboratórios publicam políticas de utilização que excluem unilateralmente certas categorias de uso. A política de utilização da Anthropic restringe categorias como vigilância e partes do espaço das forças de segurança, e defender essas linhas perante um cliente poderoso é exatamente o ponto em que as regras do fornecedor e as exigências de um governo podem puxar em direções opostas. Uma empresa comercial que partilhe esse fornecedor não tem assento nessa discussão, mas herda o resultado. Se a política aperta, os usos permitidos apertam com ela. Se o fornecedor cede à pressão, o modelo de que a empresa depende pode mudar de carácter com pouco aviso. Esse, argumentamos, é o verdadeiro risco de contraparte num contrato de modelo de fronteira, e está completamente fora do preço.

Para uma empresa portuguesa, a pressão chega de mais do que uma direção. O AI Act aplica-se diretamente: o artigo 2.º estende as obrigações do regulamento a fornecedores e utilizadores estabelecidos fora da União sempre que o resultado produzido pelo sistema de IA seja utilizado dentro dela, e para uma empresa sedeada em Lisboa ou no Porto que dependa de um fornecedor norte-americano isso significa herdar o âmbito do Ato mesmo quando o fornecedor nunca assinou nada com um regulador europeu. Vale também a pena olhar para a orientação do NCSC britânico sobre segurança da cadeia de fornecimento, que trata uma dependência crítica de software como algo que se gere, com responsáveis nomeados e planos de saída, não como algo que se presume seguro. Um modelo de fronteira sem o qual o produto da empresa não funciona é exatamente esse tipo de dependência, e a mesma lógica vale para uma equipa a operar sob RGPD e sujeita ao escrutínio da CNPD. Do lado da contratação pública, as diretrizes de contratação de IA do governo britânico já pressionam os compradores a planear todo o ciclo de vida do fornecedor, e lemos nessa direção uma tendência que a Comissão Europeia, e por extensão os organismos públicos portugueses, também estão a seguir: uma expectativa crescente de demonstrar como a empresa sobreviveria a perder o fornecedor.

O modelo deve correr dentro do perímetro de confiança da empresa?

A pergunta que um bom processo faz primeiro, e normalmente faz por último, é onde o modelo corre de facto. Pode estar dentro do próprio perímetro de confiança da empresa, com pesos abertos, on-premises, isolado da rede se a carga de trabalho o exigir, ou existe apenas como um pedido para a nuvem de outra empresa? Um modelo alojado internamente está isolado de um fornecedor mudar de ideias, e de alguém pressionar esse fornecedor para o fazer por si. Um modelo alugado está exposto a ambos.

Alojar internamente é isolamento, não imunidade, e vale a pena dizer os limites com clareza. Os modelos de pesos abertos continuam a chegar sob licenças que podem restringir a utilização comercial ou de alto risco, por isso descarregar os pesos não liberta ninguém dos termos. Os modelos abertos mais fortes tendem a ficar atrás dos modelos fechados de topo, pelo que a resiliência pode custar capacidade. E a empresa passa a carregar o encargo de segurança, atualização e avaliação que antes era do fornecedor. A troca é real, mas para uma carga de trabalho regulada, classificada ou sensível do ponto de vista da soberania, costuma favorecer o controlo, e é essa a disciplina que defendemos ao desenhar sistemas agénticos seguros, onde a pergunta nunca é apenas o que o modelo consegue fazer, mas quem mantém o controlo quando os incentivos mudam.

O que compromete realmente a «supervisão humana» do fornecedor?

Há uma falha mais subtil, e esconde-se precisamente nas garantias com que os compradores ficam mais tranquilos. «Supervisão humana.» «Humano no circuito.» Estas expressões passam em qualquer revisão porque toda a gente acena com a cabeça a imaginar coisas diferentes. Um comprador lê «humano no circuito» como uma pessoa a aprovar cada ação com consequências. Outro lê-o como um painel que alguém consulta uma vez por semana. As mesmas palavras, margens de manobra opostas, e o fosso só aparece durante um incidente, o pior momento possível para descobrir o que a expressão realmente comprava.

Resolva cada expressão até se tornar algo que a empresa pudesse falhar numa auditoria. O Quadro de Gestão de Risco de IA do NIST é direto quanto ao método: definir e diferenciar papéis humanos e de IA, documentar o processo de supervisão, identificar controlos de terceiros, e usar métodos de teste e validação objetivos e repetíveis. Transforme cada garantia genérica num controlo específico e testável antes de assinar. Se «supervisão» não puder ser escrita como uma verificação que a empresa poderia falhar, é decoração. Defendemos o mesmo ponto na nossa análise sobre IA prática com controlo humano, onde é o mecanismo que sustenta o argumento, não o vocabulário.

Que perguntas travam realmente um mau negócio de IA?

A due diligence só vale o que valerem as perguntas perante as quais a empresa está disposta a desistir do negócio. Coloque estas ao fornecedor, por esta ordem, e trate a resposta em itálico como aquela que deveria terminar a conversa, ou pelo menos levá-la aos advogados antes de qualquer assinatura. Cada uma corresponde a uma cláusula que já existe no contrato.

  1. Quais das suas políticas fazem parte deste contrato, e pode alterá-las sem o meu consentimento? Está a testar a cláusula de incorporação por referência. Afaste-se se a resposta for: todas elas, alteráveis ao nosso exclusivo critério, com efeito a partir do momento em que as publicarmos.
  2. Em que condições pode suspender ou limitar uma implementação em produção, com que pré-aviso e que período de correção? Esta é a cláusula de suspensão em termos simples. Afaste-se se a resposta for: imediatamente, ao nosso critério, sem aviso, sem hipótese de correção.
  3. Se alterar a política de utilização de forma a inviabilizar o meu caso de uso, tenho direito a aviso prévio e a uma saída com os meus dados? Está a avaliar os direitos de alteração de termos e de saída. Afaste-se se a resposta for: não há saída por alteração materialmente desfavorável, e a rescisão por conveniência é nossa, não sua.
  4. Isto pode correr dentro do meu perímetro de confiança, numa nuvem privada, on-premises ou isolado da rede, ou só na vossa nuvem? Isto decide a exposição da empresa a todas as respostas anteriores. Afaste-se se a resposta for: só API na nossa região, sem opção de isolamento, quando a carga de trabalho é regulada, classificada ou sensível do ponto de vista da soberania.
  5. Onde são processados os meus dados, por que subcontratantes, e sob que compulsão legal poderiam ser divulgados? Está a mapear a jurisdição e a cadeia de subcontratantes. Afaste-se se a resposta for: não identificamos subcontratantes nem nos comprometemos com uma região de processamento.
  6. Escreva «supervisão humana» como um controlo que eu pudesse falhar numa auditoria. Aprovação ação a ação lê-se de forma muito diferente de um painel semanal. Afaste-se se a resposta for: é o que decidirmos implementar, e não nos comprometemos com nada.
  7. Com que pré-aviso descontinua ou altera materialmente a versão do modelo que validei? A rotatividade de modelos pode invalidar os testes da empresa da noite para o dia. Afaste-se se a resposta for: descontinuamos segundo o nosso calendário e a validação seguinte é a expensas suas.

Nada disto é exótico. É o próprio contrato da empresa, lido em voz alta a pensar no pior dia do fornecedor.

O contrato real vive em quatro sítios que a página da assinatura mal menciona: as políticas para onde remete, o momento em que o acesso pode ser cortado, a nuvem onde o modelo corre, e as palavras de governação que ninguém transformou num teste. Faça essa due diligence, por esta ordem, e estará a comprar uma relação com um fornecedor que pode responsabilizar. Salte-a e estará a comprar uma dependência da qual não conseguirá sair sob pressão. Se quiser esta disciplina incorporada no processo de compra em vez de acrescentada depois, a nossa prática de estratégia técnica começa exatamente aí.

Perguntas frequentes

O que deve cobrir uma checklist de due diligence a fornecedores de IA, além da capacidade e do preço?

Além da capacidade e do preço, deve cobrir a política de utilização aceitável e os direitos do fornecedor de a alterar ou suspender o acesso, a topologia de implementação (se o modelo pode correr dentro do próprio perímetro de confiança da empresa), e o significado preciso e auditável de termos de governação como «supervisão humana», resolvidos antes de assinar e não durante um incidente.

Um fornecedor de IA pode cortar o acesso a um modelo que a empresa já paga?

Em regra, sim. Os acordos empresariais que incorporam as políticas do fornecedor reservam tipicamente um direito de suspender ou limitar o acesso em caso de violação da política, exigência legal ou emergência de segurança, como acontece nos termos comerciais da OpenAI. Por vezes é possível negociar pré-avisos de alteração ou termos de saída, e uma opção de alojamento interno ou de pesos abertos é o principal isolamento estrutural, embora traga as suas próprias restrições de licença e encargos operacionais.

Porque é que «humano no circuito» gera disputas em contratos de IA?

Porque não está definido. Duas partes podem ler a mesma expressão como aprovação ação a ação ou como monitorização ocasional, pelo que a garantia só se resolve durante uma falha. Convertê-la em controlos documentados e auditáveis antes de assinar, na linha do que propõe o Quadro de Gestão de Risco de IA do NIST, faz a ambiguidade desaparecer.

Relacionado

Escrito por uma persona editorial de IA do sistema editorial proprietário da Abyshire e revisto pela nossa equipa.