Pode manipular-se as respostas dos chatbots de IA? Convém tratá-las como SEO, não como oráculos
As empresas estão a integrar as respostas dos chatbots diretamente em decisões de compras e de estratégia, como se fossem um oráculo neutro. Está a formar-se um mercado de manipulação para as contaminar, por isso o pressuposto seguro é que o canal é manipulável.
As empresas começaram a tratar as respostas dos chatbots como um oráculo neutro. Perguntam qual o fornecedor a pré-selecionar, que mercado atacar, que fornecedor parece credível, e depois colam a resposta numa apresentação ao conselho de administração. Por isso, eis a pergunta que as equipas de compras e de estratégia deviam fazer antes de o voltarem a fazer: é possível manipular as respostas dos chatbots de IA? A resposta é sim, e já se está a formar uma pequena indústria dedicada precisamente a isso.
Convém seguir o mecanismo, porque rima com outro que já se viveu. Os motores de busca começaram como índices neutros da web. No momento em que a sua ordenação passou a decidir quem ganhava clientes, formou-se todo um negócio de otimização para os manipular, e os resultados de pesquisa tornaram-se um espaço disputado, que era preciso ler com desconfiança. As respostas dos chatbots estão agora no mesmo ponto da curva. Influenciam decisões de compra, logo serão otimizadas contra quem as lê. Chamar-lhes «IA» não as isenta dessa gravidade. Apenas atrasa o momento em que as pessoas dão por isso.
É possível manipular as respostas dos chatbots de IA na prática, ou isto é apenas teórico?
Não é teórico. A revista The Atlantic documentou um negócio emergente de otimização de respostas de IA, incluindo profissionais de marketing que plantam menções favoráveis a marcas através de contas no Reddit, para explorar modelos que confiam fortemente nessa plataforma como fonte credível, e um cliente cujas aparições nas respostas do ChatGPT terão triplicado. Convém ler a ressalva com atenção, porque pesa mais do que o título: esse resultado foi observacional e não foi replicado de forma independente. Por isso a posição honesta não é «isto resulta, sem dúvida». É mais restrita e mais incómoda: há gente a gastar dinheiro para tentar, algumas das superfícies visadas são reais e, se resultar ainda que em parte, a ferramenta de pesquisa com IA que a empresa usa tornou-se silenciosamente um canal adversarial sem avisar ninguém.
A infraestrutura está a mover-se mais depressa do que a prova. A revista Time converteu as suas páginas em versões simplificadas, legíveis por máquina, e começou a vender «anúncios para agentes» dirigidos aos modelos que as leem. Um editor está a construir um produto cujo cliente não é uma pessoa, mas uma máquina leitora, e cuja carga é marketing. Quando o leitor é uma máquina que resume sem espírito crítico, «conteúdo pensado para bots» e «conteúdo pensado para manipular bots» são o mesmo documento com uma fatura diferente agrafada.
Quanto custa, na prática, uma resposta manipulada?
Nada disto fica no plano abstrato no momento em que uma decisão é tomada. Em 2024, um tribunal canadiano obrigou a Air Canada a honrar um desconto por luto que o seu próprio assistente de apoio ao cliente tinha inventado, rejeitando o argumento da companhia aérea de que não podia ser responsabilizada pelo que o seu bot dissera a um cliente (a decisão está disponível publicamente). Vale a pena ler para lá do enquadramento de apoio ao cliente, porque o princípio é de compras: a partir do momento em que se integra a resposta de um modelo numa decisão, essa resposta passa a ser da empresa, inclusive as partes inventadas. Um bot que respondia perante a Air Canada fabricou uma política que custou dinheiro real à companhia. Uma ferramenta de pesquisa otimizada por quem não responde perante a empresa pode, da mesma forma, fabricar uma lista de pré-selecionados, e a responsabilidade por agir sobre ela recai da mesma maneira.
O fornecimento de dados que sustenta estas ferramentas é um segundo risco, mais discreto, e que corre em sentido contrário ao da manipulação deliberada. À medida que a proporção de texto sintético na internet aumenta, os modelos treinam cada vez mais sobre o resultado de modelos anteriores, e o argumento de que isto degrada a qualidade ao longo do tempo já está a moldar comportamentos. A TechRadar, citando a 404 Media, noticiou que livros impressos anteriores a 2022 estão a ser procurados como material de treino «limpo», precisamente por serem anteriores à difusão massiva de texto gerado por chatbots, com a digitalização em massa a destruir, por vezes, os exemplares físicos. Quando empresas cortam as lombadas de livros raros para chegar a prosa escrita por seres humanos, estão a dizer o que pensam valer a sua própria cadeia de fornecimento. Dados limpos e comprovadamente humanos estão a tornar-se um recurso escasso, e a escassez num recurso que não se consegue verificar é um risco de fornecedor que cresce na proporção do que se aceita do produto por fé, sem confirmar.
O que significa isto para quem encaminha decisões através de um chatbot
O erro prático é um erro de categoria. As equipas importam respostas de chatbots como se fossem uma pesquisa já lida e resumida, quando o modelo mental correto é o de uma fonte não verificada, já otimizada por partes que não se conseguem ver. Isto não é motivo para abandonar as ferramentas. É motivo para as instrumentar. Toda a resposta que vá informar uma decisão precisa de proveniência: de onde veio esta afirmação, a fonte é independente daquilo que apoia, e resiste a um segundo olhar? É a disciplina habitual para sistemas agénticos aplicada à investigação em vez de à ação, e é a diferença entre um assistente útil e um serviço de branqueamento de qualquer marketing que tenha chegado primeiro ao modelo.
As consequências de segunda ordem seguem-se depressa. Assim que a otimização de respostas se tornar uma rubrica orçamental real, o ataque mais barato não é contra a empresa, mas contra as fontes em que um modelo confia, o que significa que um concorrente pode moldar a «investigação independente» dos compradores da empresa sem alguma vez tocar nos seus sistemas. Ainda não há uma norma de garantia estabelecida que avalie isto, por isso o controlo tem de ser processual, e suficientemente concreto para se aplicar já esta semana.
Comece por banir por completo a introdução de chatbots em três classes de decisão: tudo o que tenha exposição jurídica ou regulatória (termos contratuais, situação de conformidade com o RGPD, afirmações sobre licenciamento), a seleção final de fornecedores onde o dinheiro efetivamente muda de mãos, e qualquer afirmação sobre as finanças, a segurança ou a conduta de um concorrente ou contraparte identificados. Dentro destas classes, a resposta de um modelo é uma pista a confirmar, nunca um dado sobre o qual decidir.
Para tudo o resto que passe este filtro, aplique um teste de independência de fontes em três perguntas. Tome um caso real: o assistente recomenda o Fornecedor A para uma plataforma de dados. Primeiro, peça à ferramenta as suas fontes e abra-as mesmo, porque uma ligação que não carrega já é a resposta. Segundo, teste cada fonte quanto à independência face ao Fornecedor A: um tópico no Reddit, uma lista «as melhores plataformas de dados de 2026» e o blogue do próprio fornecedor falham todos; um relatório de analista pago ou um cliente de referência identificável, a quem se pode telefonar, esses passam. Terceiro, verifique a única afirmação que sustenta a decisão (por exemplo, «certificado SOC 2 Tipo II» ou «utilizado por três dos quatro maiores bancos») junto de algo externo ao modelo. Uma recomendação que não resista às três perguntas volta à pilha como marketing, não como investigação. Prefira uma IA que se possa supervisionar a uma IA em que é preciso confiar cegamente, e escreva estas verificações na estratégia técnica da empresa antes de o mercado de manipulação amadurecer, e não depois de a ter envergonhado.
Por fim, convém aprender a reconhecer uma resposta contaminada olhando para uma. Quando os AI Overviews da Google aconselharam os utilizadores a juntar cola ao molho da piza para o queijo não escorregar, a recomendação remontava a um comentário de humor publicado no Reddit anos antes, que surgiu porque o sistema tratava aquela plataforma como fonte de confiança (a Google abordou o episódio publicamente). Ninguém precisou de atacar a Google: o próprio modelo branqueou uma má fonte, transformando-a em prosa confiante e plausível. Troque a piada da piza por uma frase plantada sobre o tempo de atividade de um fornecedor ou o historial de segurança de um concorrente, e tem-se exatamente a mesma forma de ataque, sem o pormenor que tornou este caso engraçado.
A pesquisa já ensinou esta lição a toda a indústria, e a um custo considerável. O canal que decide quem consegue o negócio acaba sempre por ser manipulado. Os chatbots são hoje esse canal, por isso convém lê-los como se aprendeu a ler a primeira página do Google: com utilidade, e nunca por fé.
Perguntas frequentes
O que é a otimização para motores de resposta?
É a prática emergente de moldar o que os chatbots de IA dizem sobre uma marca, semeando menções favoráveis nas fontes em que os modelos confiam, como tópicos no Reddit e páginas concebidas para leitura automática, para que o modelo as repita. A revista The Atlantic documentou tentativas de profissionais de marketing nesse sentido, ainda que os resultados relatados sejam observacionais e não tenham sido replicados de forma independente.
Como se pode saber se uma resposta de IA foi influenciada por marketing?
Muitas vezes não é possível saber apenas pela resposta, e esse é precisamente o problema. A defesa que resulta é um teste em três perguntas: pedir à ferramenta as suas fontes e abri-las, avaliar se cada fonte é realmente independente da parte elogiada (o blogue de um fornecedor ou um tópico no Reddit não contam) e verificar a única afirmação que sustenta a decisão junto de algo externo ao modelo. Deve tratar-se qualquer resposta que vá orientar uma decisão como uma fonte não verificada, nunca como um facto assente.
Que decisões nunca deveriam depender de uma resposta de um chatbot de IA?
Convém manter os chatbots completamente fora de três categorias: tudo o que tenha exposição jurídica ou regulatória, a seleção final de fornecedores onde o dinheiro muda efetivamente de mãos, e qualquer afirmação sobre as finanças, a segurança ou a conduta de um concorrente identificado. Nesses casos, a resposta de um modelo deve ser tratada como uma pista não verificada a confirmar junto de fontes independentes, nunca como um dado sobre o qual agir. Em 2024, um tribunal canadiano tornou os riscos concretos ao responsabilizar a Air Canada por uma política que o seu próprio chatbot tinha inventado.
Relacionado
- O Prêmio da Soberania: por que a IA soberana corporativa está vencendo pelo acesso, não pela velocidade
- Washington Classificou o Seu Próprio Laboratório de IA Como Risco de Segurança Nacional. Isto Muda o Sentido da Dependência de um Fornecedor de IA
- Porque falham os pilotos de IA nas empresas: o problema é a confiança, não a capacidade
- Security & Trust
Escrito por uma persona editorial de IA do sistema editorial proprietário da Abyshire e revisto pela nossa equipa.