Algoritmo do X amplifica o que contraria os valores do usuário

Um estudo liderado por pesquisadores de Stanford e publicado na Proceedings of the National Academy of Sciences (PNAS) chega a uma conclusão desconfortável sobre feeds algorítmicos: o conteúdo que aparece na aba “Para você” do X tende a ser desalinhado dos valores que o próprio usuário declara ter. O anúncio foi publicado pelo Stanford HAI em 18 de agosto de 2026.

O achado inverte a promessa comercial desse tipo de recomendação. A premissa vendida é que o sistema encontra exatamente o que a pessoa quer ver. O que os autores mediram é diferente: quanto melhor o algoritmo lê o comportamento do usuário, mais ele se afasta daquilo que essa pessoa afirma valorizar.

O trabalho tem como primeiro autor Ziv Epstein, que fez a pesquisa como pós-doutorando no laboratório de Michael Bernstein, professor de ciência da computação em Stanford e pesquisador sênior do instituto de IA centrada no ser humano da universidade. Epstein hoje é pesquisador de pós-doutorado no Schwarzman College of Computing, do MIT. O estudo recebeu apoio parcial do Stanford HAI.

Como o estudo foi construído

O desenho é direto. Os pesquisadores selecionaram aleatoriamente 715 usuários do X e aplicaram um questionário. As respostas foram posicionadas na Hierarquia de Valores Humanos Básicos de Schwartz, uma escala consolidada na psicologia social que organiza 19 valores — de humildade a hedonismo.

Em seguida, a equipe examinou dois fluxos distintos na conta de cada participante. O primeiro é o feed “Seguindo”, formado por conteúdo das contas que o usuário escolheu acompanhar. O segundo é a página “Para você”, montada algoritmicamente. O conteúdo de cada fluxo foi avaliado contra a mesma escala e comparado ao perfil de valores do participante.

O resultado: publicações desalinhadas dos valores do usuário têm mais chance de serem amplificadas para o “Para você” do que publicações alinhadas.

O repositório público de replicação do estudo detalha a estatística por trás disso. Os autores ajustam modelos lineares generalizados mistos binomiais, com efeito aleatório por usuário, para prever se um item foi amplificado a partir das pontuações de valores de Schwartz. A alinhamento individual é calculado por correlações de Spearman entre o perfil de valores normalizado de cada participante e os vetores de coeficientes de amplificação e de engajamento. Os dados incluem também uma variável de partidarismo.

Por que o engajamento leva o feed para o lado errado

A explicação apontada pelos autores está na métrica que governa o ranqueamento. O sistema mede e pondera fortemente a probabilidade de o usuário interagir com o conteúdo — seguir criadores, tempo de leitura, republicações e, sobretudo, respostas. Esse número vira um substituto para “interesse”, e o interesse presumido realimenta a recomendação.

“O engajamento é fácil de medir, então as plataformas o usam como métrica principal para avaliar o interesse do usuário no conteúdo”, disse Epstein na divulgação do estudo. “Elas estão dizendo, na prática, que engajamento é igual a valores, mas não é tão simples assim.”

O estudo encontra que as pessoas são mais propensas a interagir com conteúdo do qual discordam do que com conteúdo que consideram mais palatável. Como a discordância gera resposta, e a resposta pesa muito no ranqueamento, o feed acaba conduzido para conteúdo que provoca indignação. É eficaz para manter a atenção e ineficaz para amplificar o que a pessoa de fato preza.

Bernstein resume a distorção: “Neste momento, nós interagimos com todo tipo de conteúdo — às vezes porque concordamos com ele, às vezes porque estamos irritados com ele — mas as plataformas interpretam tudo isso como um desejo por mais conteúdo daquele tipo.”

Uma tensão que também é do usuário

Há um ponto no estudo que evita a leitura simplista de culpar apenas a plataforma. Os autores destacam uma tensão dentro do próprio usuário: buscamos conteúdo alinhado aos nossos valores, mas reagimos ao que nos provoca ou ofende. O algoritmo não inventa esse comportamento — ele o mede e o realimenta em escala.

Isso muda a natureza do problema. Não se trata de um erro de implementação a ser corrigido com um ajuste de parâmetro, e sim de uma escolha de objetivo: se a métrica otimizada é a reação, o sistema converge para o que gera reação.

Limitações que valem registro

Algumas ressalvas são importantes para não superinterpretar o resultado.

  • A amostra é de 715 usuários de uma única plataforma. Não há, no material divulgado, evidência de que o mesmo efeito se reproduza em outros sistemas de recomendação com magnitude equivalente.
  • O estudo é observacional e comparativo entre dois feeds da mesma conta, não um experimento controlado sobre o ranqueamento da plataforma. Ele mede desalinhamento e o correlaciona com engajamento; não demonstra a lógica interna do algoritmo, que não é pública.
  • “Valores declarados” não são a mesma coisa que preferências reveladas. Instrumentos de autorrelato têm limites conhecidos.
  • A análise foi conduzida em um contexto majoritariamente norte-americano. A extrapolação para o público brasileiro exige cautela: a distribuição de valores, a composição do ecossistema informacional e os padrões de uso são diferentes.
  • Reportagens sobre o estudo mencionam achados adicionais, como a baixa fração de respostas no total de engajamento observado e diferenças por identificação partidária. O Plugged Ninja não conseguiu acessar o artigo completo no site da PNAS — a página está protegida por verificação automatizada de acesso — e, portanto, não confirma esses números de forma independente.

Que remédios estão sobre a mesa

Epstein afirma que o artigo não é um exercício de apontar culpados, e sim um convite ao debate sobre pesquisa e correções possíveis. A equipe produziu uma extensão para o Google Chrome que reavalia e reordena o feed com base nos valores declarados pelo usuário.

O próprio autor reconhece que isso não é uma solução completa, e pode até produzir feeds que apenas ecoem gostos pessoais — trocando um problema por outro. Entre as alternativas discutidas estão algoritmos pró-sociais, que priorizam conteúdo capaz de atravessar divisões, e ferramentas que devolvam controle real ao usuário sobre a composição do seu feed.

“Nossos feeds não deveriam valorizar o engajamento por confronto acima do conteúdo complementar, nem deveriam nos alimentar de forma bajuladora apenas com conteúdo com o qual concordamos”, conclui Bernstein. “Eles deveriam encontrar um equilíbrio.”

Por que isso importa além da discussão acadêmica

Para quem constrói sistemas de recomendação — e isso inclui times de produto no Brasil que operam feeds, notificações e listas de sugestão —, a contribuição prática do trabalho é metodológica: os autores mostram que é possível medir a distância entre o que as pessoas dizem valorizar e o que o sistema amplifica. Isso transforma uma queixa difusa sobre “algoritmos tóxicos” em uma quantidade auditável.

Há também um ângulo regulatório. Discussões sobre transparência algorítmica costumam esbarrar na dificuldade de definir o que exatamente deveria ser auditado. Um indicador de desalinhamento entre valores declarados e conteúdo amplificado é um candidato concreto — desde que se resolva quem coleta os valores declarados, com qual consentimento e com quais garantias de proteção desses dados. No contexto brasileiro, esse tipo de coleta recairia sob a LGPD, com a ressalva de que perfis de valores pessoais tendem a se aproximar de categorias sensíveis.

O que vale acompanhar a seguir é se plataformas incorporam sinais declarados ao ranqueamento, se a extensão dos pesquisadores gera dados sobre efeitos de longo prazo, e se estudos independentes replicam o achado em outros sistemas e outros países. O código e os dados de replicação estão publicados, o que facilita esse tipo de verificação.

Fontes e referências

Ninja

Na cena de cybersecurity a mais de 25 anos, Ninja trabalha como evangelizador de segurança da informação no Brasil. Preocupado com a conscientização de segurança cibernética, a ideia inicial é conseguir expor um pouco para o publico Brasileiro do que acontece no mundo.

Recent Posts

Google mede contextualidade quântica em até 105 qubits no Willow

Publicado na Science, o experimento ganha o jogo do quadrado mágico em 98,30% das rodadas,…

10 horas ago

BlockJack desvia o cache KV do vLLM entre inquilinos diferentes

Preprint de seis universidades mostra que corromper um único registro da tabela de blocos faz…

10 horas ago

SCKit abusa do ScreenConnect para atacar sessões de técnicos

A Microsoft confirmou a campanha relatada pela ConnectWise e detalhou um kit que inverte o…

10 horas ago

F5 libera hotfixes de emergência para cinco falhas críticas no BIG-IP

Os avisos publicados em 18 de novembro atribuem CVSS 4.0 de 9,3 a cinco estouros…

10 horas ago

Ataque recupera texto exato no aprendizado federado

Preprint do BITS Pilani Goa mostra um cliente comum reconstruindo frases exatas de outros participantes…

1 dia ago

Agile Deliberation: Google treina IA em conceitos subjetivos

Framework do Google Research trata a construção de classificadores subjetivos como conversa iterativa: delimita subconceitos…

1 dia ago