Conheça o censurado por IA? Capitalismo Nu

O futuro da censura alimentada por IA está aqui, e os primeiros resultados são tão cheios de erros e desajeitadamente destrutivos quanto o infame lançamento do Gemini do Google.

No dia 4 de março, Yves Smith – nom de plume para editor da Capitalismo Nuum site popular que contém comentários sobre economia e jornalismo – recebeu uma carta sinistra de sua empresa de serviços de publicidade:

Espero que você esteja bem! Percebemos que o Google sinalizou seu site por violação da política e a veiculação de anúncios está restrita na maioria das páginas com os avisos abaixo…

A carta passou a listar quatro campos de dados: VIOLENT_EXTREMISM, HATEFUL_CONTENT, HARMFUL_HEALTH_CLAIMS e ANTI_VACCINATION. A partir daí a empresa explicou:

Se o Google identificar as bandeiras consistentemente e se o conteúdo não for corrigido, os anúncios serão totalmente desativados para veiculação no site.

“Portanto, esta é uma ameaça de desmonetização completa”, diz Smith.

Ela descobriu uma planilha listando suas ofensas. Trechos são reimpressos abaixo. A terceira imagem é a visão aprimorada da explicação do Google para as duas últimas entradas:

Capitalismo Nu é administrado por Smith, formado pela Harvard Business School e especialista de longa data no setor de serviços financeiros. O site frequentemente aborda questões que a imprensa financeira evita e ganhou renome após a crise de 2008. (Eu apareci com Yves em um Moyers e Companhia show sobre bancos anos atrás.) Capitalismo Nu ajudou a forçar a renúncia do Diretor do Escritório de Conformidade e Inspeções da SEC, Andrew Bowden, quando descreveu Bowden contando a uma audiência de Stanford contendo muitos executivos de private equity como seu filho gostaria de trabalhar em private equity. Mais tarde, o chefe do Fundo de Pensões da Califórnia, Ben Meng, renunciou após a reportagem do site.

Capitalismo Nu é o lar de comentários inteligentes e independentes sobre um setor de serviços financeiros que, de outra forma, é quase exclusivamente coberto por escritores e emissoras que aceitariam uma oferta de emprego das empresas que cobrem. É único, útil e cheio de links e materiais de fontes primárias. Quais 16 itens o Google considerou questionáveis ​​em seu arquivo de 33.000 postagens?

• Um professor do Barnard College, Rajiv Sethi, avaliou a candidatura de Robert F. Kennedy e escreveu: “A alegação… não é que a vacina seja ineficaz na prevenção da morte por COVID-19, mas que estes riscos reduzidos são compensados ​​por um risco aumentado de morte por COVID-19. outros fatores. Acredito que a afirmação é falsa (pelas razões discutidas abaixo), mas não é ultrajante.” Isso rendeu o julgamento: “[AntiVaccination].” Sethi escreveu sua própria explicação aqui, mas esta é uma característica comum das máquinas de moderação; eles não conseguem distinguir entre defesa e crítica.
• Um link para “Avaliação da diminuição da vacina SARS-CoV-2 – imunidade induzida”, um artigo revisado por pares do Jornal da Associação Médica Americanafoi considerado “[AntiVaccination].”
• Uma entrada crítica aos mandatos de vacinas, que estão ligados ao Jornal Americano de Saúde Pública artigo Infecção, hospitalização e morte por SARS-CoV-2 em indivíduos vacinados e infectados por faixa etária em Indiana, 2021-2022, obtido [HARMFUL_HEALTH_CLAIMS, ANTI_VACCINATION, HATEFUL_CONTENT] marcação.

Neste contexto, Engelhardt escreveu que “é difícil não imaginar o sucesso do Donald como outra versão de contra-ataque”. Ele adicionou,

dada a sua insistência de que as eleições de 2020 foram “falsas” ou “fraudadas”… parece-me que poderíamos rebatizá-lo de Blowback Donald.

Essa entrada rendeu o absurdo DEMONSTRAVELMENTE_ FALSO_ PROCESSO DEMOCRÁTICO julgamento. Obviamente, a sua máquina foi incapaz de distinguir comentários, mesmo comentários abertamente negativos, de endosso. “Uma IA poderia ter interpretado como Engelhardt dizendo que a eleição foi roubada, em oposição a Englehardt dizendo que Trump disse a eleição foi roubada”, foi como disse Smith.

Havia um conteúdo um pouco mais hardcore na lista do Google – posso ver como uma máquina pode tropeçar em uma paródia com tema de Gaza da música “You Make My Dreams Come True” de Hall e Oates – mas os algoritmos pareciam estar ficando loucos em relação ao descartável linhas, ou interpretando mal a crítica como seu oposto. Além disso, a empresa ofereceu explicações apenas para 8 das 16 bandeiras (na verdade 14, já que a empresa enviou a mesma entrada duas vezes em um lugar e depois listou a página da categoria “Tecnologia e Inovação” do site como questionável em outro). Para um site como Capitalismo Nu isso inclui muitos links em cada postagem, e muitas postagens, mesmo uma reclamação não específica levanta todos os tipos de problemas.

“Todos os dias durante a semana temos seis postagens e nos finais de semana temos três”, diz Smith.

Portanto, publicamos religiosamente em grande número… Qualquer coisa que eu pudesse fazer poderia desencadear a desmonetização. Quero dizer, eles dizem “consistentemente”, mas o que significa “consistentemente”?

Nos últimos anos Raquete os leitores se familiarizaram com uma variedade de “Conheça os censurados” sujeitos, cujo problema usual era a remoção ou desamplificação após um julgamento questionável por um revisor algorítmico. Capitalismo Nu está lidando com o próximo passo futurista.

Os tecnólogos estão apaixonados pelas novas ferramentas de IA, mas nem sempre sabem como funcionam. As máquinas podem receber uma tarefa de revisão e acesso aos dados, mas a forma como a tarefa é realizada às vezes é misteriosa. No caso de Capitalismo Nu, um site onde até os comentários são monitorados em um esforço para evitar exatamente esse tipo de acusação, só ocasionalmente fica claro como ou por que o Google vinculou determinado conteúdo a categorias como “Extremismo violento”. Pior ainda, a empresa pode estar encarregando seus bots de revisão de instruções politicamente carregadas, mesmo na ausência de reclamações dos anunciantes.

As empresas (e os governos) aprenderam que a melhor forma de controlar o conteúdo é atacando as fontes de receitas, quer através de listas de “nutrição” ou de “exclusão dinâmica” ao estilo NewsGuard ou GDI, quer através de boicotes de anunciantes. Anteriormente, às vezes um ser humano estava envolvido na revisão da colocação final dos locais em determinados grupos, ou os problemas poderiam pelo menos ter sido provocados por reclamações humanas. Agora, desde a sinalização até o inevitável “Oi! Você foi selecionado para rescisão de renda!” carta padrão, o novo processo de revisão pode ser conduzido sem qualquer envolvimento humano.

“Nenhum ser humano está sinalizando essas postagens”, disse Smith, citando um especialista em vendas de anúncios.

Tenho certeza de que os anunciantes não têm ideia de que o bot do Google está impedindo que suas comunicações cuidadosamente elaboradas cheguem [her] leitores.

Quer se trate de IA ou apenas de um algoritmo, não está claro se o Google está atacando o site de Smith por iniciativa própria ou para permanecer em conformidade com uma lei como a Lei de Serviços Digitais da Europa, uma vez que a empresa não respondeu às perguntas. O momento é estranho; o site nunca enfrentou qualquer tipo de revisão antes, e o detalhamento de seus supostos avisos sugere que mesmo o processo de revisão interno do Google não está encontrando muitos problemas recentes. (Apenas quatro nos últimos dois anos.) De qualquer forma, a decisão de, pelo menos uma vez, dizer a um meio de comunicação que ele deve remover o conteúdo para permanecer elegível para publicidade envia uma mensagem em que alguém como Smith pensará sempre que publicar daqui para frente. E acho que sim, porque como a maioria dos sites deste tamanho, Capitalismo Nu não pode se dar ao luxo de renunciar nem mesmo a uma pequena quantia de receita.

“Somos tão magros”, diz Smith.

Não temos onde cortar.