Big Tech está seguindo dicas do manual do Big Tobacco

A inteligência artificial tem muitas vantagens potencialmente enormes, mas também é grande e assustadora porque pode ficar fora de controle e possivelmente acabar com toda a vida humana, de acordo com alguns cientistas. E, naturalmente, as empresas de tecnologia que pretendem ganhar dinheiro com a ameaça estão imitando uma das grandes e assustadoras indústrias originais: a Big Tobacco.

Esse é o objetivo de um estudo recente sinalizado para mim pelo Dr. Max Tegmark após nossa fascinante e aterrorizante Tempo de Alavanca discussão sobre seus terríveis avisos de IA que estão nas manchetes em todo o planeta.

Tegmark compara a situação ao enredo de Não olhe para cima, no qual os especialistas divulgam os benefícios do cometa que se aproxima, em vez de soar o alarme sobre seus perigos. O artigo de 2021 que ele me enviou oferece algumas respostas sobre o motivo: mostra como a Big Tech se infiltrou nas instituições acadêmicas que estudam e muitas vezes promovem a IA – com pouca consideração pelas desvantagens potencialmente catastróficas.

Os pesquisadores da Universidade de Toronto e Harvard que lideraram o estudo oferecem uma conclusão: “Assim como a Big Tobacco alavancou seu financiamento e iniciativas para identificar acadêmicos que seriam receptivos a posições da indústria e que, por sua vez, poderiam ser usados ​​para combater a legislação e combater litígios, a Big Tech alavanca seu poder e estrutura da mesma maneira.”

A prova deles está nos dados. Entre as faculdades de pesquisa permanente nas universidades que estudaram, “58 por cento do corpo docente de ética em IA está procurando dinheiro na Big Tech” e ao “expandir os critérios de financiamento para incluir financiamento de pós-graduação, bem como experiência de trabalho anterior, observamos que 97% do corpo docente com fontes de financiamento conhecidas (65% no total) receberam compensação financeira da Big Tech.”

Os pesquisadores explicam o que isso significa:

A Big Tech é capaz de influenciar o que [faculty] trabalho em. Isso ocorre porque, para obter financiamento de pesquisa, o corpo docente será pressionado a modificar seu trabalho para ser mais receptivo aos pontos de vista da Big Tech. Essa influência pode ocorrer mesmo sem a intenção explícita de manipulação, se os candidatos a prêmios e os que decidem quem merece financiamento não compartilham as mesmas visões subjacentes sobre o que é ética ou como ela “deve ser resolvida”.

Se você quiser alguma prova recente dessa influência, dê uma olhada neste relatório da Reuters mostrando que o Google “agiu para aumentar o controle sobre os artigos de seus cientistas lançando uma revisão de ‘temas delicados’ e, em pelo menos três casos, os autores solicitados se abstêm de lançar sua tecnologia sob uma luz negativa”.

Notavelmente, parte do financiamento da pesquisa de IA da Big Tech vai especificamente para especialistas em ética de IA frequentemente citados na mídia. Os executivos dessas empresas entendem o poder político desses especialistas e de suas pesquisas. Citando um assessor do Senado dos EUA, a jornalista Rana Foroohar relata isso em Não seja mau:

“Trata-se de uma captura social e intelectual, que na verdade é muito mais eficaz tanto a curto quanto a longo prazo. O Google apóia pesquisadores que trabalham em áreas que são complementares aos interesses comerciais do Google e/ou adversas aos interesses comerciais de seus concorrentes; coisas como leis de direitos autorais relaxadas, reforma de patentes, neutralidade da rede, economia laissez-faire, privacidade, robôs, IA, propriedade da mídia. . . . Eles fazem isso por meio de doações diretas aos pesquisadores, financiamento de seus centros e laboratórios, conferências, contribuições para grupos da sociedade civil e envio deles para eventos do Google.”

Dessa forma, a empresa não apenas constrói boa vontade, mas também “forma com sucesso porta-estandartes acadêmicos, acadêmicos proeminentes que conduzirão colegas mais jovens em uma direção mais favorável à empresa”, diz o assessor.

No momento, tudo isso está acontecendo com mais destaque na UE, onde os lobistas de tecnologia estão tentando atenuar os regulamentos de IA em meio a advertências de que a tecnologia pode representar uma ameaça existencial para toda a vida no planeta. Aqui nos Estados Unidos, político tem divulgado uma “corrida do ouro” de lobby de IA em Washington, já que as empresas e a máquina de influência da K Street têm cifrões em seus olhos.

Esses Peter Isherwells do mundo real não querem que os legisladores saibam – ou legislam contra – os perigos potenciais, porque isso pode atrapalhar o que um novo memorando do Morgan Stanley observou: “A computação cognitiva cria oportunidades de investimento em potencial, à medida que as empresas desenvolvem o tecnologia e usá-la para transformar seus negócios.”

Enquanto procuram proteger esse potencial de investimento, os executivos de tecnologia e seus lobistas, sem dúvida, usarão trabalhos de pesquisa acadêmica de especialistas vinculados a empresas para defender seus argumentos – e, em muitos casos, os formuladores de políticas podem nem saber desses links.

Esse era o truque da Big Tobacco algumas décadas atrás – e agora é a estratégia da Big Tech hoje.