Estudo mostra como é perigosamente simples manipular eleitores (e encontros) com IA
Acha que é um pensador livre? Pense de novo
Uma dupla de pesquisadores, Ujué Agudo e Helena Matute, da Universidad de Deusto, na Espanha, publicou recentemente um estudo
fascinante demonstrando como é fácil influenciar humanos com algoritmos.
Inicial: a conclusão básica do trabalho é que as pessoas tendem a fazer o que o algoritmo diz. Quer estejam sendo influenciados a votar em um candidato específico com base em uma recomendação algorítmica ou sendo direcionados para a data perfeita em um aplicativo, somos perigosamente fáceis de influenciar com psicologia básica e IA rudimentar.
O grande problema: gostamos de pensar que somos agentes da ordem, tomando decisões informadas em um universo um tanto caótico. Mas, como Thomas Maucalay da Neural apontou recentemente em nosso boletim informativo semanal , somos ciborgues não intencionais .
E isso significa que somos suscetíveis às mesmas desvantagens de nossos ancestrais cabeludos, bem como daqueles que tradicionalmente afetaram apenas máquinas. Se você nos picar, sangramos. E se um algoritmo nos diz que algo é verdade, geralmente concordamos.
Um argumento: não somos mais homo-sapiens – que significa “homem sábio” em latim. Somos mais como homomutatas reversos. Isso pode soar como algo a ver com “humanos mutantes”, mas na verdade se refere a um tipo de nuvem.
Homomutatas
são formações semelhantes a nuvens causadas pela interferência humana na atmosfera natural que transcenderam seu estado inicial para se tornarem … algo mais. É necessária uma combinação dos subprodutos da humanidade e da influência da natureza para criar homomutatas.
O que a humanidade se tornou é o oposto. Já fomos o “homem sábio” da natureza, agora somos seres cibernéticos totalmente aumentados que evitamos milhões de anos de evolução natural em troca da capacidade de externalizar nossas funções cognitivas. Em outras palavras: deixamos os computadores fazerem o trabalho para o qual nosso cérebro foi desenvolvido, para que possamos preencher nosso tempo com esforços mais criativos. Por exemplo, discutir sobre política ou decidir se desliza para a direita ou para a esquerda.
A pesquisa: Agudo e Matute, os pesquisadores mencionados, provavelmente não estavam tentando argumentar que a humanidade evoluiu além da ordem natural quando eles conduziram seu estudo. Mas, depois de ler a pesquisa, é difícil chegar a qualquer outra conclusão.
Por estudo:
Em quatro experimentos, descobrimos que a persuasão era possível e que diferentes estilos de persuasão (por exemplo, explícito, encoberto) eram mais eficazes dependendo do contexto de decisão (por exemplo, político e namoro). Concluímos que é importante educar as pessoas contra confiar e seguir cegamente os conselhos dos algoritmos.
Os pesquisadores realizaram quatro experimentos distintos em condições semelhantes. Cada um começou com um falso teste de personalidade. Uma vez que os participantes completaram o teste, eles receberam um perfil de personalidade, o qual foi informado que informaria o algoritmo e ajudaria a determinar os melhores resultados personalizados para eles.
Na realidade, não havia perfis de personalidade individuais. Todos os participantes receberam o mesmo perfil falso, um perfil vagamente redigido que poderia se aplicar a qualquer pessoa.
No primeiro experimento, os pesquisadores usaram manipulação explícita para fazer os participantes votarem em um candidato político específico. As pessoas viram imagens de políticos fictícios e disseram que candidatos específicos combinavam com sua personalidade em uma alta porcentagem e então perguntaram, com base em nada mais do que imagens dos políticos e recomendações algorítmicas, em quem eles provavelmente votariam.
Quando comparados a um grupo de controle de pessoas que veem imagens sem manipulação algorítmica, as pessoas têm muito mais probabilidade de votar no candidato que a IA lhes disse para votar.
O segundo experimento usou manipulação indireta. Em vez de dizer aos participantes que uma IA recomendava políticos, o algoritmo escolheu secretamente quatro políticos e participantes pré-expostos às suas imagens para desenvolver familiaridade.
Curiosamente, as pessoas não pareceram ser influenciadas de nenhuma forma estatisticamente significativa quando o algoritmo tentou usar o que os mágicos chamam de “força”, isto é, para esconder o fato de que estão empurrando uma marca em direção a um resultado específico.
Na política, ao que parece, as pessoas confiam no algoritmo para lhes dizer o que fazer ainda mais quando sabem que estão sendo manipuladas.
Mas os resultados foram uma diferença de 180 graus quando os mesmos conceitos e algoritmos foram aplicados a aplicativos de namoro.
Quando o algoritmo dizia às pessoas que elas combinariam com certos indivíduos, os participantes ainda tinham a mesma probabilidade de dizer que preferiam namorar uma combinação fictícia diferente daquela que a IA tentou forçar.
No entanto, quando a IA ficava nos bastidores e trazia à tona imagens específicas, os usuários eram mais propensos a escolher essas imagens.
Resumindo: somos facilmente manipulados por algoritmos. A questão não é se um mau ator pode nos manipular com IA, mas quais algoritmos funcionam melhor para uma determinada situação.
O que isso significa para a humanidade, no sentido pós-homo-sapiens, ainda está para ser visto. Só vivemos com técnicas modernas de IA há algumas décadas. Os maus atores do mundo têm uma vantagem extrema sobre os pesquisadores, cientistas e políticos de boa fé que desejam estudar e regulamentar a IA.
Como os pesquisadores colocaram:
É importante notar, no entanto, que a velocidade com que os cientistas acadêmicos humanos podem realizar novos experimentos e coletar novos dados é muito lenta, em comparação com a facilidade com que muitas empresas de IA e seus algoritmos já realizam experimentos com milhões de seres humanos diariamente através da Internet.
As empresas de IA podem testar quantas hipóteses quiserem e com amostras tão grandes quanto quiserem, até encontrar os algoritmos mais difundidos. Portanto, sua capacidade de influenciar as decisões de forma explícita e velada é certamente muito maior do que mostrado na presente pesquisa.