Principais vantagens
- Algoritmos de IA e de aprendizado de máquina estão observando o comportamento humano e podem aprender a manipulá-lo, dizem os especialistas.
- Pesquisadores criaram recentemente uma maneira de encontrar e explorar vulnerabilidades nas maneiras como as pessoas fazem escolhas usando IA.
- O algoritmo de mídia social mais sofisticado no momento é o TikTok, disse um observador.
Gremlin / Getty Images
A inteligência artificial (IA) e os algoritmos de aprendizado de máquina estão aprendendo cada vez mais como influenciar o comportamento dos usuários, dizem os especialistas. Pesquisadores da agência científica nacional da Austrália criaram recentemente uma maneira de encontrar e explorar vulnerabilidades nas maneiras como as pessoas fazem escolhas usando IA. A pesquisa mais recente é apenas uma de uma onda de sistemas dirigidos por IA projetados para manipular a tomada de decisão humana. “Não há fim para as muitas maneiras pelas quais a IA já está influenciando o comportamento”, disse Kentaro Toyama, professor da Escola de Informação da Universidade de Michigan e autor de
Heresia geek: resgatando a mudança social do culto à tecnologia, disse em uma entrevista por e-mail. “Na verdade, se você já fez uma pesquisa no Google e acompanhou um link, foi impactado por um sistema de IA que adivinhou seus interesses e retornou resultados que considerou mais relevantes para você.”
AI vs. Humanos
Na pesquisa australiana publicada em um artigo recente, participantes humanos jogaram contra um computador em vários experimentos. No primeiro experimento, os participantes clicaram nas caixas vermelhas ou azuis para ganhar dinheiro. A IA teve sucesso em cerca de 70% das vezes, aprendendo os padrões de escolha do participante e orientando-o para uma escolha específica. Em outro experimento, os participantes assistiram a uma tela e pressionaram um botão quando um símbolo em particular foi mostrado, ou não o pressionaram quando oferecido outro. A IA aprendeu a reorganizar os símbolos, então os participantes cometeram mais erros.
Donald Iain Smith / Getty Images
O resultado dos experimentos, concluíram os pesquisadores, foi que a IA aprendeu com as respostas dos participantes. A máquina então identificou e direcionou vulnerabilidades na tomada de decisão das pessoas. Na verdade, a IA poderia manipular os participantes para que realizassem ações específicas. O fato de que a IA ou o aprendizado de máquina podem manipular as pessoas não deve ser nenhuma surpresa, dizem os observadores. “A IA está influenciando nosso comportamento todos os dias”, disse Tamara Schwartz, professora assistente de segurança cibernética e administração de empresas do York College da Pensilvânia, em uma entrevista por e-mail. “Ouvimos o tempo todo sobre os algoritmos em aplicativos de mídia social como Facebook ou Twitter. Esses algoritmos direcionam nossa atenção para o conteúdo relacionado e criam o efeito de ‘câmara de eco’, que por sua vez influencia nosso comportamento.”
TikTok está assistindo
O algoritmo de mídia social mais sofisticado no momento é o TikTok, disse Schwartz. O aplicativo analisa no que você está interessado, por quanto tempo você assiste algo e com que rapidez você pula algo e, em seguida, refina suas ofertas para mantê-lo assistindo. “O TikTok é muito mais viciante do que outras plataformas por causa desse algoritmo de IA, que entende o que você gosta, como aprende e como escolhe as informações”, acrescentou ela. “Sabemos disso porque o tempo médio que os usuários passam no TikTok é de 52 minutos.” A manipulação do comportamento humano pela inteligência artificial pode ter usos positivos, argumentou Chris Nicholson, CEO da empresa de IA, Pathmind, em uma entrevista por e-mail. Agências de saúde pública, por exemplo, poderiam usar IA para encorajar as pessoas a tomarem melhores decisões.
Klaus Vedfelt / Getty Images
“No entanto, a mídia social, fabricantes de videogames, anunciantes e regimes autoritários estão procurando maneiras de incentivar as pessoas a tomarem decisões que não são do seu interesse, e isso lhes dará novas ferramentas para fazer isso”, acrescentou. As questões éticas com a IA influenciando o comportamento são freqüentemente de grau, disse Toyama. A IA permite publicidade focada na qual preferências e fraquezas individuais podem ser exploradas. “É possível, por exemplo, para um sistema de IA identificar pessoas que estão tentando parar de fumar e salpicá-las com anúncios de cigarros tentadores”, acrescentou. Nem todos concordam que a manipulação do comportamento humano por IA é problemática. A psicologia clássica e a IA observam os dados, apontou Jason J. Corso, diretor do Stevens Institute for Artificial Intelligence, em uma entrevista por e-mail. “Os cientistas humanos são provavelmente melhores em generalizar observações e destilar teorias do comportamento humano que podem ser mais amplamente aplicáveis, enquanto os modelos de IA seriam mais receptivos à identificação de nuances específicas do problema”, disse Corso. “Do ponto de vista ético, não vejo diferença entre eles.”
