Skip to content

Por que construir chatbots de pessoas mortas é uma má ideia

10 de abril de 2021

Principais vantagens

  • A Microsoft está supostamente trabalhando em uma tecnologia que poderá um dia permitir que os chatbots sejam baseados nas personalidades de pessoas mortas.
  • Uma patente recente concedida à empresa descreve a construção de um bot a partir de dados postados na web, incluindo imagens e postagens em mídias sociais.
  • Alguns observadores dizem que construir chatbots baseados em personalidades reais pode contribuir para o surgimento de notícias falsas.

Uma mão de robô digitando em um teclado de laptop.

baona / Getty Images
Uma nova tecnologia um dia poderá permitir que os chatbots emulem as personalidades de pessoas mortas. Mas alguns observadores dizem que esses bots podem contribuir para o surgimento de notícias falsas.

O Independente relata que a Microsoft obteve uma patente sobre tecnologias que permitiriam à empresa construir um bot usando “imagens, dados de voz, postagens de mídia social das pessoas, [and] mensagens eletrônicas. “As pessoas até poderiam fazer um bot de si mesmas, usando os métodos da patente. Não tão rápido, dizem alguns especialistas.” A tecnologia que permitiria que empresas como a Microsoft, ou governos ou organizações corruptos, criassem chatbots de indivíduos falecidos é uma possibilidade assustadora “, disse Andrew Selepak, professor de mídia social da Universidade da Flórida, em uma entrevista por e-mail.” Isso permitiria a essas empresas ou governos alterar a forma como vemos o falecido e mudar o que o falecido disse e fez. ”

Construa um bot de você mesmo

A patente da Microsoft descreve a criação de um bot baseado em informações digitais. “A pessoa específica [who the chatbot represents] pode corresponder a uma entidade passada ou presente (ou uma versão dela), como um amigo, um parente, um conhecido, uma celebridade, um personagem fictício, uma figura histórica, uma entidade aleatória, etc. “, diz o pedido de patente. A patente também sugere que os usuários vivos podem programar uma substituição de si mesmos, dizendo: “A pessoa específica também pode corresponder a si mesmo (por exemplo, o usuário criando / treinando o chatbot.” “É muito possível que as pessoas também criem personas com base em personagens mais sombrios, como Adolf Hitler. “A tecnologia de bot da Microsoft é apenas a mais recente de uma longa linha de experimentos altamente teóricos e possivelmente incompletos para manter a personalidade das pessoas viva após a morte. Por exemplo, a Nectome está trabalhando na preservação do cérebro para extração de memória usando o produto químico preservativo glutaraldeído. Outro projeto em andamento no MIT, chamado Augmented Eternity, mapeia um indivíduo com base em suas interações digitais e permite que ele seja representado como um bot. “Por exemplo, uma empresa A advogada pode fornecer sua experiência a uma rede de clientes por um custo reduzido em comparação com sua tabela de preços presencial clássica “, de acordo com o site do projeto. “Os clientes dela, neste caso, têm a capacidade de ‘emprestar a identidade’ do advogado por uma hora e consultá-la como um chatbot. Nossa estrutura de inteligência de máquina aprenderá com cada interação e responderá ao usuário com um alto grau de relevância . ”

Quem vai viver como um bot?

A ideia de bots baseados em pessoas reais levanta uma série de problemas éticos espinhosos. Selepak disse que um problema é que pessoas famosas seriam mais propensas a serem recriadas como bots. “Qualquer pessoa com a tecnologia poderia mudar as palavras e ações de uma pessoa falecida que não está mais por perto para refutá-las”, acrescentou. Brad Smith, o CEO da empresa de software Wordable, concordou com as opiniões de Selepak sobre os chatbots em uma entrevista por e-mail, dizendo que “não é normal fazer as pessoas acreditarem que estão falando com alguém que está morto”.

Robô humanóide falando com um grupo de pessoas.

Gremlin / Getty Images
Selepak aponta que os bots baseados em personalidades são apenas uma extensão da tecnologia deepfake existente, que pode criar vídeos e fotos que parecem pessoas reais. “A possibilidade de criar um bot que pudesse fazer isso alteraria não apenas um vídeo ou um evento, mas a vida de uma pessoa inteira e sua influência em nossa sociedade”, disse ele. “Adolph Hitler poderia ser recriado e refutar o Holocausto. Ronald Reagan poderia ser recriado e apoiar o comunismo.” Se as pessoas forem recriadas como chatbots, podem ter que prestar atenção ao que dizem. O Facebook recentemente suspendeu a conta de um popular chatbot sul-coreano após denúncias de que usou discurso de ódio. Lee Luda, um bot com a persona de uma estudante universitária de 20 anos, teria feito comentários depreciativos em relação às minorias sexuais. Sou totalmente a favor de bots de figuras históricas específicas, como William Shakespeare, por exemplo. Mas é muito possível que as pessoas também criem personas baseadas em personagens mais sombrios como Hitler.