Por que o uso do Instagram pelo Facebook para treinar IA aumenta a privacidade

Principais vantagens

• Especialistas em privacidade estão levantando preocupações sobre o uso de fotos públicas do Instagram pelo Facebook para treinar a inteligência artificial.
• O programa foi ensinado a reconhecer imagens mostrando ao computador mais de 1 bilhão de fotos públicas.
• A política de privacidade do Instagram inclui uma seção que permite aos usuários saber que as informações podem ser usadas em pesquisa e desenvolvimento.

O uso de fotos do Instagram pelo Facebook para treinar a inteligência artificial está aumentando as preocupações com a privacidade. A gigante da mídia social anunciou recentemente que desenvolveu um software que pode aprender com o que está olhando. O programa foi ensinado a reconhecer imagens revisando mais de 1 bilhão de fotos públicas. Especialistas dizem que os usuários devem estar cientes de que o Facebook está usando suas fotos. “É tudo uma questão de saber o consentimento”, disse James E. Lee, diretor de operações do Identity Theft Resource Center, em uma entrevista por e-mail. “A política de privacidade do Instagram – que a maioria das pessoas provavelmente não lê – afirma muito claramente que a empresa se reserva o direito de usar as fotos que você postar para pesquisa. Os usuários podem ativar / desativar o reconhecimento facial em suas configurações de privacidade.”

Melhor que o resto

O programa do Facebook, apelidado de SEER para SElf-supERvised, superou outros modelos de inteligência artificial (IA) em um teste de reconhecimento de objetos, afirmou a empresa. O programa atingiu uma “pontuação de precisão de classificação” de 84,2% quando foi submetido a um teste que verifica se um programa de IA consegue identificar o que está em uma imagem. “O desempenho da SEER demonstra que o aprendizado autossupervisionado pode se destacar em tarefas de visão computacional em ambientes do mundo real”, disse a empresa em um blog. “Este é um avanço que abre caminho para modelos de visão computacional mais flexíveis, precisos e adaptáveis ​​no futuro.” “Embora os termos e condições do Facebook possam permitir que eles aproveitem os dados do usuário de tal forma, a maioria dos usuários não está explícita e ativamente ciente de que seus dados estão sendo explorados para tais fins.” Se for lançado comercialmente, o SEER ajudará a identificar objetos – não pessoas – sem ser programado para saber por meio de um rótulo o que está em uma foto, Lee disse. “Essa é uma maneira mais eficiente e rápida do que o método atual, que requer enormes conjuntos de dados para combinar um objeto com sua identidade”, acrescentou. “Sempre existe o potencial para uso indevido, mas também existem benefícios potenciais legítimos desse tipo de tecnologia.” O programa do Facebook pode ajudar a empresa a melhorar o conteúdo policial que viola suas políticas, por exemplo, limitando a exposição indesejada a imagens obscenas ou gráficas, disse Aimee O’Driscoll, pesquisadora de segurança do site de privacidade Comparitech, em uma entrevista por e-mail. Ele também pode ser usado para descrever imagens automaticamente, melhorando a experiência do usuário para pessoas com deficiência visual.

Você já concordou com este programa

A política de privacidade do Instagram inclui uma seção que permite aos usuários saber que as informações podem ser usadas em pesquisa e desenvolvimento. “A empresa está utilizando seu tesouro de dados para outra parte de seus negócios, da mesma forma que usa os dados do usuário para alimentar seu negócio de publicidade”, disse O’Driscoll. “Mesmo assim, os usuários ainda podem se sentir incomodados com o uso de suas imagens dessa forma.” Yashar Behzadi, o CEO da Synthesis AI, uma empresa que usa inteligência artificial para visão computacional, disse que os mais recentes avanços em IA do Facebook representam uma “melhoria significativa” na capacidade de visão computacional. “Os usuários provavelmente podem esperar uma melhor marcação de imagens e busca contextual, enquanto os anunciantes se beneficiarão de uma segmentação de usuário mais precisa”, acrescentou. Mas a abordagem do Facebook de alavancar bilhões de imagens do Instagram levanta algumas preocupações sérias sobre privacidade e regulamentação, disse Behzadi.

“Embora os termos e condições do Facebook possam permitir que eles aproveitem os dados do usuário de tal forma, a maioria dos usuários não está explícita e ativamente ciente de que seus dados estão sendo explorados para tais fins”, disse ele. “Acreditamos que as empresas devem ser mais diretas e transparentes com os usuários, permitindo-lhes controle total sobre seus dados.” Muitas outras empresas usaram inteligência artificial para identificar o conteúdo de uma imagem, apontou Bobby Gill, CEO do desenvolvedor de aplicativos Blue Label Labs, em entrevista por e-mail. “No entanto, o fato de que isso quase certamente será usado para marketing é o que preocupa”, acrescentou. O novo programa pode levantar potenciais preocupações com a privacidade, dependendo de como o Facebook planeja usar o sistema, disse Gill. “Esses dados provavelmente seriam acessíveis a profissionais de marketing técnicos que os usariam para identificar certas tendências com base em vários elementos identificados em uma imagem”, disse ele. “Por exemplo, ser capaz de extrair informações de imagens que as pessoas postam adiciona outra dimensão aos sistemas associativos que geralmente usam o comportamento para traçar o perfil e direcionar os indivíduos. Isso pode vir a aprender que qualquer pessoa com, digamos, sapos em 3-7% de suas fotos é altamente provável que compre equipamento de fitness doméstico. ”