Alertando sobre um “mundo sombrio de danos online” que deve ser abordado, o Fórum Econômico Mundial (WEF) publicou este mês um artigo pedindo uma “solução” para o “abuso online” que seria alimentado por inteligência artificial (IA) e humanos.
A proposta pede um sistema, baseado em IA, que automatize a censura de “desinformação” e “discurso de ódio” e trabalhe para superar a disseminação de “abuso infantil, extremismo, desinformação, discurso de ódio e fraude” online.
De acordo com o autor do artigo, Inbal Goldberger, as “equipes de confiança e segurança” humanas sozinhas não são totalmente capazes de policiar esse conteúdo online.
Goldberger é vice-presidente da ActiveFence Trust & Safety, uma empresa de tecnologia com sede na cidade de Nova York e Tel Aviv que afirma que “coleta automaticamente dados de milhões de fontes e aplica IA contextual para impulsionar operações de confiança e segurança de qualquer tamanho”.
Em vez de confiar apenas em equipes de moderação humana, Goldberger propõe um sistema baseado em “inteligência com curadoria humana, multilíngue e fora da plataforma” – em outras palavras, entrada fornecida por fontes humanas “especializadas” que criariam “conjuntos de aprendizado” que treinaria a IA para reconhecer conteúdo supostamente nocivo ou perigoso.
Essa “inteligência fora da plataforma” – mais aprendizado de máquina do que IA em si, de acordo com Didi Rankovic do ReclaimTheNet.org – seria coletada de “milhões de fontes” e seria então reunida e mesclada antes de ser usada para “decisões de remoção de conteúdo” por parte das “plataformas da Internet”.
De acordo com Goldberger, o sistema complementaria “detecção automatizada mais inteligente com experiência humana” e permitirá a criação de “IA com inteligência humana incorporada”.
Isso, por sua vez, forneceria proteção contra “atores cada vez mais avançados que usam plataformas de maneiras únicas”.
“Um moderador humano que é especialista em supremacia branca europeia não será necessariamente capaz de reconhecer conteúdo nocivo na Índia ou narrativas de desinformação no Quênia”, explicou Goldberger.
No entanto, “Ao combinar de forma exclusiva o poder da tecnologia inovadora, a coleta de inteligência fora da plataforma e a proeza de especialistas no assunto que entendem como os agentes de ameaças operam, a detecção em escala de abuso online pode atingir uma precisão quase perfeita”, pois esses conjuntos de aprendizado são “incorporado” à IA ao longo do tempo, disse Goldberger.
Isso, por sua vez, permitiria que “equipes de confiança e segurança” impedissem que as ameaças aumentassem online antes de chegarem aos usuários”, acrescentou.
Em sua análise de como a proposta de Goldberger pode parecer na prática, o blogueiro Igor Chudov explicou como o policiamento de conteúdo nas mídias sociais hoje ocorre de plataforma por plataforma.
Por exemplo, os moderadores de conteúdo do Twitter analisam apenas o conteúdo postado nessa plataforma específica, mas não o conteúdo de um usuário postado fora do Twitter.
Chudov argumentou que é por isso que o WEF parece apoiar uma proposta de “ir além das principais plataformas da Internet, a fim de coletar informações sobre pessoas e ideias em todos os outros lugares”.
“Tal abordagem”, escreveu Chudov, “permitiria que eles soubessem melhor qual pessoa ou ideia censurar – em todas as principais plataformas de uma só vez”.
A “inteligência” coletada pelo sistema de suas “milhões de fontes” iria, de acordo com Chudov, “detectar pensamentos que eles não gostam”, resultando em “decisões de remoção de conteúdo proferidas por Twitter, Facebook e assim por diante. … uma grande mudança do status quo de cada plataforma decidindo o que fazer com base apenas nas mensagens postadas nessa plataforma específica.”
Dessa forma, “a busca pelo pensamento errado se torna globalizada”, conclui Chudov.
Em resposta à proposta do WEF, ReclaimTheNet.org apontou que “pode-se começar a discernir o argumento aqui … simplesmente pressionando as redes sociais para começar a se mover em direção à ‘censura preventiva’”.
Chudov postulou que o WEF está promovendo a proposta porque “está ficando um pouco preocupado”, pois “opiniões não aprovadas estão se tornando mais populares e os censores online não conseguem acompanhar milhões de pessoas se tornando mais conscientes e mais vocais”.
De acordo com o Daily Caller, “o documento do WEF não especificou como os membros da equipe de treinamento de IA seriam decididos, como seriam responsabilizados ou se os países poderiam exercer controles sobre a IA”.
Em um aviso que acompanha o artigo de Goldberger, o WEF assegurou ao público que o conteúdo expresso na peça “é a opinião do autor, não do Fórum Econômico Mundial”, acrescentando que “este artigo foi compartilhado em sites que rotineiramente deturpam o conteúdo e divulgam desinformação”.
No entanto, o WEF parece estar aberto a propostas como a de Goldberger. Por exemplo, um artigo de maio de 2022 no site do WEF propõe o “Conselho de Supervisão” do Facebook como um exemplo de um “modelo de governança do mundo real” que pode ser aplicado à governança no metaverso.
E, como Chudov observou, “a moderação de conteúdo da IA entra diretamente no sistema de pontuação de crédito social da IA”.
ONU, apoiada pela Fundação Gates, também visa ‘quebrar cadeia de desinformação’
O WEF não é a única entidade que pede um policiamento mais rigoroso de conteúdo online e “desinformação”.
Por exemplo, a UNESCO anunciou recentemente uma parceria com o Twitter, a Comissão Europeia e o Congresso Judaico Mundial, levando ao lançamento da campanha #ThinkBeforeSharing, para “impedir a disseminação de teorias da conspiração”.
Segundo a Unesco:
“A pandemia do COVID-19 provocou um aumento preocupante na desinformação e nas teorias da conspiração.”
“As teorias da conspiração podem ser perigosas: muitas vezes visam e discriminam grupos vulneráveis, ignoram evidências científicas e polarizam a sociedade com graves consequências. Isso precisa parar.”
A diretora-geral da UNESCO, Audrey Azoulay, disse :
“As teorias da conspiração causam danos reais às pessoas, à sua saúde e também à sua segurança física. Eles amplificam e legitimam equívocos sobre a pandemia e reforçam estereótipos que podem alimentar a violência e as ideologias extremistas violentas”.
A UNESCO disse que a parceria com o Twitter informa às pessoas que os eventos que ocorrem em todo o mundo não são “secretamente manipulados nos bastidores por forças poderosas com intenções negativas”.
A UNESCO emitiu orientações sobre o que fazer no caso de encontrar um “teórico da conspiração” online: é preciso “reagir” imediatamente postando um link relevante para um “site de verificação de fatos” nos comentários.
A UNESCO também fornece conselhos ao público no caso de alguém encontrar um “teórico da conspiração” em carne e osso. Nesse caso, o indivíduo deve evitar discutir, pois “qualquer argumento pode ser tomado como prova de que você faz parte da conspiração e reforça essa crença”.
A campanha #ThinkBeforeSharing fornece uma série de infográficos e materiais de acompanhamento destinados a explicar o que são “teorias da conspiração”, como identificá-las, como denunciá-las e como reagir a elas de forma mais ampla.
De acordo com esses materiais, as teorias da conspiração têm seis coisas em comum, incluindo:
- Uma “suposta trama secreta”.
- Um “grupo de conspiradores”.
- “’Evidências’ que parecem apoiar a teoria da conspiração.”
- Sugestões de que “falsamente” afirmam “nada acontece por acaso e que não há coincidências” e que “nada é o que parece e tudo está conectado”.
- Eles dividem o mundo em “bom ou mau”.
- Eles são bodes expiatórios de pessoas e grupos.
A UNESCO não descarta totalmente a existência de “teorias da conspiração”, em vez disso, admite que “conspirações reais, grandes e pequenas, EXISTEM”.
No entanto, a organização afirma que tais “conspirações” são “mais frequentemente centradas em eventos isolados, ou em um indivíduo como um assassinato ou um golpe de estado” e são “reais” apenas se “desenterrados pela mídia”.
Além do WEF e da UNESCO, o Conselho de Direitos Humanos das Nações Unidas (ONU) adotou no início deste ano “um plano de ação para combater a desinformação”.
O “plano de ação”, patrocinado pelos EUA, Reino Unido, Ucrânia, Japão, Letônia, Lituânia e Polônia, enfatiza “o papel principal que os governos têm, no combate a narrativas falsas”, expressando preocupação com:
“O impacto negativo crescente e de longo alcance no gozo e realização dos direitos humanos da criação e disseminação deliberada de informações falsas ou manipuladas destinadas a enganar e iludir o público, seja para causar danos ou para ganho pessoal, político ou financeiro.”
Mesmo os países que não endossaram oficialmente o plano do Conselho de Direitos Humanos expressaram preocupação com a “desinformação” online.
Por exemplo, a China identificou essa “desinformação” como “um inimigo comum da comunidade internacional”.
Uma iniciativa anterior da ONU, em parceria com o WEF, “recrutou 110.000 voluntários de informação” que, nas palavras da diretora de comunicações globais da ONU, Melissa Fleming, atuariam como “socorristas digitais” para “desinformação online”.
A iniciativa #PledgeToPause da ONU, embora circulando recentemente como um novo desenvolvimento nas mídias sociais, foi anunciada em novembro de 2020 e foi descrita pela ONU como “a primeira campanha global de mudança de comportamento sobre desinformação”.
A campanha faz parte de uma iniciativa mais ampla da ONU, “Verified”, que visa recrutar participantes para divulgar “conteúdo verificado otimizado para compartilhamento social”, proveniente diretamente do departamento de comunicações da ONU.
Fleming disse na época que a ONU também estava “trabalhando com plataformas de mídia social para recomendar mudanças” para “ajudar a quebrar a cadeia de desinformação”.
Tanto a campanha “Verified” quanto a #PledgeToPause ainda parecem estar ativas no momento em que este artigo foi escrito.
A iniciativa “Verified” é operada em conjunto com a Purpose, um grupo ativista que colaborou com a Fundação Bill & Melinda Gates, a Fundação Rockefeller, a Bloomberg Philanthropies, a Organização Mundial da Saúde, a Iniciativa Chan Zuckerberg, Google e Starbucks.
Desde 2019, a ONU mantém uma parceria estratégica com o WEF com base em seis “áreas de foco”, uma das quais é a “cooperação digital”.