As ferramentas de aprendizado de máquina sempre foram os moderadores de conteúdo ideais para o Facebook, Google e Twitter – mas o COVID-19 está forçando seu uso antes que estejam prontos

Hoje, vamos falar sobre alguns dos funcionários da linha de frente do Facebook e do Google trabalhando na pandemia: os moderadores de conteúdo que mantêm o site funcionando dia após dia. 

Como a maioria das histórias sobre moderadores de conteúdo, é um conto sobre trocas difíceis. E as ações tomadas nos últimos dias pelo Facebook e pelo YouTube terão implicações significativas para o futuro dos negócios.

Primeiro, porém, um pouco de história.

A princípio, a moderação de conteúdo nas redes sociais era um problema de negócios: deixar a nudez e os nazistas e a comunidade entrar em colapso. 

Mais tarde, foi um problema legal e regulatório: apesar das proteções oferecidas pela Seção 230, as empresas têm uma obrigação legal de remover propaganda terrorista, imagens de abuso infantil e outras formas de conteúdo. 

À medida que serviços como o YouTube e o Facebook aumentavam a base de usuários em bilhões, a moderação do conteúdo se tornava um problema de escala: como você analisa os milhões de postagens por dia que são denunciadas por violar suas políticas?

A solução, como explorei no ano passado em uma série de peças para a The Verge , foi terceirizar o trabalho para grandes empresas de consultoria. Após as eleições de 2016, que revelaram um déficit de moderadores de conteúdo em todas as grandes redes sociais, as empresas de tecnologia contrataram dezenas de milhares de moderadores em todo o mundo através de empresas como Accenture, Cognizant e Genpact. Isso, no entanto, criou um problema de privacidade . 

Quando seus moderadores trabalham em casa, você pode aplicar controles rígidos aos computadores deles para monitorar o acesso que eles têm aos dados do usuário. Quando eles trabalham para terceiros, esses dados do usuário correm um risco muito maior de vazar para o mundo exterior.

As questões de privacidade em torno da contratação de moderadores geralmente não receberam muita atenção de jornalistas como eu. (Em vez disso, prestamos atenção às condições de trabalho geralmente terríveis e ao fato de um subconjunto de trabalhadores estar desenvolvendo um transtorno de estresse pós-traumático por causa do trabalho .) 

Para o Facebook em particular, a reação das eleições pós-2016 surgiu em parte devido a preocupações com a privacidade – depois que o mundo soube como a Cambridge Analytica pretendia usar as informações obtidas do uso das pessoas no Facebook, a confiança na empresa despencou vertiginosamente.

É por isso que sites de moderação de conteúdo terceirizados para o Facebook e o YouTube foram projetados como salas seguras. Os funcionários podem trabalhar apenas em “pisos de produção” designados que devem receber e retirar. 

Eles não podem trazer dispositivos pessoais, para que não tirem fotos clandestinas ou tentem contrabandear dados de outra maneira. Isso pode criar confusão para os trabalhadores – eles geralmente são demitidos por trazer inadvertidamente telefones para a área de produção, e muitos deles se queixaram de como a divisão os separa de suas redes de suporte durante o dia. 

Mas nenhuma empresa está disposta a relaxar essas restrições por medo da crise das relações públicas, o que pode acarretar uma perda de dados de alto nível.

Avanço rápido de hoje, quando uma pandemia está se espalhando pelo mundo a uma velocidade assustadora. 

Ainda precisamos de tantos moderadores trabalhando para policiar as redes sociais, se não mais – o uso está claramente aumentando. Se você os trouxer para a área de produção para continuar trabalhando normalmente, você certamente contribuirá para a disseminação da doença. 

E, no entanto, se você deixá-los trabalhar em casa, você convida um desastre de privacidade em um momento em que as pessoas (especialmente as doentes) serão hiper-sensíveis ao uso indevido de seus dados pessoais.

Diga que você é o Facebook. O que você faz?

Até segunda-feira, a resposta parecia muito com negócios, como de costume. Sam Biddle contou a história no The Intercept na semana passada . (Aliás, a publicação em que a Interface é mais frequentemente confundida.)

As discussões do fórum interno de funcionários do Facebook, analisado pelo The Intercept, revelam um estado de confusão, medo e ressentimento, com muitos trabalhadores contratados por hora precariamente empregados, declarando que, ao contrário das declarações do Facebook, eles são impedidos por seus empregadores reais de trabalhar em casa , apesar da viabilidade técnica e dos benefícios claros para a saúde pública de fazê-lo.

As discussões se concentram nos contratados do Facebook empregados pela Accenture e WiPro em instalações em Austin, Texas, e Mountain View, Califórnia, incluindo pelo menos dois escritórios no Facebook. (Em Mountain View, um estado local de emergência já foi declarado por causa do coronavírus.)

O Intercept viu posts de pelo menos seis contratados reclamando por não poderem trabalhar em casa e se comunicando com mais dois contratados diretamente sobre o assunto. Um funcionário da Accenture disse ao The Intercept que toda a equipe de mais de 20 contratados havia sido informada de que não era permitido trabalhar em casa para evitar infecções.

Para ser justo, o Facebook estava longe de ser o único a não ter implantado um plano completo para seus contratados na última quinta-feira. 

Algumas empresas americanas ainda estão debatendo o que fazer com suas forças de trabalho em tempo integral esta semana. 

Mas, como observa Biddle, o Facebook não era um deles: já estava incentivando os funcionários a trabalhar em casa. Isso levou a críticas justificadas de trabalhadores contratados – alguns dos quais pediram que o Facebook aja, Noah Kulwin relatou no The Outline . (Os googlers estão divulgando uma petição semelhante em nome de seus próprios colegas de trabalho, Rob Price relatou no Business Inside r.)

Na segunda-feira à noite, o Facebook agiu. A partir de terça-feira, começou a informar todos os moderadores de contratos que eles não deveriam entrar no escritório. Louvável, o Facebook continuará a pagá-los durante a interrupção. Aqui está o anúncio :

Tanto para os funcionários em tempo integral quanto para a força de trabalho contratada, há algum trabalho que não pode ser feito em casa devido a razões de segurança, privacidade e legais. 

Tomamos precauções para proteger nossos funcionários, reduzindo o número de pessoas em qualquer escritório, implementando o trabalho recomendado em casa globalmente, espalhando fisicamente as pessoas em qualquer escritório e fazendo uma limpeza adicional. 

Dadas as preocupações de saúde pública em rápida evolução, estamos tomando medidas adicionais para proteger nossas equipes e trabalharemos com nossos parceiros ao longo desta semana para enviar todos os contratados que realizam a revisão de conteúdo para casa, até novo aviso. Garantimos que todos os trabalhadores sejam pagos durante esse período.

A notícia seguiu um anúncio semelhante do Google no domingo . Foi seguido por um anúncio conjunto do Facebook, Google, LinkedIn, Microsoft, Reddit, Twitter e YouTube de que eles “estão trabalhando juntos nos esforços de resposta ao COVID-19”, incluindo um compromisso de remover fraudes e informações incorretas relacionadas ao vírus e promover “conteúdo autoritário”. (Disseram-me que o anúncio não está relacionado à mudança nas estratégias de moderação de conteúdo, mas aponta para um futuro em que as empresas colaboram mais na remoção de postagens prejudiciais.)

OK, então os moderadores de conteúdo foram enviados principalmente para casa. Como as coisas ficam … moderadas? O Facebook permitiu que alguns moderadores que trabalham com conteúdo menos sensível – ajudando a treinar sistemas de aprendizado de máquina para rotular conteúdo, por exemplo – trabalhem em casa. Um trabalho mais sensível está sendo transferido para funcionários em período integral. 

Mas a empresa também começará a se apoiar mais nesses sistemas de aprendizado de máquina, em um esforço para automatizar a moderação de conteúdo.

O objetivo a longo prazo de todas as redes sociais é colocar a inteligência artificial no comando. 

Mas em dezembro, o Google estava me dizendo que o dia em que isso seria possível ainda estava muito longe. E, no entanto, na segunda-feira, a empresa – por necessidade – mudou de tom. Aqui está Jake Kastrenakes no The Verge :

O YouTube dependerá mais da IA ​​para moderar vídeos durante a pandemia de coronavírus, já que muitos de seus revisores humanos estão sendo enviados para casa para limitar a propagação do vírus. 

Isso significa que os vídeos podem ser retirados do site apenas porque são sinalizados pela AI como potencialmente violadores de uma política, enquanto os vídeos normalmente podem ser encaminhados para um revisor humano para confirmar que devem ser retirados. […]

Devido à maior dependência da IA, o YouTube basicamente diz que devemos esperar que alguns erros sejam cometidos. 

Mais vídeos podem acabar sendo removidos, “incluindo alguns que podem não violar as políticas”, escreve a empresa em uma postagem no blog . Outro conteúdo não será promovido ou será exibido na pesquisa e nas recomendações até que seja revisado por humanos.

O YouTube diz que em grande parte não emitirá greves – o que pode levar a uma proibição – de conteúdo retirado pela IA (com exceção dos vídeos que possui uma “alta confiança”, são contrários às suas políticas). 

Como sempre, os criadores ainda podem apelar de um vídeo retirado, mas o YouTube alerta que esse processo também será adiado devido à redução da moderação humana.

Tudo isso representa uma grande aposta na IA em um momento em que, como a própria empresa observa, ela ainda é propensa a erros. E na segunda-feira à noite, o Facebook e o Twitter seguiram o exemplo. Aqui está Paresh Dave na Reuters :

O Facebook também disse que a decisão de confiar mais em ferramentas automatizadas, que aprendem a identificar material ofensivo, analisando pistas digitais para aspectos comuns a quedas anteriores, tem limitações.

“Podemos ter um tempo de resposta mais longo e cometer mais erros como resultado”, afirmou.

O Twitter disse que também intensificaria o uso de automação semelhante, mas não proibiria os usuários com base apenas na aplicação automatizada, devido a preocupações com a precisão.

Muitos dos problemas das plataformas tecnológicas com reguladores e autoridades eleitas nos últimos dois anos se resumiram à moderação de conteúdo. Quais postagens eles permitiram permanecer acordados? Quais eles erroneamente derrubaram? Quais posts eles ampliaram e quais suprimiram?

Em escala global, as empresas estavam cometendo muitos erros, mesmo com o benefício do julgamento humano. A partir de terça-feira, eles confiarão significativamente mais às máquinas. O primeiro dia não foi ótimo. Aqui está Josh Constine no TechCruch :

O Facebook parece ter um bug no filtro de spam do Feed de notícias, fazendo com que URLs de sites legítimos, como Medium, BuzzFeed e USA Today, sejam impedidos de serem compartilhados como postagens ou comentários. 

O problema está bloqueando os compartilhamentos de algum conteúdo relacionado ao coronavírus, enquanto alguns links não relacionados são permitidos, embora não esteja claro o que exatamente está ou não está desativando o filtro. 

O Facebook tem tentado combater as informações erradas relacionadas ao surto, mas pode ter ficado zeloso demais ou ter experimentado um erro técnico.

Tenho certeza de que o bug será corrigido em pouco tempo. (O Facebook diz que não está relacionado a mudanças na moderação do conteúdo .) Enquanto isso, meus pensamentos estão com os moderadores que continuavam aparecendo para trabalhar todos os dias durante a semana passada, mesmo sabendo que isso os colocava em perigo físico. 

Um moderador do Facebook que trabalha para a Accenture lembrou como a empresa começou a lançar mais desinfetante para as mãos em fevereiro, à medida que a ameaça piorava, mas esperou até terça-feira para pedir para ele ficar em casa. Isso ocorreu depois de dias, se não semanas, de funcionários dizendo à Accenture que seus parceiros e colegas de quarto haviam sido expostos à doença.

“Estávamos trabalhando com pessoas que foram expostas, definitivamente”, o moderador me disse. “Acho que eles se mudaram tarde demais e as ações inicialmente tomadas foram claramente insuficientes.”

A RELAÇÃO

Hoje em notícias que podem afetar a percepção pública das grandes plataformas de tecnologia.

Tendências: o Facebook planeja conceder US $ 100 milhões em doações em dinheiro e créditos de anúncios para até 30.000 pequenas empresas em 30 países ao redor do mundo . O dinheiro visa ajudá-los a lidar com o impacto econômico do surto de coronavírus.

Tendências: o Facebook fez parceria com a Rede Internacional de Verificação de Fatos para conceder US $ 50.000 a organizações que trabalham em informações errôneas relacionadas à COVID-19 . O orçamento total da parceria é de US $ 1 milhão. ( Poynter )

Tendência: Um grupo das maiores empresas de tecnologia dos EUA se uniu para combater fraudes e desinformação relacionadas ao coronavírus . O grupo inclui Facebook , Google , LinkedIn , Microsoft , Reddit , Twitter e YouTube .

PANDEMIA

Aqui está o mais recente nos Estados Unidos:

Aqui está um mapa de onde os casos de coronavírus foram confirmados até agora nos Estados Unidos . (Sara G. Miller e Jiachuan Wu / NBC News)

Por que a implementação do teste COVID-19 foi tão lenta nos Estados Unidos? Os testes que temos geralmente precisam ser enviados para um laboratório, e o processo é lento. Nicole Westman / The Verge )

A Organização Mundial da Saúde está transmitindo ao vivo pelo TikTok para dar às pessoas dicas sobre como permanecer seguro e dissipar mitos sobre o COVID-19 . (TikTok)

Preocupado, você pode ter COVID-19? O Vox.com reuniu um bom guia para as perguntas mais comuns sobre o assunto, incluindo como ele se espalha e quais são os sintomas . (Lois Parshley / Vox )

Aqui está o que está acontecendo com as grandes empresas:

A empresa de cuidados com a saúde da Alphabet, Verily, realizou testes para cerca de 20 pessoas em seu primeiro dia de triagem para o coronavírus . A empresa disse que está trabalhando com o estado da Califórnia para expandir o programa. (Gerrit De Vynck / Bloomberg)

O Facebook está adicionando US $ 1.000 aos próximos salários de seus funcionários para lidar com as consequências do coronavírus . Também está dando a todos o seu bônus total no trimestre, independentemente de seu desempenho.

O Google está adiando o lançamento de seu site informativo de coronavírus para “no final desta semana”. O site estava no centro da controvérsia sobre a qual conversamos ontem . (Dieter Bohn / The Verge )

A Apple mantém suas lojas de varejo fora da China continental fechadas indefinidamente, à medida que a disseminação global do coronavírus continua . O fabricante do iPhone tinha como alvo 27 de março a reabertura de locais nos EUA e em outras partes do mundo. (Nick Statt / The Verge )

A demanda pela entrega da Amazon está aumentando à medida que mais pessoas são forçadas a ficar em casa . Alguns trabalhadores da Amazon temem que a situação esteja criando uma potencial crise de saúde e dizem que a empresa não está fazendo o suficiente para protegê-los. (Caroline O’Donovan e Ken Bensinger / BuzzFeed )

A Amazon está priorizando o envio de “artigos básicos, suprimentos médicos e outros produtos de alta demanda” devido à pandemia de coronavírus . A empresa também está suspendendo parte de seu programa “Cumprimento pela Amazon”, que normalmente fornece serviços de armazenamento e remessa para produtos de vendedores terceirizados. (Darrell Etherington / TechCrunch )

Pelo menos cinco trabalhadores nos armazéns da Amazon na Europa contrataram o coronavírus . É um desenvolvimento preocupante para uma empresa que já luta para contratar pessoas suficientes para lidar com o aumento nos pedidos. (Matt Day, Daniele Lepido, Helene Fouquet e Macarena Munoz Montijano / Bloomberg)

O Diretor Médico da CVS enviou aos funcionários um e-mail com dicas sobre como permanecer seguro durante a pandemia de coronavírus . Incluía desinformação surpreendentemente semelhante das dicas falsas de Stanford que desmembramos aqui . Não é uma boa olhada para uma farmácia!

O Uber expandiu sua política anunciada anteriormente sobre subsídios por doença para motoristas durante a pandemia de coronavírus . 

Agora, os motoristas que obtiverem resultados positivos para o COVID-19 ou tiverem as suas contas Uber suspensas como resultado de conselhos de saúde pública terão direito a até 14 dias de licença médica paga. (Andrew J. Hawkins / The Verge )

Uber e Lyft suspenderam o Uber Pool e compartilharam passeios devido ao agravamento do surto de COVID-19 . O UberX e o Uber Eats ainda estão em execução. (Ryan Broderick / BuzzFeed )

Em outro lugar:

O coronavírus provocou uma onda de doações diretas para indivíduos e empresas mais atingidos pela crise . As campanhas de doação são frequentemente organizadas nas mídias sociais. (Nicholas Kulish / The New York Times )

Com milhões de pessoas trabalhando e aprendendo em casa durante a pandemia, as redes da Internet estão sendo levadas ao limite . 

Muitos provedores estão lançando novas políticas para ajudar as pessoas que não podem pagar suas contas e se preparando para aumentar a capacidade nas redes, se necessário. (Davey Alba e Cecilia Kang / The New York Times )

Os testes com coronavírus não devem ser tão difíceis, mas o investimento limitado na tecnologia necessária significa que os EUA estão atrasados ​​em relação a outros países em termos de testes rápidos e confiáveis . (Nicole Wetsman / The Verge )

O Coronavirus está tornando o Instagram mais íntimo . Sem um fluxo constante de fotos de brunch e selfies de férias na praia, a plataforma se transformou em álbuns de close-up dos dias passados ​​enfiados no interior. (Kaitlyn Tiffany / O Atlântico )

GOVERNANDO

Department O Departamento de Justiça retirou a acusação de dois anos de uma empresa russa acusada na investigação por interferência nas eleições de Mueller . 

A empresa era uma das três empresas indiciadas por supostamente realizar um esquema de longo prazo para interferir criminalmente nas eleições de 2016. Isso parece um desastre. Aqui está Spencer S. Hsu no The Washington Post:

Os assistentes do procurador dos EUA Timothy Shea, de Washington, e o procurador-geral adjunto de Segurança Nacional, John C. Demers, citaram uma “mudança no balanço da prova do governo devido a uma determinação de classificação”, de acordo com um documento de nove páginas acompanhado de fatos sob selo. .

Os promotores também citaram o fracasso da empresa, Concord Management and Consulting, em cumprir as intimações do julgamento e a apresentação de uma declaração “enganosa, na melhor das hipóteses” por Yevgeniy Prigozhin, co-réu e fundador da empresa. Prigozhin é um magnata da restauração e contratado militar conhecido como “chef de Putin” por causa de seus laços com o presidente russo Vladimir Putin.

O problema de desinformação do Facebook está enraizado em seu modelo de negócios: anúncios segmentados por dados e conteúdo otimizado por algoritmos . Em um novo relatório, os pesquisadores da Ranking Digital Rights definem uma receita para consertar a empresa. Aqui está uma boa entrevista com um dos co-autores do relatório. (Russell Brandom / The Verge )

INDÚSTRIA

⭐ O zoom se tornou o local onde trabalhamos, estudamos e festejamos nos dias de hoje . E enquanto a empresa estava preparada para crescer quando o coronavírus começou a se espalhar, nada poderia prepará-la para se tornar um fenômeno cultural. Aqui está Taylor Lorenz no The New York Times :

Um grupo do Facebook para jovens presos em casa chamado Zoom Memes for Self Quaranteens , fundado há menos de uma semana, já cresceu para mais de 150.000 membros.

Estudantes universitários de todo o país participam de encontros com zoom oculto . Pais de alunos da sexta série do Rosenbaum Yeshiva de North Jersey organizaram um “recesso” de zoom para seus filhos. O Ethel’s Club, uma plataforma de bem-estar, está realizando leituras de cartas de tarô Zoom , trabalho respiratório e hangouts de maconha .

É um momento de alto risco para o Zoom, que foi fundado em 2011 por Eric Yuan, ex-executivo da Cisco Systems. Seu súbito cachê cultural também traz novas preocupações sobre privacidade, segurança, moderação de conteúdo, segurança para jovens e sensibilidade à seriedade da pandemia. Há também a pequena questão de manter o serviço em funcionamento.

Um dia na vida de um mensageiro de bicicleta que viaja para DoorDash , Uber Eats e Postmates , na época do coronavírus . “Eu pensei que estaria recebendo dicas idiotas. Não estou recebendo gorjetas – disse ele. Gente – a hora de dar dicas de bunda grande é agora. (Matt DeCaro / Vice)

Aparelhos para dormir – como o anel Oura usado por Jack Dorsey – estão por toda parte . Meu principal argumento aqui é que Dorsey ainda está dormindo muito bem. (Ruth Reader / Fast Company )

Os serviços online da Nintendo caíram temporariamente . Pode ser um reflexo da alta demanda durante a pandemia. (Michael McWhertor / Polígono )

Oculus Quest, do Facebook, está recebendo uma grande reforma na interface do usuário que a empresa diz representar “um passo em direção à realidade virtual se tornar a próxima plataforma de computação”. (Sam Byford / The Verge )

O Cameo transformou as celebridades da lista D em uma máquina de monetização viciante, permitindo-lhes cobrar pelos gritos . Agora, as pessoas pagam entre US $ 5 e US $ 2.500 para enviar vídeos curtos, entregues por texto ou e-mail. E você pode fazer isso em casa. O negócio perfeito da pandemia! (Patrick J. Sauer / Marcador )

COISAS PARA FAZER

Coisas para ocupar você online durante a quarentena.

Navegue nesta lista de projetos que podem ajudar com a resposta COVID-19 . É voltado para engenheiros de software, mas qualquer pessoa pode fazer uma contribuição. Designers e gerentes de produto provavelmente também seriam úteis aqui. Assim como qualquer pessoa que possa doar.

Dê local . Apoie uma empresa local comprando um cartão-presente online. Muito por onde escolher em São Francisco, Austin, Chicago, Nova York e muito mais.

Save Our Faves é uma idéia semelhante focada em San Francisco por Mike e Kaitlyn Krieger. (Você pode se lembrar de Mike de projetos anteriores como o Instagram.)

Aqui estão 450 cursos gratuitos da Ivy League que você pode fazer em casa . Seja inteligente enquanto passa o tempo!

Faça um desses brindes . Uma lista de classificação definitiva de um ex- funcionário da Verge .

Jogue Kingdom Rush Frontiers ( iOS e Android ) e Kingdom Rush Origins ( iOS e Android ), dois dos melhores jogos de estratégia de defesa de torre já feitos. Passei dias da minha vida jogando esse jogo, e agora eles são gratuitos por uma semana.

Assine o Shudder , um serviço de streaming de filmes de terror . É grátis pelos próximos 30 dias. Distraia-se do terror com uma forma mais divertida de terror!

E FINALMENTE…

sreekar@sreekyshooter

If you’re going to the hospital for a covid-19 test make sure you bring with you a valid form of identification along with a printout of your IMDB page and/or your Basketball Reference stats

Fonte: The Verve – Acessado em 29/03/2020 ( texto na integra)
The following two tabs change content below.
Alexandre Queiroz é Carioca legítimo,amante de sua cidade (Rio de Janeiro), muito bem casado, amante de novas Tecnologias, Música Eletrônica, Carros, Viajar, Cachorros e etc. Este site/blog é utilizado somente para compartilhar notícias, guardar soluções próprias, dicas e sem fins lucrativos... É utilizado como hobbie e para armazenar conhecimento.