Meta pausa treinamento polêmico de IA com dados de funcionários
Meta pausa treinamento polêmico de IA com dados de funcionários (ilustração: Vitor Pádua/Tecnoblog)
Resumo
Meta suspendeu treinamento de IA com dados de funcionários devido a um possível vazamento de dados pessoais, incluindo conversas, transcrições e informações de desempenho;
vazamento foi classificado como SEV 2, de alta prioridade, e empresa está investigando se, de fato, houve exposição de dados sensíveis;
programa de monitoramento, chamado Model Capability Initiative, captura movimentos com o mouse e digitação no teclado nos computadores de funcionários para aprimorar mecanismos de inteligência artificial da Meta.
A decisão da Meta de rastrear o uso dos computadores de seus funcionários para treinar modelos de inteligência artificial é polêmica por si só. Mas, recentemente, a companhia suspendeu essa atividade. Arrependimento? Não. É que o monitoramento teria causado exposição de dados pessoais.
É o que revela o Business Insider. O veículo afirma ter tido acesso a uma captura de tela que mostra que conversas, transcrições e informações de desempenho de funcionários ficaram expostos na rede da empresa, sendo que todos esses dados têm natureza privada.
O problema é sério. Prova disso é que o vazamento foi classificado como SEV 2 (Severe 2) dentro de uma escala que vai de 0 a 5. Quanto mais próximo de 0, mais crítico é o problema. O caso é considerado de alta prioridade, portanto, e isso explica a interrupção do monitoramento.
Não é que a Meta tenha reconhecido o problema. Ainda não. Ao Business Insider, a companhia apenas admitiu que interrompeu o programa para investigar se, de fato, houve exposição de dados sensíveis de funcionários:
Projetamos este programa cuidadosamente com medidas de segurança de privacidade e, embora não tenhamos indícios, neste momento, de que quaisquer dados tenham sido acessados indevidamente por funcionários da Meta, estamos suspendendo o programa enquanto investigamos.
Meta
Não está claro quando e como o suposto vazamento de dados ocorreu. Fato é que problemas como esse não causam surpresa, afinal, o programa de monitoramento esbarra em dados sensíveis. Por mais que a Meta tenha implementado mecanismos de segurança (se é que realmente implementou), ultrapassar o limite da privacidade não é difícil nessas circunstâncias.
Sem nenhuma surpresa, o clima na empresa é de insatisfação e até revolta. Ainda de acordo com o Business Insider, um funcionário da Meta teria declarado o seguinte: “não vejo nenhuma evidência de acesso malicioso, mas o fato de esses dados não terem sido protegidos como prometido inicialmente é extremamente frustrante”.
Monitoramento visa gerar dados para treinar IA da Meta (ilustração: Vitor Pádua/Tecnoblog)
O que é o programa de monitoramento da Meta?
Trata-se de um projeto interno de nome Model Capability Initiative (”iniciativa de capacitação de modelos”, em tradução livre). Nele, ferramentas capturam movimentos e cliques com o mouse, bem como digitação no teclado nos computadores de funcionários, para que esses dados ajudem a aprimorar mecanismos de inteligência artificial da Meta.
Em termos práticos, esse monitoramento pode ensinar agentes de IA a se comportarem como humanos na frente do computador.
A iniciativa é polêmica por, entre outros motivos, causar sensação de vigilância entre os funcionários, embora a Meta tenha ressaltado que o objetivo do programa não é espioná-los ou usar os dados obtidos para avaliações de desempenho.
Meta pausa treinamento polêmico de IA com dados de funcionários
Resumo
Meta suspendeu treinamento de IA com dados de funcionários devido a um possível vazamento de dados pessoais, incluindo conversas, transcrições e informações de desempenho;
vazamento foi classificado como SEV 2, de alta prioridade, e empresa está investigando se, de fato, houve exposição de dados sensíveis;
programa de monitoramento, chamado Model Capability Initiative, captura movimentos com o mouse e digitação no teclado nos computadores de funcionários para aprimorar mecanismos de inteligência artificial da Meta.
A decisão da Meta de rastrear o uso dos computadores de seus funcionários para treinar modelos de inteligência artificial é polêmica por si só. Mas, recentemente, a companhia suspendeu essa atividade. Arrependimento? Não. É que o monitoramento teria causado exposição de dados pessoais.
É o que revela o Business Insider. O veículo afirma ter tido acesso a uma captura de tela que mostra que conversas, transcrições e informações de desempenho de funcionários ficaram expostos na rede da empresa, sendo que todos esses dados têm natureza privada.
O problema é sério. Prova disso é que o vazamento foi classificado como SEV 2 (Severe 2) dentro de uma escala que vai de 0 a 5. Quanto mais próximo de 0, mais crítico é o problema. O caso é considerado de alta prioridade, portanto, e isso explica a interrupção do monitoramento.
Não é que a Meta tenha reconhecido o problema. Ainda não. Ao Business Insider, a companhia apenas admitiu que interrompeu o programa para investigar se, de fato, houve exposição de dados sensíveis de funcionários:
Projetamos este programa cuidadosamente com medidas de segurança de privacidade e, embora não tenhamos indícios, neste momento, de que quaisquer dados tenham sido acessados indevidamente por funcionários da Meta, estamos suspendendo o programa enquanto investigamos.
Meta
Não está claro quando e como o suposto vazamento de dados ocorreu. Fato é que problemas como esse não causam surpresa, afinal, o programa de monitoramento esbarra em dados sensíveis. Por mais que a Meta tenha implementado mecanismos de segurança (se é que realmente implementou), ultrapassar o limite da privacidade não é difícil nessas circunstâncias.
Sem nenhuma surpresa, o clima na empresa é de insatisfação e até revolta. Ainda de acordo com o Business Insider, um funcionário da Meta teria declarado o seguinte: “não vejo nenhuma evidência de acesso malicioso, mas o fato de esses dados não terem sido protegidos como prometido inicialmente é extremamente frustrante”.
Monitoramento visa gerar dados para treinar IA da Meta (ilustração: Vitor Pádua/Tecnoblog)
O que é o programa de monitoramento da Meta?
Trata-se de um projeto interno de nome Model Capability Initiative (”iniciativa de capacitação de modelos”, em tradução livre). Nele, ferramentas capturam movimentos e cliques com o mouse, bem como digitação no teclado nos computadores de funcionários, para que esses dados ajudem a aprimorar mecanismos de inteligência artificial da Meta.
Em termos práticos, esse monitoramento pode ensinar agentes de IA a se comportarem como humanos na frente do computador.
A iniciativa é polêmica por, entre outros motivos, causar sensação de vigilância entre os funcionários, embora a Meta tenha ressaltado que o objetivo do programa não é espioná-los ou usar os dados obtidos para avaliações de desempenho.
Meta pausa treinamento polêmico de IA com dados de funcionários
Artigo originalmente publicado em
tecnoblog.net