quarta-feira, 2 de julho de 2025

Falhas do Reconhecimento Facial: Limites Tecnológicos, Éticos e sociais

O reconhecimento facial é capaz de identificar as pessoas a partir dos seus traços faciais e é uma ferramenta amplamente utilizada em segurança pública, controle de acesso, sistemas bancários etc.

 

O crescimento desordenado e desestruturado do uso da tecnologia no Brasil evidenciou as suas limitações e gerou graves impactos éticos e sociais.

 

Foi revelado que entregador ficou impedido de trabalhar causa de um erro no reconhecimento facial (Reconhecimento facial se amplia no trabalho; entenda regras, https://www1.folha.uol.com.br/tec/2025/06/reconhecimento-facial-se-amplia-no-trabalho-entenda-regras.shtml?utm_source=sharenativo&utm_medium=social&utm_campaign=sharenativo, acessado em 02/07/2025).

 

No mesmo artigo, foi afirmado que o Tribunal Regional do Trabalho da 10ª Região decidiu que a plataforma deve indenizar o entregador R$ 60 mil.

 

Limitações de precisão

 

O desempenho das tecnologias de reconhecimento facial varia em função das condições ambientais, da qualidade das imagens, dos ângulos do rosto e das expressões faciais.

 

Os sistemas de reconhecimento facial em geral falham quando a iluminação é insuficiente ou excessiva, quando as mudanças na posição da cabeça ou expressões faciais reduzem a precisão do reconhecimento, quando o algoritmo é de baixa qualidade, quando são utilizadas câmeras de baixa qualidade ou resolução que distorcem as imagens, quando a pessoa usou óculos, chapéus, máscaras etc.

 

As limitações geram falsos positivos (quando uma pessoa é identificada erradamente como outra) e falsos negativos (quando o sistema falha em reconhecer alguém que deveria ser identificado).

 

Viés dos algorítmicos

As pesquisas revelaram que os sistemas são treinados com preponderância de imagens de pessoas brancas e por isto, a taxa de erro na identificação de pessoas negras, asiáticas e outras origens é elevada.

 

A falta de diversidade da base de dados utilizada no processo de treinamento do sistema, impede que o algoritmo reconheça os rostos de minorias raciais, de gênero e idade.

 

O impacto social da falta de diversidade da base de dados é a exclusão e constrangimento público de pessoas das minorias.

 

Foi revelado que uma funcionária abriu processo na justiça trabalhista afirmando que quando estava grávida ela teve problemas para registrar o seu horário por meio de reconhecimento facial em diversas ocasiões. Os registros revelam que o sistema apresentou falhas estruturais e por isto a demissão dela por faltas é incorreta.

 

Privacidade

 

O crescimento desordenado do reconhecimento facial no Brasil gerou preocupações sobre a privacidade das pessoas e sobre a possibilidade de vigilância em massa.

 

As bases de dados com rostos e informações sensíveis podem ser alvo de ataques cibernéticos, vazamentos ou uso indevido por terceiros.

 

Questões Legais

 

O reconhecimento facial precisa de uma legislação específicas para regulamentar o seu uso, para proteger os dados biométricos e para proteger os direitos das pessoas identificadas incorretamente.

 

Uma vez vazados, dados biométricos não podem ser “desvazados” ou seja, estão sendo criados limites inadequados sobre o controle das pessoas sobre as suas informações.

 

Impactos sociais

 

O reconhecimento facial pode provocar mudanças comportamentais, pois a possibilidade de ser vigiado é capaz de gerar ansiedade e falta de liberdade individual.

O conhecimento da vigilância reduz a espontaneidade das pessoas, o nível de confiança nas instituições (falhas e abusos no uso da tecnologia) e a marginalização de grupos sociais.

 

Soluções

 

O reconhecimento facial é útil quando ele implementado de forma correta, ética, transparente e responsável através de avaliações contínuas para identificar e corrigir as falhas, de leis específicas que protejam a privacidade e exijam o consentimento, de informar claramente sobre o funcionamento, riscos e limites, do uso de mecanismos que permitam as pessoas consultar, corrigir e excluir os seus dados biométricos.

 

Futuro

 

O futuro do reconhecimento facial depende de uma abordagem ética, transparente e coletiva, que coloque o fator humano no centro de todas as escolhas.

 

quarta-feira, 25 de junho de 2025

Ineficiências

 

Ineficiências

 

A pesquisa realizada pela Marsh (IA: Bancos esperam mais ataques cibernéticos Brasil lidera em casos na América Latina e novas ferramentas de inteligência artificial oferecem riscos adicionais, https://www1.folha.uol.com.br/colunas/painelsa/2025/06/ia-bancos-esperam-mais-ataques-ciberneticos.shtml, acessado em 25/06/2025) revelou que em 2024, o Brasil registrou o maior número de ataques cibernéticos da américa latina.

 

O detalhamento da pesquisa revelou que o custo médio de uma violação de dados no setor financeiro é de 6 milhões de dólares e a principal causa do sucesso dos invasores foi o acesso aos malwares pelos funcionários.

 

O elevado volume de ataques cibernéticos bem-sucedidos no Brasil é um indicador de que existem falhas graves na estratégia de segurança digital nacional.

 

O fator humano nas invasões bem-sucedidas é desprezado em diversas inciativas de segurança. O foco na compra de tecnologia não está gerando resultados positivos para as empresas.

 

É preciso incorporar urgentemente no processo de recrutamento e seleção da mão de obra avaliações sobre a capacidade do profissional de perceber que está sofrendo uma tentativa de golpe e entrar em modo de segurança.

 

Pessoas que são facilmente enganadas pelos golpistas não podem ser contratadas, pois elas geram enormes buracos na estratégia de segurança cibernética.

 

É preciso treinar os funcionários regularmente para que eles tenham conhecimento das artimanhas utilizadas pelos golpistas e identifiquem rapidamente um ataque.

 

O custo financeiro e de reputação de uma invasão digital já é bastante elevado e vem crescendo ano após ano. Corporações solidas estão perdendo milhões (em alguns casos bilhões) de dólares por causa das invasões.

 

A inteligência artificial já está sendo utilizada pelos malfeitores para invadir os sistemas corporativos, no entanto, ela pouco ou nada está sendo utilizada pelas empresas para identificar e bloquear os ataques.

terça-feira, 17 de junho de 2025

Era dos golpes

 O artigo “Deepfakes viraram a nova realidade do crime digital” (https://www1.folha.uol.com.br/colunas/ronaldolemos/2025/06/deepfakes-viraram-a-nova-realidade-do-crime-digital.shtml?utm_source=sharenativo&utm_medium=social&utm_campaign=sharenativo, acessado em 17/06/2025) revelou como funcionam os golpes que exploram as fragilidades da identificação nas empresas e governos.

 

Caso 1:

 

No ano passado um funcionário da Arup recebeu um e-mail do diretor financeiro solicitando uma transferência urgente. Foi feita uma chamada de vídeo com o diretor e executivos da empresa e o funcionário transferiu US$ 25 milhões. O e-mail era falso e os participantes da chamada de vídeo eram deepfakes.

 

Caso 2:

 

Um grupo de malfeitores capturava as fotos de pessoas nas redes sociais e usava a inteligência artificial para “criar” rostos tridimensionais e abrir contas bancárias e solicitar empréstimos. Aproximadamente R$ 50 milhões foram roubados.

 

Caso 3:

 

Grupo Jorge Batista, foi atacado e os dados foram sequestrados e as operações paralisadas (Hackers dão prazo final: prejuízo do Grupo Jorge Batista já passa dos R$ 400 milhões, https://lupa1.com.br/blogs/ponto-de-ruptura/hackers-dao-prazo-final-prejuizo-do-grupo-jorge-batista-ja-passa-dos-r-400-milhoes-58040.html).

 

Caso 4:

 

Um ataque custará aproximadamente 300 milhões de libras para a Marks & Spencer em perda de lucro operacional e a interrupção de serviços (Ataque hacker milionário deve impactar varejista britânica até julho, https://www.uol.com.br/tilt/noticias/reuters/2025/05/21/efeitos-de-ataque-hacker-de-us400-mi-contra-varejista-britanica-ms-continuarao-ate-julho.htm).

Em 2024 foram realizadas mais de 4.500 tentativas de golpes por hora no Brasil (4.500 golpes por hora: a fraude que Anatel e teles não conseguem frear, https://www.uol.com.br/tilt/noticias/redacao/2025/06/14/golpistas-chamadas-telefonicas.htm).

 

A digitalização da sociedade trouxe como colateral o golpismo, a fraude, o roubo. Na maioria dos casos, o fator humano foi desconsiderado pela organização de segurança digital.

 

É muito comum encontrar casos em que as falhas humanas na identificação do seu interlocutor abriram as portas para os malfeitores.

 

Não adianta investir milhões em soluções de segurança digital e pouco ou nada em treinamento dos funcionários. Nos últimos anos os valores subtraídos ilegalmente das empresas cresceram exponencialmente.

 

Os mecanismos de prevenção como os seguros estão ficando cada vez mais caros por causa da taxa de sucesso dos ataques realizados pelos malfeitores.

 

É preciso olhar com urgência para o fator humano e estancar as perdas, pois elas já estão impactando a macroeconomia de diversos países.

terça-feira, 10 de junho de 2025

Forma x conteúdo

O artigo “Influenciadores digitais transformaram o superficial em modelo de sucesso” (https://www1.folha.uol.com.br/colunas/michael-franca/2025/06/influenciadores-digitais-transformaram-o-superficial-em-modelo-de-sucesso.shtml?utm_source=sharenativo&utm_medium=social&utm_campaign=sharenativo, acessado em 10/06/2025) revelou a pobreza do conteúdo no Brasil.

 

Não é uma novidade, pois faz décadas em que a forma é mais valorizada que o conteúdo no Brasil. É muito comum encontramos casos em que um conteúdo pobre bem formatado foi mais bem avaliado que um conteúdo rico formatado precariamente.

 

Na era do conhecimento, a inteligência artificial é uma ameaça grave para os produtores de conteúdos pobres, pois ela é capa de criar uma excelente formatação para o conteúdo rico.

 

A pobreza do conteúdo no Brasil, gerou diversos colaterais negativos. Um dos piores é a sensação de falta de segurança nas maiores cidades brasileiras.

 

O governo que tanto reclama da falta de dinheiro, gasta bilhões de reais por causa da falta de segurança presencial e virtual no Brasil. A avenida Paulista é um bom exemplo sobre como o dinheiro está sendo gasto para aumentar a segurança.

 

Diversos prédios são protegidos por seguranças particulares e as esquinas estão lotadas de policiais. Tudo isto é um gasto de dinheiro que nada agrega a produtividade das empresas situadas na avenida.

 

Os condomínios residenciais estão investindo pesadamente em segurança e mesmo assim eles estão sendo atacados pelos malfeitores.

 

Recentemente eu fui informado de uma nova estratégia de ataque aos condôminos. Uma pessoa bem-vestida fica do lado de fora do condomínio aguardando um morador. Quando ela encontra um morador que vai entrar no edifício, ela se identifica como novo morador e começa a conversar para que a portaria acredite que ela está junto do morador.

 

Ao chegar no andar do morador, o malfeitor mostra que está armado e faz “a limpa” no apartamento e morador. E depois de trancar o morador em local sem comunicação, o malfeitor sai tranquilamente pela porta da frente.

 

Todo o investimento feito em segurança pelo condomínio não surtiu efeito, porque o fator humano foi desconsiderado na equação da produtividade da segurança.

 

Na era do conhecimento, o sucesso das iniciativas de segurança passa por pessoas atentas aos estratagemas usados pela bandidagem.

 

A produtividade dos fatores de produção passa obrigatoriamente pelo conhecimento e informação. Pessoas bem informadas reconhecem as tentativas de ataques e criam situações de instabilidade aos malfeitores.

quarta-feira, 4 de junho de 2025

Marco civil de internet e Supremo Tribunal Federal (STF)

Foi revelado que o plenário do STF vai analisar se as mídias sociais devem responder pelo conteúdo publicado pelos usuários. Fonte: STF retoma nesta semana julgamento sobre responsabilidades das redes sociais, https://g1.globo.com/politica/noticia/2025/06/02/stf-retoma-nesta-semana-julgamento-sobre-responsabilidades-das-redes-sociais.ghtml, acessado em 04/06/2025.

 

Quem responde pelo conteúdo de um e-mail? É o remetente ou o provedor de internet? Quem responde pelo conteúdo de uma correspondência? É o remetente ou o correio? Quem responde pelo conteúdo de uma ligação telefônica? É o usuário ou a operadora de telefonia?

 

Em todos os casos citados, a justiça brasileira entende que quem responde pelo conteúdo é o usuário. É de causar espécie ver o plenário do STF analisando se o caso das redes sociais é diferente dos outros casos.

 

As redes sociais desempenham o mesmo papel de entregador de conteúdo exercido pelos provedores de internet, pelo correio, pelas operadoras de telefonia.

 

Para que a justiça seja justa, é preciso que todos tenham os mesmo direitos e deveres. Se o STF entende que as mídias sociais devem responder pelo conteúdo publicado pelos usuários, então os provedores de internet devem responder pelos e-mails, o correio deve responder pelas correspondências e as operadoras de telefonia devem responder pelas conversas telefônicas.

 

É obvio que tal entendimento inviabiliza as comunicações no Brasil. Creio que o plenário do STF deveria julgar casos bastante antigos como a constitucionalidade do confisco do dinheiro do plano Collor antes de gastar tempo e dinheiro do contribuinte em casos desprovidos de consistência logica.

quinta-feira, 29 de maio de 2025

Não é só no Brasil

Ataque hacker milionário deve impactar varejista britânica até julho (https://www.uol.com.br/tilt/noticias/reuters/2025/05/21/efeitos-de-ataque-hacker-de-us400-mi-contra-varejista-britanica-ms-continuarao-ate-julho.htm, acessado em 29/05/2025).

 

 

Hackers dão prazo final: prejuízo do Grupo Jorge Batista já passa dos R$ 400 milhões (https://lupa1.com.br/blogs/ponto-de-ruptura/hackers-dao-prazo-final-prejuizo-do-grupo-jorge-batista-ja-passa-dos-r-400-milhoes-58040.html).

 

Os dois artigos revelam que mudou de patamar o valor das perdas causadas por falhas de segurança digital.

 

É preciso olhar com urgência as questões relacionadas com a segurança digital antes que os malfeitores mudem por completo o perfil competitivo dos mercados.

 

Muita gente insiste em resolver as falhas de segurança digital contratando mais tecnologias, no entanto, muito pouco tem sido feito em relação as falhas humanas que estão comprometendo o desempenho das empresas.

 

Nas postagens anteriores eu insisti na questão do reconhecimento facial, pois é muito fácil burlar um sistema que trabalha com baixa resolução.

 

O blog conhece vários casos em que o malfeitor fingiu ser o presidente da empresa e solicitou a troca da sua senha para a central de serviços.

 

Os analistas que não conhecem a voz do presidente, acreditaram na narrativa e entregaram uma senha válida para o malfeitor.

 

O atacante, uso a senha para roubar informações dos clientes cadastrados e gerou um grande prejuízo tanto na dimensão financeira, quanto na dimensão da reputação.

 

A inteligência artificial permite que os malfeitores possam fingir ser presidentes, diretores, analistas etc. e com isto conquistar acesso as informações mais valiosas das corporações.

É preciso investir urgentemente na capacitação dos funcionários para evitar os casos citados na abertura da postagem. Estamos chegando perigosamente na casa do bilhão de perdas por falhas de segurança.  

terça-feira, 20 de maio de 2025

O Brasil está pronto para o reconhecimento facial? – Parte 4

O artigo “Biometria da Dataprev para aposentados não tem dados verificados e é alvo de fraudes” (https://www1.folha.uol.com.br/mercado/2025/05/biometria-da-dataprev-para-aposentados-nao-tem-dados-verificados-e-e-alvo-de-fraudes.shtml?utm_source=sharenativo&utm_medium=social&utm_campaign=sharenativo, acessado em 19/05/2025) revelou o nível de fragilidade dos sistemas públicos no Brasil.

 

Para o sistema de reconhecimento facial funcionar para uma ampla gama de dispositivos no Brasil, é preciso configurar ele para uma resolução muito baixa, ou seja, existe um grau de imprecisão bastante elevado no reconhecimento de um rosto.

 

O motivo desta configuração é que as fotos tiradas nos celulares mais populares têm baixa resolução. Os malfeitores que conseguiram acesso as contas da plataforma Gov.br explorando a característica “pixels” maiores da configuração e usaram fotos embaçadas para alcançar o seu objetivo.

 

As fragilidades do sistema de reconhecimento facial são facilmente percebidas por aqueles que pensam alguns segundos sobre como configurar o sistema para que ele aceite fotos de alta e baixa resolução. Os malfeitores não são burros. Eles fazem a análise analítica dos fatos e informações para estabelecer um estratagema de ataque.

 

Após ganhar acesso a conta da sua vítima, o malfeitor pode criar   uma assinatura digital “falsa” para comprar bens e serviços, para contrair empréstimos etc.

 

A vítima que foi atacada pela exploração de uma vulnerabilidade de configuração do sistema de reconhecimento facial ganha um ônus enorme, pois ele não tem nada para provar que ele não foi o autor e que o problema foi gerado por uma terceira parte.

 

A falha do gerenciamento da segurança da plataforma, criou um sistema de responsabilidade em que a vítima é prejudicada duplamente.

 

As perdas causadas por este tipo de falha poderão superar a casa do bilhão de reais, ou seja, o processo de validação das transações não pode ser inconsistente.