Licks Attorneys' Government Affairs & International Relations Blog

Doing Business in Brazil: Political and economic landscape

Licks Attorneys' COMPLIANCE Blog

ÓRGÃOS EUROPEUS APROVAM PROPOSTA CONJUNTA PARA PROIBIR O USO DE IA PARA RECONHECIMENTO AUTOMATIZADO

No items found.

O Conselho Europeu de Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (EDPS) anunciaram em 21 de junho de 2021 que aprovaram um parecer conjunto sobre a Proposta de Um Regulamento da Comissão Europeia que estabelece regras harmonizadas sobre inteligência artificial (IA).

As entidades querem vetar o reconhecimento facial por meio do uso da IA em um espaço público. Alegam que implantar identificação biométrica remota em espaços acessíveis ao público significa o fim do anonimato nesses lugares. Aplicações como o reconhecimento facial ao vivo interferem em direitos e liberdades fundamentais a tal ponto que podem colocar em questão a essência desses direitos e liberdades.

Dessa forma, isso exigiria uma aplicação imediata da abordagem de precaução. Uma proibição geral do uso do reconhecimento facial em áreas de acesso público é o ponto de partida necessário se quisermos preservar nossas liberdades e criar um arcabouço legal centrado no ser humano para a IA. O regulamento proposto também deve proibir qualquer tipo de uso da IA para segregação social  , pois é contra os valores fundamentais da UE e pode levar à discriminação.

O parecer das duas entidades defende ainda os seguintes posicionamentos:

  1. a proibição de sistemas de IA que utilizam biometria para categorizar indivíduos em grupos com base na etnia, gênero, orientação política ou sexual, ou outros motivos sobre os quais a discriminação é proibida;
  2. o uso da IA para inferir emoções de uma pessoa física é altamente indesejável e deve ser proibido, exceto para casos muito específicos, como alguns fins de saúde, onde o reconhecimento de emoções do paciente é importante; e
  3. o uso de IA para qualquer tipo de segregação social deve ser proibido.

O fato é que o reconhecimento facial, apesar do inegável apelo do desenvolvimento da tecnologia, tem gerado bastante controvérsia por parte de estudiosos do tema, reguladores e empresas que atuam nesse segmento.

Um dos gigantes, Google, estabelece em um documento sobre o reconhecimento facial que a tecnologia relacionada ao rosto:

  1. precisa ser justa e por isso não deve reforçar ou amplificar os preconceitos existentes, especialmente onde isso possa impactar grupos sub-representados;
  2. não deve ser usada em vigilância que viole as normas internacionalmente aceitas; e
  3. precisa proteger a privacidade das pessoas, fornecendo o nível certo de transparência e controle.

Por outro lado, o próprio documento do Google exemplifica os benefícios do reconhecimento facial, como permitir que apenas a pessoa certa tenha acesso a informações confidenciais destinadas a ela ou, ainda, auxiliar na luta contra o tráfico de menores.

O Google traz cinco questões que devem ser consideradas em produtos e aplicativos envolvendo reconhecimento facial:

  1. uso pretendido;
  2. notificação, consentimento e controle;
  3. coleta, armazenamento e compartilhamento de dados;
  4. desempenho e design do modelo; e
  5. interface do usuário.

A questão crucial de natureza técnica, no entanto, é a dificuldade de estabelecer critérios para determinar se o software ou o equipamento que executa o reconhecimento facial é preciso ou não. A despeito dos aspectos técnicos, a questão relevante que se impõe é se o Estado teria o direito de rastrear alguém em espaços públicos, podendo estabelecer itinerários e acabar exercendo um controle opressivo sobre determinado indivíduo.

Seja como for, o posicionamento das entidades europeias causa preocupação na área de segurança, especialmente em locais onde procura-se identificar violadores da lei em fuga, tais como aeroportos e rodoviárias. A proibição total certamente será um duro golpe para as forças de segurança europeias.

No items found.