ÓRGÃOS EUROPEUS APROVAM PROPOSTA CONJUNTA PARA PROIBIR O USO DE IA PARA RECONHECIMENTO AUTOMATIZADO

July 12, 2021

O Conselho Europeu de Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (EDPS) anunciaram em 21 de junho de 2021 que aprovaram um parecer conjunto sobre a Proposta de Um Regulamento da Comissão Europeia que estabelece regras harmonizadas sobre inteligência artificial (IA).

As entidades querem vetar o reconhecimento facial por meio do uso da IA em um espaço público. Alegam que implantar identificação biométrica remota em espaços acessíveis ao público significa o fim do anonimato nesses lugares. Aplicações como o reconhecimento facial ao vivo interferem em direitos e liberdades fundamentais a tal ponto que podem colocar em questão a essência desses direitos e liberdades.

Dessa forma, isso exigiria uma aplicação imediata da abordagem de precaução. Uma proibição geral do uso do reconhecimento facial em áreas de acesso público é o ponto de partida necessário se quisermos preservar nossas liberdades e criar um arcabouço legal centrado no ser humano para a IA. O regulamento proposto também deve proibir qualquer tipo de uso da IA para segregação social  , pois é contra os valores fundamentais da UE e pode levar à discriminação.

O parecer das duas entidades defende ainda os seguintes posicionamentos:

  1. a proibição de sistemas de IA que utilizam biometria para categorizar indivíduos em grupos com base na etnia, gênero, orientação política ou sexual, ou outros motivos sobre os quais a discriminação é proibida;
  2. o uso da IA para inferir emoções de uma pessoa física é altamente indesejável e deve ser proibido, exceto para casos muito específicos, como alguns fins de saúde, onde o reconhecimento de emoções do paciente é importante; e
  3. o uso de IA para qualquer tipo de segregação social deve ser proibido.

O fato é que o reconhecimento facial, apesar do inegável apelo do desenvolvimento da tecnologia, tem gerado bastante controvérsia por parte de estudiosos do tema, reguladores e empresas que atuam nesse segmento.

Um dos gigantes, Google, estabelece em um documento sobre o reconhecimento facial que a tecnologia relacionada ao rosto:

  1. precisa ser justa e por isso não deve reforçar ou amplificar os preconceitos existentes, especialmente onde isso possa impactar grupos sub-representados;
  2. não deve ser usada em vigilância que viole as normas internacionalmente aceitas; e
  3. precisa proteger a privacidade das pessoas, fornecendo o nível certo de transparência e controle.

Por outro lado, o próprio documento do Google exemplifica os benefícios do reconhecimento facial, como permitir que apenas a pessoa certa tenha acesso a informações confidenciais destinadas a ela ou, ainda, auxiliar na luta contra o tráfico de menores.

O Google traz cinco questões que devem ser consideradas em produtos e aplicativos envolvendo reconhecimento facial:

  1. uso pretendido;
  2. notificação, consentimento e controle;
  3. coleta, armazenamento e compartilhamento de dados;
  4. desempenho e design do modelo; e
  5. interface do usuário.

A questão crucial de natureza técnica, no entanto, é a dificuldade de estabelecer critérios para determinar se o software ou o equipamento que executa o reconhecimento facial é preciso ou não. A despeito dos aspectos técnicos, a questão relevante que se impõe é se o Estado teria o direito de rastrear alguém em espaços públicos, podendo estabelecer itinerários e acabar exercendo um controle opressivo sobre determinado indivíduo.

Seja como for, o posicionamento das entidades europeias causa preocupação na área de segurança, especialmente em locais onde procura-se identificar violadores da lei em fuga, tais como aeroportos e rodoviárias. A proibição total certamente será um duro golpe para as forças de segurança europeias.

RECENT POSTS

LINKEDIN FEED

Newsletter

Register your email and receive our updates

Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.

FOLLOW US ON SOCIAL MEDIA

Newsletter

Register your email and receive our updates-

Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.

FOLLOW US ON SOCIAL MEDIA

Licks Attorneys' Government Affairs & International Relations Blog

Doing Business in Brazil: Political and economic landscape

Licks Attorneys' COMPLIANCE Blog

ÓRGÃOS EUROPEUS APROVAM PROPOSTA CONJUNTA PARA PROIBIR O USO DE IA PARA RECONHECIMENTO AUTOMATIZADO

No items found.

O Conselho Europeu de Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (EDPS) anunciaram em 21 de junho de 2021 que aprovaram um parecer conjunto sobre a Proposta de Um Regulamento da Comissão Europeia que estabelece regras harmonizadas sobre inteligência artificial (IA).

As entidades querem vetar o reconhecimento facial por meio do uso da IA em um espaço público. Alegam que implantar identificação biométrica remota em espaços acessíveis ao público significa o fim do anonimato nesses lugares. Aplicações como o reconhecimento facial ao vivo interferem em direitos e liberdades fundamentais a tal ponto que podem colocar em questão a essência desses direitos e liberdades.

Dessa forma, isso exigiria uma aplicação imediata da abordagem de precaução. Uma proibição geral do uso do reconhecimento facial em áreas de acesso público é o ponto de partida necessário se quisermos preservar nossas liberdades e criar um arcabouço legal centrado no ser humano para a IA. O regulamento proposto também deve proibir qualquer tipo de uso da IA para segregação social  , pois é contra os valores fundamentais da UE e pode levar à discriminação.

O parecer das duas entidades defende ainda os seguintes posicionamentos:

  1. a proibição de sistemas de IA que utilizam biometria para categorizar indivíduos em grupos com base na etnia, gênero, orientação política ou sexual, ou outros motivos sobre os quais a discriminação é proibida;
  2. o uso da IA para inferir emoções de uma pessoa física é altamente indesejável e deve ser proibido, exceto para casos muito específicos, como alguns fins de saúde, onde o reconhecimento de emoções do paciente é importante; e
  3. o uso de IA para qualquer tipo de segregação social deve ser proibido.

O fato é que o reconhecimento facial, apesar do inegável apelo do desenvolvimento da tecnologia, tem gerado bastante controvérsia por parte de estudiosos do tema, reguladores e empresas que atuam nesse segmento.

Um dos gigantes, Google, estabelece em um documento sobre o reconhecimento facial que a tecnologia relacionada ao rosto:

  1. precisa ser justa e por isso não deve reforçar ou amplificar os preconceitos existentes, especialmente onde isso possa impactar grupos sub-representados;
  2. não deve ser usada em vigilância que viole as normas internacionalmente aceitas; e
  3. precisa proteger a privacidade das pessoas, fornecendo o nível certo de transparência e controle.

Por outro lado, o próprio documento do Google exemplifica os benefícios do reconhecimento facial, como permitir que apenas a pessoa certa tenha acesso a informações confidenciais destinadas a ela ou, ainda, auxiliar na luta contra o tráfico de menores.

O Google traz cinco questões que devem ser consideradas em produtos e aplicativos envolvendo reconhecimento facial:

  1. uso pretendido;
  2. notificação, consentimento e controle;
  3. coleta, armazenamento e compartilhamento de dados;
  4. desempenho e design do modelo; e
  5. interface do usuário.

A questão crucial de natureza técnica, no entanto, é a dificuldade de estabelecer critérios para determinar se o software ou o equipamento que executa o reconhecimento facial é preciso ou não. A despeito dos aspectos técnicos, a questão relevante que se impõe é se o Estado teria o direito de rastrear alguém em espaços públicos, podendo estabelecer itinerários e acabar exercendo um controle opressivo sobre determinado indivíduo.

Seja como for, o posicionamento das entidades europeias causa preocupação na área de segurança, especialmente em locais onde procura-se identificar violadores da lei em fuga, tais como aeroportos e rodoviárias. A proibição total certamente será um duro golpe para as forças de segurança europeias.

No items found.