Com o objetivo de estabelecer padrões comuns, a Comissão Europeia apresentou ontem as novas regras para a utilização de inteligência artificial. Empresas que não cumprirem as regras correrão o risco de penalidades de até 6% do faturamento
A inteligência artificial deve rimar com confiança para a UE.
Ontem, a Comissão Europeia apresentou um pacote de regras sobre o uso de inteligência artificial ( amplamente em linha com o que a mídia antecipou na semana passada ), incluindo a proibição da maioria dos sistemas de vigilância.
Esta é a tentativa de Bruxelas de definir padrões globais para IA, uma tecnologia-chave dominada pela China e pelos Estados Unidos.
Todos os sistemas considerados "uma clara ameaça à segurança, aos meios de subsistência e aos direitos das pessoas", como os sistemas de "pontuação social", serão banidos. A utilização de sistemas de identificação biométrica, como o reconhecimento facial, em espaços públicos "é, em princípio, proibida". As exceções permitidas dizem respeito à luta contra o terrorismo, à proteção da segurança ou à busca de uma criança desaparecida. Isto é afirmado no projeto de lei sobre IA apresentado pela Comissão da UE.
As aplicações de alto risco “estarão sujeitas a requisitos rigorosos antes de serem colocadas no mercado”. Em caso de derrogação, a utilização "está sujeita à autorização de um órgão judicial ou independente e aos limites de tempo e espaço adequados".
De acordo com o documento, as empresas que não cumprirem os regulamentos da UE podem enfrentar multas de até 6% do seu faturamento.
As propostas são o movimento mais recente da UE para manter seu papel de porta-estandarte global para a regulamentação de tecnologia, antecipando-se aos EUA e à China.
O comissário europeu para o Mercado Interno Thierry Breton disse que a Europa se tornará o primeiro continente a fornecer orientações sobre o uso de inteligência artificial.
Todos os detalhes.
A CLASSIFICAÇÃO DE APLICAÇÕES AI
No pacote de regras proposto pela Comissão Europeia para introduzir um quadro jurídico que põe ordem no mundo da IA, o executivo da UE classifica as novas tecnologias por níveis de risco: inaceitável, elevado, limitado, mínimo.
SISTEMAS DE ALTO RISCO
Entre os sistemas considerados de alto risco e, portanto, sujeitos a requisitos e verificações periódicas, encontram-se as tecnologias utilizadas no sector dos transportes “que podem pôr em perigo a vida e a saúde dos cidadãos” e os mecanismos de assistência na escola ou na formação profissional “Que podem determinar acesso à educação e planos de carreira ”. Mas também programas de gestão de trabalhadores e acesso ao trabalho (por exemplo, o software para ordenar os currículos dos candidatos a um emprego).
Incluem máquinas "que manipulam o comportamento humano para fugir da vontade dos usuários", como jogos para menores que usam auxílio vocal e são capazes de estimular comportamentos perigosos, mas também programas que atribuem uma pontuação social aos cidadãos em função de seus comportamentos.
E OS COM RISCO MÍNIMO
Por outro lado, os videogames habilitados para inteligência artificial e filtros de spam se enquadram na categoria de risco mínimo. A este respeito, a Comissão optou por não intervir com novas regras, uma vez que "estes sistemas de IA representam apenas um risco mínimo ou nenhum risco para os direitos ou a segurança dos cidadãos".
SOBRE RECONHECIMENTO FACIAL
Todos os sistemas de identificação biométrica são considerados de alto risco e, portanto, embora não sejam totalmente banidos, estarão sujeitos a uma série de requisitos para proteger a privacidade.
Mas seu uso em tempo real em espaços públicos para combater o crime será – em princípio – proibido.
A UE não se tornará, portanto, como a China, onde os sistemas de reconhecimento facial ou a identificação biométrica remota são usados em grande escala.
EXCEÇÕES FORNECIDAS
No entanto, o executivo europeu admite o uso de identificação biométrica apenas se “estritamente necessário” em casos excepcionais. Por exemplo, para procurar uma criança desaparecida, para prevenir uma ameaça terrorista iminente ou para detectar, localizar, identificar ou processar uma pessoa suspeita de ter cometido um crime grave.
AUTORIZAÇÃO DA AUTORIDADE GUIDICIAL NECESSÁRIA
A utilização de técnicas de reconhecimento biométrico à distância deve ser autorizada pela autoridade judiciária, ou por outra instituição independente, e deve ter limites adequados no tempo, no espaço e nas bases de dados utilizadas.
AS SANÇÕES PARA VIOLAÇÕES
As empresas que violarem as regras enfrentam multas de até 6% do seu faturamento global ou 30 milhões de euros, o que for maior.
PLANEJAMENTO DE CRIAÇÃO DE UM COMITÊ EUROPEU DE IA
Em termos de governação, a Comissão propõe que as autoridades nacionais de fiscalização do mercado supervisionem as novas regras. Está também prevista a criação de um comité europeu de inteligência artificial, o que irá facilitar a implementação das novas normas regulamentares.
VON DER LEYEN: "UM PLANO PARA GARANTIR A POSIÇÃO DE LÍDER DA UE NA IA"
“Hoje apresentamos novas regras para inteligência artificial confiável. Eles definem altos padrões com base em diferentes níveis de risco. A inteligência artificial é uma oportunidade fantástica para a Europa. E os cidadãos merecem tecnologias em que possam confiar ”. A presidente da Comissão Européia, Ursula von der Leyen, escreveu no Twitter, comentando a nova proposta de regulamentação da IA apresentada por Bruxelas.
“Hoje também apresentamos um plano coordenado para delinear as reformas e os investimentos de que precisamos para garantir nossa posição de liderança em Ai, globalmente. Com quase € 150 bilhões em investimentos digitais – 20% do orçamento – Next Generation Eu ajudará a fortalecer a excelência na IA da UE ”, acrescentou von der Leyen.
VESTAGER: "A CONFIANÇA NÃO É OPCIONAL NA INTELIGÊNCIA ARTIFICIAL"
“No que diz respeito à inteligência artificial, a confiança não é opcional, é indispensável”, sublinhou a Comissária Margrethe Vestager, apresentando as novas regras sobre inteligência artificial. "Essas regras representam um avanço, que permitirá à UE liderar o desenvolvimento de novos padrões globais para garantir que a IA seja confiável." “Ao definir as regras, podemos preparar o caminho para a tecnologia ética em todo o mundo e garantir que a UE continue competitiva. As nossas regras serão adaptadas às necessidades futuras e a favor da inovação e intervirão onde for estritamente necessário: quando a segurança e os direitos fundamentais dos cidadãos da UE estiverem em jogo ”, acrescentou o Comissário.
A CRÍTICA DOS ATIVISTAS DE DIREITOS CIVIS
Grupos de direitos civis, no entanto, alertaram que as brechas na proposta, que incluem multas pesadas por violações e definir salvaguardas rígidas para aplicações de alto risco, podem abrir espaço para abusos de tecnologia por parte do governo.
A European Digital Rights destacou lacunas preocupantes na proposta. “O projeto de lei não proíbe a extensão total dos usos inaceitáveis de IA e, em particular, todas as formas de vigilância biométrica em massa. Isso deixa uma lacuna preocupante para as tecnologias discriminatórias e de vigilância usadas por governos e empresas ”, disse Sarah Chander da associação, conforme relatado pela Reuters .
AS PRÓXIMAS ETAPAS
O rascunho do documento ainda está sujeito a alterações.
Na verdade, o pacote regulamentar terá de obter luz verde dos governos e do Parlamento da UE antes de entrar em vigor.
AQUI O DOCUMENTO COMPLETO DAS REGRAS PROPOSTAS PELA COMISSÃO EUROPEIA
Esta é uma tradução automática de uma publicação publicada em Start Magazine na URL https://www.startmag.it/innovazione/intelligenza-artificiale-ue-regole/ em Thu, 22 Apr 2021 13:56:08 +0000.