PL quer regular a inteligência artificial

Projeto prevê autoridade nacional de inteligência artificial e registro dos sistemas

O texto proposto dedica capítulo à proteção dos direitos das pessoas afetadas por sistemas de inteligência artificial. Toda pessoa afetada terá garantia de acesso a explicações de como são tomadas as decisões desses sistemas. A pessoa pode contestar decisões automatizadas e solicitar intervenção humana. Há ainda o direito à correção de vieses discriminatórios. Define direitos para qualquer contexto em que há interação entre máquina e ser humano. Por exemplo, em um ambiente com reconhecimento facial, as pessoas devem ser informadas. A regulação se dará com base nos riscos dentro do contexto da aplicação.

A proposta diz que toda tecnologia de IA precisará passar por testes antes de se tornar comercial, e deverá ter um registro oficial para fins de responsabilização. A autoridade competente poderá fazer análises algorítmicas para classificar o grau de risco oferecido.

Risco excessivo

A lei proíbe uso de IA classificada como de risco excessivo, aquelas usadas para induzir comportamentos danosos à saúde ou segurança; ou que explorem vulnerabilidades de grupos específicos, como crianças ou idosos. O Poder Público não poderá usar IA para classificar o comportamento social ou personalidade individual, nem para estabelecer pontuações para definir acesso de pessoas a bens e serviços e políticas públicas. Na segurança pública, só é permitida biometria à distância em espaços públicos conforme lei específica ainda a ser elaborada ou com autorização judicial.

Risco Alto

Neste caso são sistemas de IA utilizados para gestão de infraestruturas críticas, como trânsito, redes de água e luz; educação; recrutamento; avaliação de elegibilidade de pessoas a cargos; avaliação da capacidade de endividamento; veículos autônomos; controle de fronteiras; entre outros. O projeto elenca ainda as medidas a serem adotadas para garantir a transparência e a mitigação de vieses; fixa medidas adicionais para sistemas de alto risco e para sistemas governamentais de inteligência artificial; e normatiza o procedimento para a avaliação de impacto algorítmico. 

Determina que o Poder Executivo designe “autoridade competente” para fiscalizar a aplicação da tecnologia, especifica suas competências e fixa sanções administrativas. Mas existe previsão de sandbox regulatório para experimentação. As multas por descumprimento da Lei proposta podem ser de R$ 50 milhões a 2% do faturamento do grupo econômico, e chegar à suspensão parcial, total, temporária ou definitiva da empresa no segmento de IA. No caso de infrações relacionadas a coleta e tratamento de dados, vale o que determina a LGPD.

Quer receber notícias da ACAERT? Assine a newsletter - Assine aqui e receba por e-mail

Diz ainda que não há proteção a propriedade intelectual no uso de dados para treinamento de sistemas de IA. E que os direitos dos clientes quando se deparam com a IA em relações de consumo são definidas pelo Código de Defesa do Consumidor.

Repórter: Telesíntese