Notamos que você possui
um ad-blocker ativo!

Para acessar todo o conteúdo dessa página (imagens, infográficos, tabelas), por favor, sugerimos que desabilite o recurso.

Legislação

13/10/2021

FecomercioSP sugere padrões mínimos de segurança ao Marco Legal da Inteligência Artificial

Proposta, aprovada na Câmara, ainda precisa de melhorias que evitem judicialização, aumento de custos e insegurança às empresas

Ajustar texto: A+A-

FecomercioSP sugere padrões mínimos de segurança ao Marco Legal da Inteligência Artificial

Texto aprovado pela Câmara não trata da disposição orçamentária para colocar em prática os projetos
(Arte: TUTU)

A Câmara dos Deputados aprovou, em setembro, o Marco Legal da Inteligência Artificial (IA), contido no Projeto de Lei (PL) 21/20, que estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da IA no Brasil. O projeto segue para apreciação no Senado. Há cerca de dois meses, a FecomercioSP havia encaminhado várias sugestões ao projeto. Apesar de ser um avanço, a proposta ainda precisa de melhorias que reduzam a insegurança jurídica e os riscos de judicialização sobre questões éticas.

De modo geral, a Federação considera o projeto positivo e pondera que o avanço da IA no Brasil deve possibilitar o desenvolvimento científico e tecnológico como pilar estratégico ao País, além do bem-estar social, economia sustentável, aumento da produtividade, redução de custos, melhorias na prestação de serviços, entre outros pontos.

Contudo, os elementos e técnicas responsáveis por produzir tais benefícios socioeconômicos podem, também, trazer novos riscos a direitos fundamentais ou consequências adversas para a sociedade, aspecto que vem sendo abordado em estratégias nacionais e que gerou a produção de uma série de documentos de organizações governamentais, não governamentais e de indústrias.

Veja também
FecomercioSP realiza evento sobre os impactos e as oportunidades da Inteligência Artificial nos setores público e privado
Pandemia acelera uso da tecnologia na saúde e startups crescem neste segmento
Edtechs: conheça o principal segmento de startups do Brasil

O texto aprovado caminha neste sentido. Entretanto, a mera enumeração de princípios éticos abstratos e diretrizes genéricas, sem a definição de parâmetros mínimos de governança e boas práticas, é problemática. Confira, a seguir, os pontos que mais precisam de atenção do Legislativo e as principais sugestões que a FecomercioSP encaminhou aos parlamentares.

Em síntese, a normatização de padrões mínimos de governança tem como dever gerar confiança no mercado. Em primeiro lugar, é necessário estabelecer os requisitos de governança a fim de se garantir segurança jurídica. Embora haja consenso sobre valores a serem perseguidos, as obrigações concretas a serem extraídas dos princípios éticos ainda não estão claras. Isso abriria espaço para conflitos entre os princípios, o que delegaria ao Poder Judiciário a especificação de obrigações através de interpretações heterogêneas e fragmentadas.

Em segundo lugar, deve-se destacar a importância que padrões mínimos de governança desempenham para evitar ou mitigar o excesso de responsabilização: como a IA pode apresentar decisões imprevisíveis capazes de acarretar danos, os agentes desenvolvedores e empregadores da tecnologia podem apenas assegurar que seguiram as melhores práticas no ciclo de vida da IA.

“O comportamento equivocado da IA pode não corresponder a uma falha ou a componente defeituoso na ‘fabricação’. Assim, a demonstração de que a empresa seguiu padrões de governança chancelados em Lei pelo Estado pode mitigar o risco que desenvolvedores e empregadores sejam responsabilizados por eventuais danos, ou, no mínimo, reforçar o ônus da prova sobre aqueles que alegam o dano”, pondera o consultor em Proteção de Dados da FecomercioSP, Rony Vainzof.

Em terceiro lugar, o comprometimento das empresas com as boas práticas de governança estipuladas pelo Estado legitima a tecnologia perante os usuários, elevando o consumo e reduzindo o potencial de litígios e questionamentos acerca dos resultados apresentados pelos sistemas ou máquinas que empregam IA.

Autorregulação do mercado 

A Federação também ressalta que o estabelecimento de requisitos mínimos de governança legitima um modelo pautado em autorregulação e corregulação. Considerando a rápida evolução da tecnologia, conforme o modelo proposto, seriam estabelecidas apenas obrigações mínimas de governança, formuladas de modo aberto, cuja especificação caberia a associações setoriais de produção e prestação de serviços físicos ou digitais que adotem soluções informáticas incorporando IA. Uma vez direcionada e homologada pelo Estado, a autorregulação passa a ter maior legitimidade, e a conformidade com seus códigos reduz o risco de punições ou mesmo responsabilizações civis.

Também se propõe a criação de um sistema regulamentar proporcionado, centrado numa abordagem baseada no risco e que não crie restrições desnecessárias ao uso da tecnologia. Essa abordagem baseada em graus de risco, e complementada por códigos de conduta para os sistemas de IA, limita os riscos de violação a direitos fundamentais e à segurança dos cidadãos, ao passo que mantém os custos de conformidade a um valor mínimo, evitando desincentivos à adoção da tecnologia.

Investimentos

O texto aprovado pela Câmara não trata da disposição orçamentária para colocar em prática os projetos. Dessa forma, as propostas encaminhadas pela Entidade também sugerem artigos e mecanismos de estímulo e fomento ao investimento pelos setores econômicos.

A FecomercioSP propõe que o marco seja vinculado à observância de medidas de incentivo à inovação e à pesquisa científica estabelecidas pela Lei de Inovação Tecnológica, bem como aos parâmetros e aos regimes jurídicos previstos na legislação que trata de Parcerias Público-Privadas (PPPs).  

Além disso, considerando a importância da construção de um ecossistema que potencialize iniciativas e estimule a concorrência, em um mercado dinâmico, propõe-se que o Ministério de Ciência, Tecnologia e Inovações (MCTI) promova programas e oportunidades de desenvolvimento para pequenas empresas e startups, inclusive com a criação de ambientes controlados de inovação, com sandbox e hubs regulatórios. 

Em relação ao Fundo Nacional de Desenvolvimento Científico e Tecnológico (FNDCT), indicado pela Estratégia Brasileira de Inteligência Artificial (Ebia) como fonte de recursos, a Federação propõe que se insira na respectiva lei a priorização de investimentos em IA, criando uma modalidade de investimento associado a parcerias de pesquisa e desenvolvimento com entidades da sociedade civil. 

Quanto aos fundos cujas receitas são provenientes de indenizações por danos a interesses e direitos coletivos difusos, propõe-se inserir a “pesquisa e desenvolvimento de sistemas de IA em benefício à sociedade” como uma possível destinação de recursos.

Acompanhe a FecomercioSP

Para saber mais sobre as atividades de advocacy da FecomercioSP ou conhecer as atividades dos conselhos da FecomercioSP, fale conosco pelo e-mail ri@fecomercio.com.br. Se você ainda não é associado, clique aqui e conheça as vantagens.