A Inteligência Artificial (IA) tem uma enorme capacidade de resolver problemas, “mastigar dados”, e entregar uma conclusão, mas ela não pode tomar decisões que afetem a vida das pessoas. O ser humano precisa estar no comando para que a IA possa auxiliar as pessoas na tomada das melhores decisões. Devemos ter em mente que as decisões são em grande parte emocionais e esse componente emocional é importante para que sejam mais justas.
Já está presente em muitos sistemas e ferramentas que utilizamos no dia a dia e estará cada vez mais, seja nos serviços públicos, privados, nas empresas que existem e nas novas que serão criadas. Novos empregos e novas aplicações surgem numa velocidade exponencial. A chamada IA tem potencial para produzir muita coisa boa, mas também para criar problemas. Todo aprendizado de máquina e a utilização dependem de dados. É aí que entra o que é fundamental – a proteção de dados, as questões de ética e tudo que envolve a proteção das pessoas.
Por isso tudo, é fundamental que o Brasil tenha uma legislação que regule a Inteligência Artificial. Que seja, ao mesmo tempo, flexível para permitir o desenvolvimento da tecnologia, das empresas e dos negócios, mas também sábia o suficiente para que a privacidade das pessoas seja preservada. É um equilíbrio delicado que precisa ser alcançado. Não podemos ter uma lei que seja extremamente restritiva, que no momento da publicação já esteja desatualizada, por causa da velocidade da mudança da tecnologia. Mas é necessário que tenhamos uma legislação que seja adequada e eficiente para o desenvolvimento do País.
Estamos totalmente empenhados nisso. Faço parte da Comissão de Ciência e Tecnologia e Inovação e lá criamos uma comissão temporária para aprofundar o texto da proposta sugerida por um grupo de juristas, a pedido do presidente do Senado, Rodrigo Pacheco.
Ao longo dos últimos meses, realizamos 10 audiências públicas. Ouvimos em torno de 70 especialistas de diversos setores, representantes de universidades, centros de pesquisas, empresas, setor público, Ministério Público e judiciário. Presidi a maior parte delas.
Uma preocupação que tenho é em relação ao viés de medo da tecnologia que vejo no projeto em análise. Precisamos de uma lei que garanta espaço para a inovação. Simples, efetiva e também protetiva.
Não podemos incluir tudo e todos. A Inteligência Artificial é uma tecnologia usada por todos os setores e já temos agências específicas para eles. Por exemplo, a saúde tem a Anvisa, que cuida da regulação e fiscalização. As telecomunicações, a Anatel, a ANA, que cuida da água, a ANAC, a aviação, entre outras. Ou seja, temos as agências reguladoras e muitas leis que sustentam os pilares da sociedade e da democracia.
Temas como segurança cibernética, são transversais, estão em todos os setores. Então, precisamos estar atentos para não haver choque entre eles. Se criarmos, por exemplo, uma agência de IA, ela não pode entrar em choque com as outras agências, ou com a justiça, ou com as leis já existentes, como a Lei de Proteção de Dados. Isso não seria suficiente.
Portanto, ao criar essa legislação específica de IA, precisamos respeitar as leis e estruturas já existentes no Brasil para que haja a participação dos diversos setores e não a interferência.
Minha emenda
Como integrante da comissão que analisa o projeto, apresentei uma emenda substitutiva ao parecer do relator, senador Eduardo Gomes.
Uma proposta simples e efetiva, com apenas 22 artigos, que estabelece princípios para o fomento, o desenvolvimento e o uso seguro, confiável e responsável da Inteligência Artificial, com foco em 4 perspectivas: ciência e tecnologia aplicada à IA, a aplicação da IA na vida das pessoas, nas empresas no setor público, as implicações dessas aplicações, como isso atinge positivamente e negativamente a vida das pessoas, e, por último, a questão jurídica para que tudo seja definido de forma correta.
Para equilibrar inovação e segurança, definimos princípios como a centralidade da pessoa humana, respeito aos direitos humanos e valores democráticos, proteção ao meio ambiente, promoção da igualdade e não discriminação, e o apoio ao desenvolvimento científico e tecnologico. Esses fundamentos orientam o desenvolvimento de sistemas de IA de maneira que eles contribuam positivamente para a sociedade e economia, sem prejudicar os valores éticos e sociais, e garantir soberania nacional.
Eu trabalhei 30 anos com investigação e prevenção de acidentes aeronáuticos. Por isso, considero fundamental a inclusão de mecanismos objetivos de análise de riscos, de segurança e confiabilidade para sistemas de IA.
Proponho que a classificação de risco de utilização de um determinado sistema de IA, em qualquer setor de atividade, seja baseada em probabilidades e impacto negativo do uso do Sistema, segundo os seguintes critérios, definidos em tabelas anexadas à emenda: avaliação de probabilidade, impacto, cálculo e classificação de risco. Essa é uma prática eficiente e comum adotada nas diversas áreas que tratam de riscos, como a segurança de voo.
Minha proposta também orienta como a população deve interagir com sistemas de IA, enfatizando o respeito, conhecimento, supervisão adequada, responsabilidade nas decisões e a promoção do bem-estar humano. Estas diretrizes são fundamentais para assegurar que o uso da IA no Brasil seja alinhado com os valores éticos e legais da sociedade.
Lembre-se que, diferente de outras tecnologias, a maneira como o usuário interage com a IA pode gerar aprendizado positivo ou negativo do sistema.
Criar uma legislação é um grande desafio, para uma área que muda em velocidade exponencial, maior ainda. Mas estamos enfrentando com a atenção e o cuidado que a população merece. Espero que em breve, as muitas mãos que constroem essa lei, aprovem uma versão final que atenda os interesses das pessoas e do desenvolvimento do Brasil.
Para saber mais sobre Inteligência Artificial, acesse o meu canal youtube.com/@astropontes e veja o último episódio do AstroPontesPodcast. Reuni dois grandes especialistas para debater o assunto: André Queiroz, diretor de Inovação e Produto da Seno, e Eduardo Paranhos, líder do grupo de trabalho de Inteligência Artificial da Associação Brasileira de Empresas de Software (ABS).
