Desafios para a regulamentação de IA no Brasil

A quantidade de publicações e o "hype" gerado pela IA são estarrecedores!!! Será que tudo são flores? Para além das utilidades e dos benefícios, é preciso que as empresas deixem a euforia um pouco de lado e tratem com prudência e cautela a implementação das aplicações que utilizam a IA. E os agentes regulatórios, o que tem com isso?

Pular etapas e transpor fronteiras inadequadas pode representar sérios riscos. Adicionando mais uma pitada de tempero, é importante que nos lembremos das questões éticas sobre o uso de IA. É nesse contexto que precisamos discutir a pauta de regulamentação no Brasil, pois o parte do exterior tem tratado isso com mais foco e iniciativas práticas.

Neste post, exploramos os seis principais desafios que estão impedindo a implementação de leis abrangentes para a IA no nosso país. Então, vamos ao entender o panorama atual e provocar algumas reflexões!

1. Velocidade da Inovação 🚀

Na visão da Consultoria Gartner a inovação em IA está acontecendo em ritmo acelerado, acima da média das tecnologias monitoradas no Hype Cycle. Trata-se de metodologia que mostra como uma tecnologia ou aplicação evolui ao longo do tempo, desde o seu surgimento até a sua adoção generalizada.

A Bain & Company observa que a aplicações de IA Generativa tem aumentado a produtividade para desenvolvedores e profissionais de outras áreas do conhecimento. Além de favorecer a inovação, isso fez com que muitas empresas começassem a repensar os seus processos de negócio e a gestão dos seus recursos humanos.

Fatores como esses evidenciam a velocidade do surgimento de novas aplicações e a dificuldade para “digerir” os avanços e direcionar ações e aspectos regulatórios. Mais do que acompanhar esse ritmo é preciso também antecipar movimentos. É grande o desafio para os reguladores. Como podemos garantir que a regulamentação seja flexível o suficiente para se adaptar às mudanças constantes?

2. Transparência e Interpretabilidade 🔍

O primeiro ponto a ser destacado é que os algoritmos de IA costumam ser mantidos em sigilo, isto é, a forma como operam é considerada estratégica e confidencial para as empresas. Isso traz à baila uma importante questão: até que ponto essa falta de transparência deve ser tolerada quando ela afeta clientes e outras partes interessadas?

De acordo com a Deloitte, além do segredo, há a complexidade intrínseca dos algoritmos, o que torna difícil assegurar total confiabilidade. A empresa ressalta a seguinte interrogação: "Devemos confiar em informações supostamente imparciais que são geradas com base em critérios 'secretos'? Qual deve ser o papel do governo na promoção da transparência?”

A complexidade dos algoritmos de IA muitas vezes resulta na chamada 'Black Box'. Esse termo refere-se a um sistema ou modelo de IA cujo funcionamento interno é complexo e não pode ser facilmente interpretado por seres humanos. Isso gera preocupações quanto à falta de transparência nas decisões, que podem levar a injustiças e critérios de julgamento inadequados.

Este é um dos pontos em discussão no âmbito da regulamentação da IA. Como podemos assegurar a transparência nesse processo?"

3. Direitos Individuais 🤝

Algumas propostas de regulação observadas ao redor do mundo ainda apresentam critérios genéricos para regular os direitos individuais. A concepção de princípios norteadores é relevante e necessária. No entanto, é fundamental estabelecer uma camada adicional que aborde questões de proteção dos direitos das pessoas.

O Instituto Alan Turing publicou um estudo abrangente sobre os aspectos éticos e de segurança no uso da IA (Understanding artificial intelligence ethics and safety | The Alan Turing Institute). Nesse estudo, são descritos potenciais problemas dos sistemas baseados em IA que podem afetar, entre outros fatores, os direitos individuais, conforme se verifica na tabela abaixo.

Como podemos criar regulamentações específicas que resguardem os direitos individuais sem sufocar a inovação?

4. Privacidade e Dados 🔒

Ainda segundo o Instituto Alan Turing, a possibilidade de invasões à privacidade e resultados que podem não ser confiáveis são desafios significativos nas discussões sobre os aspectos éticos e de segurança no uso da IA, conforme ilustrado abaixo.

Como podemos encontrar um equilíbrio entre o uso desses dados e a proteção da privacidade?

5. Concorrência Global 🌍

As especificidades da regulamentação em cada país podem representar um desafio para as operações de empresas multinacionais. Vale ressaltar que o Observatório de Políticas de Inteligência Artificial, organizado pela Organização para a Cooperação e Desenvolvimento Econômico (OCDE), conta com 800 iniciativas de políticas voltadas para a IA em mais de 69 países.

Portanto, uma agenda de harmonização, semelhante àquela realizada no campo da contabilidade em nível global e liderada pelo International Accounting Standards Board, é fundamental para o desenvolvimento da IA.

Como o Brasil pode se posicionar de forma competitiva no cenário internacional, considerando esse contexto?

6. Escassez de Especialistas 🧠

Uma pesquisa recente realizada pela Mckinsey & Company sobre o perfil dos talentos de IA revelou que ainda é um desafio contratar esse tipo de profissionais, mas que houve uma melhora nesse panorama.

A pesquisa destaca que a contratação de engenheiros de machine learning (aprendizado de máquina) e product owners ainda permanece como um grande desafio. Outro ponto relevante é a inclusão de engenheiros de prompts, algo muito desejado devido à expansão das aplicações de IA Generativa no ambiente corporativo.

A complexidade envolvida no desenvolvimento e na combinação de aplicações de IA requer profissionais com um amplo repertório de habilidades, como pode ser visto na figura acima. Encontrar especialistas que possuam um entendimento abrangente da tecnologia, ética, direito, estratégia, ESG e outras áreas é um desafio de grande importância.

Como podemos superar a escassez de especialistas nesse campo?

Esse contexto requer maior debate e participação dos diversos setores envolvidos no Brasil. A grande questão é balancear a regulação de forma que não impeçamos o desenvolvimento e a "industrialização" da IA. A despeito dos desafios serem grandes, a boa notícia é que os legisladores e especialistas estão trabalhando e discutindo possíveis soluções.

Assine a newsletter Future Ready Business (subscribe) para ficar atualizado sobre essas discussões no Brasil e no mundo. Assine a nossa newsletter logo abaixo! 📩

Subscrever

Fontes:

Seis desafios que impedem a regulamentação da IA no Brasil

You’re Out of Time to Wait and See on AI | Bain & Company

What’s New in Artificial Intelligence From the 2023 Gartner Hype Cycle™

The 5 Biggest Artificial Intelligence (AI) Trends In 2023 (forbes.com)

A ascensão da ética na era dos dados e da IA | Deloitte Portugal

Understanding artificial intelligence ethics and safety | The Alan Turing Institute

O cenário de Inteligência Artificial e de Advanced Analytics na América Latina | McKinsey

O estado da inteligência artificial em 2023: o ano do crescimento explosivo da IA Generativa | McKinsey

Artificial Intelligence regulation, global trends | EY Malaysia

OECD’s live repository of AI strategies & policies - OECD.AI