close

Insider

Regulamentação da inteligência artificial: entenda o debate mundial

Written by Alana Team
on Setembro 09, 2020

O mercado de inteligência artificial está em franca evolução, e, com ela, a discussão sobre o arcabouço regulatório da tecnologia também ganha destaque. Conforme mais pessoas e  negócios adotam sistemas inteligentes, torna-se inevitável a determinação de normas para que seu uso seja responsável e seguro.

Como resultado, governos, empresas e entidades de fomento à inteligência artificial se movimentam a nível global para propor leis sobre o tema e adaptar legislações existentes ao contexto atual da tecnologia. 

A consultoria de pesquisa Cognilytica publicou no início do ano um relatório que mapeia as leis e regulamentações de Inteligência Artificial ao redor do mundo. 

De acordo com o levantamento, a maioria das propostas de legislação dizem respeito a tecnologias de reconhecimento facial, veículos autônomos, uso de dados pessoais e aspectos como vieses inconscientes e grau de supervisão humana sobre as decisões tomadas pelos algoritmos.

O desafio, porém, é fazer com que regulamentações emergentes não limitem o ritmo de evolução da tecnologia, e mantenham a vantagem competitiva de empresas que investem na área sem introduzir novos riscos. 

Alguns pontos de atenção que motivam a criação de leis para inteligência artificial são:

  • Leis de proteção de dados
  • Questionamento sobre implicações éticas da inteligência artificial
  • Decisões equivocadas em sistemas de reconhecimento facial, carros e armas autônomas 
  • Uso de inteligência artificial para fins maliciosos 

O que motiva as propostas para regular a inteligência artificial ao redor do mundo?

Antes de explorarmos quais são os principais marcos e propostas sobre a regulamentação dessa disciplina no mundo, é importante resgatarmos as razões que motivam esse tipo de legislação. 

Em 2016, a Organização de Cooperação pelo Desenvolvimento Econômico (OCDE) já divulgava um documento no qual listava preocupações em relação ao uso da inteligência artificial. Eram elas:

 

  1. Aumento do desemprego devido à automação
  2. Maior desequilíbrio na distribuição de renda
  3. Resultados enviesados pela ausência de supervisão humana

 

Com estes e outros aspectos em mente, a OCDE criou, em maio de 2019, um guia de recomendações para o desenvolvimento de inteligência artificial.

leis_img01-min

Propostas de regulamentação da inteligência artificial

O documento criado pela OCDE sobre princípios e responsabilidades teve influência na discussão sobre o tema em países da União Europeia, na China, nos Estados Unidos e no Brasil.

Em junho de 2019, o Ministério de Ciência e Tecnologia da China, um dos países líderes na disputa por Inteligência Artificial, divulgou regras de governança que devem ser seguidas no desenvolvimento de inteligência artificial no país.

Já o governo dos Estados Unidos publicou em janeiro de 2020 uma proposta de regulamentação da inteligência artificial. Na sequência, em fevereiro, a OCDE apresentou o Observatório de Políticas de AI, que tem a missão de auxiliar o desenvolvimento responsável da tecnologia.

Também em fevereiro de 2020, a Comissão da União Europeia abriu uma consulta pública para saber a opinião da sociedade sobre o tema. A partir desses dados, a Comissão definirá uma proposta legislativa que será debatida pelo Parlamento Europeu e pelos governos nacionais.

Antes disso, em 2019, a Comissão da UE havia criado um Guia de Ética para AI confiável, que previa pilares como supervisão humana, segurança e robustez técnica, privacidade e governança de dados, transparência e não-discriminação na construção de sistemas inteligentes.

A França e o Canadá, por sua vez, lideram a The Global Partnership on AI (GPAI), iniciativa que conta com a participação de governos de diversos países, entre eles a Austrália, Alemanha, México, Cingapura e Estados Unidos.

O objetivo principal da iniciativa  é guiar o desenvolvimento inteligência artificial que respeite:

  • os direitos humanos
  • a inclusão
  • a diversidade
  • a inovação
  • o crescimento econômico 

O projeto conta com apoio da OCDE e da UNESCO e foi oficializado em Junho de 2020.

Porém, de acordo com dados do estudo da Cognilytica, também publicado na Forbes, apesar das discussões sobre regulamentações ao redor do mundo estarem avançando, por enquanto nenhum país implementou legislações avançadas sobre o uso ético ou vieses inconscientes em AI.

leis_img02-min

Regulamentação da Inteligência Artificial no Brasil

O Brasil está seguindo o mesmo caminho de outros países que já propuseram medidas regulatórias na área.

Em 2019, foram propostos dois Projetos de Lei:

  • Projeto de Lei n° 5051, que visa estabelecer princípios e regulamentar o uso da Inteligência Artificial no Brasil 
  • Projeto de Lei nº 5691, para criar a Política Nacional de Inteligência Artificial

Os principais artigos dos projetos sugerem que os sistemas decisórios baseados em AI serão sempre auxiliares à tomada de decisão humana, além de sugerirem a criação de políticas específicas para proteção e qualificação de trabalhadores diante da automação. 

Os dois textos são inspirados nas recomendações europeias, e, até agora, seguem em tramitação no Senado, especificamente na Comissão de Ciência, Tecnologia, Inovação, Comunicação e Informática (CCT). 

Em fevereiro de 2020, esta mesma comissão abriu uma consulta pública para debater a legislação e o uso ético de AI, considerando eixos como força de trabalho, pesquisa e desenvolvimento, aplicação nos setores público e privado e segurança pública. 

Regulamentar ou não? Eis a questão

Apesar das muitas propostas de regulamentação em curso ao redor do mundo, um dos questionamentos da indústria é sobre até que ponto a regulamentação da inteligência artificial pode limitar ou expandir a inovação na área.

Afinal, não há um consenso global sobre parâmetros de ética e privacidade entre as empresas e países quando o assunto é inteligência artificial. Por exemplo: o uso de dados para um determinado fim pode ser aceitável na China, mas não nos Estados Unidos ou na Europa, por exemplo. 

Estabelecer boas práticas para inteligência artificial é importante, mas ao mesmo tempo é um processo muito subjetivo e que depende das aplicações e consequências de seu uso.

Por isso, regulamentações devem equilibrar as possibilidades de evolução exponencial da tecnologia e seus riscos, refletindo ambos os lados. Ainda, é importante que legislações sejam criadas com envolvimento da comunidade científica e indústria de tecnologia, já que governos nem sempre acompanham a velocidade das transformações e complexidades do mercado.

O posicionamento de empresas de AI

Além de governos e entidades setoriais da Inteligência Artificial, gigantes de tecnologia também têm se posicionado sobre a regulamentação da área, além de criarem guias de boas práticas para aplicação da tecnologia em suas estruturas.

Em janeiro deste ano, durante o Fórum Econômico Mundial de Davos, na Suíça,  o CEO da Microsoft, Satya Nadella, descreveu como “crucial” a regulamentação da Inteligência Artificial. Ele alertou sobre o risco de deixar as decisões 100% à mercê das máquinas, sem supervisão humana. 

O CEO do Google, Sundar Pitchai, escreveu no Financial Times que “não há dúvida de que a Inteligência Artificial precisa ser regulamentada”, destacando que legislações sobre o tema precisam equilibrar benefícios da AI para a sociedade e danos potenciais, como relacionados aos carros autônomos e deepfakes (imagens geradas por computador).

Outras empresas, como Apple e IBM, também fizeram um apelo ao governo dos Estados Unidos para o estabelecimento de padrões de uso da tecnologia. 

Algumas das big techs, incluindo Google, Amazon e IBM, inclusive anunciaram que deixariam de colaborar com agentes governamentais no desenvolvimento de tecnologias de vigilância em massa, como ferramentas de reconhecimento facial para uso público, devido a preocupações com as consequências do uso da tecnologia.

Leis de Proteção de Dados e a Inteligência Artificial

Uma das preocupações levantadas por defensores da regulamentação da AI tem a ver com o uso de dados pessoais e sensíveis dos usuários. Não por acaso, estamos vendo a ascensão de regulamentações de proteção de dados ao redor do mundo, como o GDPR Europeu e a LGPD, no Brasil.

De acordo com o relatório da Cognilytica, pelo menos 31 países já possuem leis proibitivas quanto ao uso e compartilhamento de dados sem consentimento de usuários.

Uma vez que dados abastecem sistemas inteligentes, que exigem altos volumes de dados de qualidade, um dos riscos é o uso inadvertido de dados sem o uso e consentimento de usuários, daí a importância de leis de proteção. Além disso, cada vez mais consumidores querem saber como sistemas inteligentes estão usando suas informações.

Futuro da regulamentação da AI

A discussão sobre a regulamentação da inteligência artificial ainda é, em grande parte, teórica. No momento, governos e empresas estão focados em criar manuais e guias de melhores práticas para o setor, antes de avançar com a efetivação de leis.

Contudo, na esteira das leis de proteção de dados e à medida em que a tecnologia avança, é provável que países se vejam forçados a consolidar legislações na área, de preferência levando em conta o contexto de desenvolvimento local da Inteligência Artificial.

Quer aprender mais sobre os conceitos e aplicações da Inteligência Artificial? Ouça os episódios do Inside Alana Podcast!

linha-min-1

 

personagens escrevendo

 



assinatura_teamalana

 

Você também pode gostar:

Insider

[Vídeo] Mulheres na liderança: bate-papo sobre inovação e tecnologia com Luiza Helena Trajano

Criar um negócio digital e expandi-lo não é uma tarefa simples. É necessário investir tempo e dinheiro em tecnologia, in...

Insider

Black Friday: o desafio do aumento de volume de vendas e atendimento

A Black Friday é a promoção mais esperada do ano. É a oportunidade que o consumidor tem de aproveitar ótimos descontos e...

Insider

A inteligência artificial e o futuro da comunicação entre humanos e máquinas

A interpretação da linguagem humana é essencial para a comunicação entre humanos e máquinas. Ela acontece através do mét...

Receba insights sobre
Inteligência Artificial por e-mail,
na medida certa.