O mercado de inteligência artificial está em franca evolução, e, com ela, a discussão sobre o arcabouço regulatório da tecnologia também ganha destaque. Conforme mais…
Tempo de leitura: 7 min
O mercado de inteligência artificial está em franca evolução, e, com ela, a discussão sobre o arcabouço regulatório da tecnologia também ganha destaque. Conforme mais pessoas e negócios adotam sistemas inteligentes, torna-se inevitável a determinação de normas para que seu uso seja responsável e seguro.
Como resultado, governos, empresas e entidades de fomento à inteligência artificial se movimentam a nível global para propor leis sobre o tema e adaptar legislações existentes ao contexto atual da tecnologia.
A consultoria de pesquisa Cognilytica publicou no início do ano um relatório que mapeia as leis e regulamentações de Inteligência Artificial ao redor do mundo.
De acordo com o levantamento, a maioria das propostas de legislação dizem respeito a tecnologias de reconhecimento facial, veículos autônomos, uso de dados pessoais e aspectos como vieses inconscientes e grau de supervisão humana sobre as decisões tomadas pelos algoritmos.
O desafio, porém, é fazer com que regulamentações emergentes não limitem o ritmo de evolução da tecnologia, e mantenham a vantagem competitiva de empresas que investem na área sem introduzir novos riscos.
Alguns pontos de atenção que motivam a criação de leis para inteligência artificial são:
Antes de explorarmos quais são os principais marcos e propostas sobre a regulamentação dessa disciplina no mundo, é importante resgatarmos as razões que motivam esse tipo de legislação.
Em 2016, a Organização de Cooperação pelo Desenvolvimento Econômico (OCDE) já divulgava um documento no qual listava preocupações em relação ao uso da inteligência artificial. Eram elas:
Com estes e outros aspectos em mente, a OCDE criou, em maio de 2019, um guia de recomendações para o desenvolvimento de inteligência artificial.
O documento criado pela OCDE sobre princípios e responsabilidades teve influência na discussão sobre o tema em países da União Europeia, na China, nos Estados Unidos e no Brasil.
Em junho de 2019, o Ministério de Ciência e Tecnologia da China, um dos países líderes na disputa por Inteligência Artificial, divulgou regras de governança que devem ser seguidas no desenvolvimento de inteligência artificial no país.
Já o governo dos Estados Unidos publicou em janeiro de 2020 uma proposta de regulamentação da inteligência artificial. Na sequência, em fevereiro, a OCDE apresentou o Observatório de Políticas de AI, que tem a missão de auxiliar o desenvolvimento responsável da tecnologia.
Também em fevereiro de 2020, a Comissão da União Europeia abriu uma consulta pública para saber a opinião da sociedade sobre o tema. A partir desses dados, a Comissão definirá uma proposta legislativa que será debatida pelo Parlamento Europeu e pelos governos nacionais.
Antes disso, em 2019, a Comissão da UE havia criado um Guia de Ética para AI confiável, que previa pilares como supervisão humana, segurança e robustez técnica, privacidade e governança de dados, transparência e não-discriminação na construção de sistemas inteligentes.
A França e o Canadá, por sua vez, lideram a The Global Partnership on AI (GPAI), iniciativa que conta com a participação de governos de diversos países, entre eles a Austrália, Alemanha, México, Cingapura e Estados Unidos.
O objetivo principal da iniciativa é guiar o desenvolvimento inteligência artificial que respeite:
O projeto conta com apoio da OCDE e da UNESCO e foi oficializado em Junho de 2020.
Porém, de acordo com dados do estudo da Cognilytica, também publicado na Forbes, apesar das discussões sobre regulamentações ao redor do mundo estarem avançando, por enquanto nenhum país implementou legislações avançadas sobre o uso ético ou vieses inconscientes em AI.
O Brasil está seguindo o mesmo caminho de outros países que já propuseram medidas regulatórias na área.
Em 2019, foram propostos dois Projetos de Lei:
Os principais artigos dos projetos sugerem que os sistemas decisórios baseados em AI serão sempre auxiliares à tomada de decisão humana, além de sugerirem a criação de políticas específicas para proteção e qualificação de trabalhadores diante da automação.
Os dois textos são inspirados nas recomendações europeias, e, até agora, seguem em tramitação no Senado, especificamente na Comissão de Ciência, Tecnologia, Inovação, Comunicação e Informática (CCT).
Em fevereiro de 2020, esta mesma comissão abriu uma consulta pública para debater a legislação e o uso ético de AI, considerando eixos como força de trabalho, pesquisa e desenvolvimento, aplicação nos setores público e privado e segurança pública.
Apesar das muitas propostas de regulamentação em curso ao redor do mundo, um dos questionamentos da indústria é sobre até que ponto a regulamentação da inteligência artificial pode limitar ou expandir a inovação na área.
Afinal, não há um consenso global sobre parâmetros de ética e privacidade entre as empresas e países quando o assunto é inteligência artificial. Por exemplo: o uso de dados para um determinado fim pode ser aceitável na China, mas não nos Estados Unidos ou na Europa, por exemplo.
Estabelecer boas práticas para inteligência artificial é importante, mas ao mesmo tempo é um processo muito subjetivo e que depende das aplicações e consequências de seu uso.
Por isso, regulamentações devem equilibrar as possibilidades de evolução exponencial da tecnologia e seus riscos, refletindo ambos os lados. Ainda, é importante que legislações sejam criadas com envolvimento da comunidade científica e indústria de tecnologia, já que governos nem sempre acompanham a velocidade das transformações e complexidades do mercado.
Além de governos e entidades setoriais da Inteligência Artificial, gigantes de tecnologia também têm se posicionado sobre a regulamentação da área, além de criarem guias de boas práticas para aplicação da tecnologia em suas estruturas.
Em janeiro deste ano, durante o Fórum Econômico Mundial de Davos, na Suíça, o CEO da Microsoft, Satya Nadella, descreveu como “crucial” a regulamentação da Inteligência Artificial. Ele alertou sobre o risco de deixar as decisões 100% à mercê das máquinas, sem supervisão humana.
O CEO do Google, Sundar Pitchai, escreveu no Financial Times que “não há dúvida de que a Inteligência Artificial precisa ser regulamentada”, destacando que legislações sobre o tema precisam equilibrar benefícios da AI para a sociedade e danos potenciais, como relacionados aos carros autônomos e deepfakes (imagens geradas por computador).
Outras empresas, como Apple e IBM, também fizeram um apelo ao governo dos Estados Unidos para o estabelecimento de padrões de uso da tecnologia.
Algumas das big techs, incluindo Google, Amazon e IBM, inclusive anunciaram que deixariam de colaborar com agentes governamentais no desenvolvimento de tecnologias de vigilância em massa, como ferramentas de reconhecimento facial para uso público, devido a preocupações com as consequências do uso da tecnologia.
Uma das preocupações levantadas por defensores da regulamentação da AI tem a ver com o uso de dados pessoais e sensíveis dos usuários. Não por acaso, estamos vendo a ascensão de regulamentações de proteção de dados ao redor do mundo, como o GDPR Europeu e a LGPD, no Brasil.
De acordo com o relatório da Cognilytica, pelo menos 31 países já possuem leis proibitivas quanto ao uso e compartilhamento de dados sem consentimento de usuários.
Uma vez que dados abastecem sistemas inteligentes, que exigem altos volumes de dados de qualidade, um dos riscos é o uso inadvertido de dados sem o uso e consentimento de usuários, daí a importância de leis de proteção. Além disso, cada vez mais consumidores querem saber como sistemas inteligentes estão usando suas informações.
A discussão sobre a regulamentação da inteligência artificial ainda é, em grande parte, teórica. No momento, governos e empresas estão focados em criar manuais e guias de melhores práticas para o setor, antes de avançar com a efetivação de leis.
Contudo, na esteira das leis de proteção de dados e à medida em que a tecnologia avança, é provável que países se vejam forçados a consolidar legislações na área, de preferência levando em conta o contexto de desenvolvimento local da Inteligência Artificial.
Quer aprender mais sobre os conceitos e aplicações da Inteligência Artificial? Ouça os episódios do Inside Alana Podcast!
