close

Insider

El escenario de la regulación de la inteligencia artificial en todo el mundo

Written by Alana Team
on septiembre 09, 2020

El mercado de la inteligencia artificial está evolucionando rápidamente y, con él, también se destaca la discusión sobre el marco regulatorio de la IA. A medida que más personas y empresas adoptan sistemas inteligentes, es inevitable determinar estándares para que su uso sea responsable y seguro.

Como resultado, gobiernos, empresas y entidades que promueven la inteligencia artificial se mueven globalmente para proponer leyes en la materia y adaptar la legislación existente al contexto actual de la tecnología. 

A principios de este año, la consultoría de investigación Cognilytica publicó un informe que mapea las leyes y regulaciones de Inteligencia Artificial en todo el mundo. 

Según la encuesta, la mayoría de las propuestas legislativas se refieren a las tecnologías de reconocimiento, los vehículos autónomos, el uso de datos personales en la IA y aspectos como los sesgos inconscientes y el grado de supervisión humana de las decisiones tomadas por la IA.

El desafío, sin embargo, es asegurar que las regulaciones emergentes no limiten el ritmo de la evolución de la tecnología y mantengan la ventaja competitiva de las empresas que invierten en el área sin introducir nuevos riesgos. 

Algunos puntos de atención que motivan la creación de leyes para la inteligencia artificial son:

 

  • Leyes de protección de datos
  • Cuestionar las implicaciones éticas de la IA
  • Decisiones equivocadas en sistemas de reconocimiento facial, autos y armas autónomas 
  • Uso de la IA con fines maliciosos 

Las leyes de Inteligencia Artificial se encuentran en diferentes etapas de discusión y legislación en los países que han abordado el tema. 

Vea cómo es el escenario regulatorio global, cómo se relaciona con las leyes de protección de datos, ventajas y riesgos de la regulación de la IA y el posicionamiento de las empresas de tecnología en el tema.

¿Qué motiva las propuestas para regular la IA en todo el mundo?

Antes de explorar cuáles son los principales hitos y propuestas sobre la regulación de la IA en el mundo, es importante recuperar las razones que motivan este tipo de legislación. 

En 2016, la Organización para la Cooperación Económica para el Desarrollo (OCDE) ya publicó un documento que enumera las preocupaciones sobre el uso de inteligencia artificial. Ellos eran:

 

  1. Aumento del desempleo debido a la automatización
  2. Mayor desequilibrio en la distribución del ingreso
  3. Resultados sesgados por la ausencia de supervisión humana

Teniendo en cuenta estos y otros aspectos, la OCDE creó en mayo de 2019 una guía de recomendaciones para el desarrollo de la inteligencia artificial.

imagem_1_esp-min

Propostas de regulamentação da inteligência artificial

O documento criado pela OCDE sobre princípios e responsabilidades teve influência na discussão sobre o tema em países da União Europeia, na China, nos Estados Unidos e no Brasil.

Em junho de 2019, o Ministério de Ciência e Tecnologia da China, um dos países líderes na disputa por Inteligência Artificial, divulgou regras de governança que devem ser seguidas no desenvolvimento de inteligência artificial no país.

Já o governo dos Estados Unidos publicou em janeiro de 2020 uma proposta de regulamentação da inteligência artificial. Na sequência, em fevereiro, a OCDE apresentou o Observatório de Políticas de AI, que tem a missão de auxiliar o desenvolvimento responsável da tecnologia.

Também em fevereiro de 2020, a Comissão da União Europeia abriu uma consulta pública para saber a opinião da sociedade sobre o tema. A partir desses dados, a Comissão definirá uma proposta legislativa que será debatida pelo Parlamento Europeu e pelos governos nacionais.

Antes disso, em 2019, a Comissão da UE havia criado um Guia de Ética para AI confiável, que previa pilares como supervisão humana, segurança e robustez técnica, privacidade e governança de dados, transparência e não-discriminação na construção de sistemas inteligentes.

A França e o Canadá, por sua vez, lideram a The Global Partnership on AI (GPAI), iniciativa que conta com a participação de governos de diversos países, entre eles a Austrália, Alemanha, México, Cingapura e Estados Unidos.

O objetivo principal da iniciativa  é guiar o desenvolvimento inteligência artificial que respeite:

  • os direitos humanos
  • a inclusão
  • a diversidade
  • a inovação
  • o crescimento econômico 

O projeto conta com apoio da OCDE e da UNESCO e foi oficializado em Junho de 2020.

Porém, de acordo com dados do estudo da Cognilytica, também publicado na Forbes, apesar das discussões sobre regulamentações ao redor do mundo estarem avançando, por enquanto nenhum país implementou legislações avançadas sobre o uso ético ou vieses inconscientes em AI.

imagem_2_esp-min

Regulación de la Inteligencia Artificial en Brasil

Brasil sigue el mismo camino que otros países que ya han propuesto medidas regulatorias, según las directrices de la OCDE sobre el desarrollo de la inteligencia artificial.

En 2019 se propusieron dos proyectos de ley:

  • Proyecto de ley 5051, que tiene como objetivo establecer principios y regular el uso de la Inteligencia Artificial en Brasil 
  • Proyecto de ley 5691, para crear la Política Nacional de Inteligencia Artificial

Los principales artículos de los proyectos apuntan a que los sistemas de toma de decisiones basados ​​en IA serán siempre ayudas para la toma de decisiones humanas, además de sugerir la creación de políticas específicas para la protección y cualificación de los trabajadores frente a la automatización. 

Ambos textos se inspiran en recomendaciones europeas y, hasta el momento, aún se encuentran en discusión en el Senado, concretamente en la Comisión de Ciencia, Tecnología, Innovación, Comunicación e Informática (CCT). 

En febrero de 2020, esta misma comisión abrió una consulta pública para discutir la legislación y el uso ético de la AI, considerando áreas como la Fuerza Laboral, la investigación y el desarrollo, la aplicación en los sectores público y privado y la seguridad pública. 

¿Regulatorio o no? Esta es la cuestión

A pesar de las numerosas propuestas regulatorias en curso en todo el mundo, una de las preguntas de la industria es hasta qué punto la regulación de la inteligencia artificial puede limitar o expandir la innovación en el área.

Después de todo, no existe un consenso global sobre parámetros éticos y de privacidad entre empresas y países cuando se trata de inteligencia artificial. Por ejemplo, la utilización de datos para un fin determinado puede ser aceptable en China, pero no en los Estados Unidos o Europa, por ejemplo. 

Establecer buenas prácticas para la IA es importante, pero al mismo tiempo es un proceso muy subjetivo y depende de las aplicaciones y consecuencias de su uso.

Por tanto, los reglamentos deben equilibrar las posibilidades de evolución exponencial de la tecnología y sus riesgos, reflejando ambos lados.Además, es importante que la legislación sobre IA se cree con la participación de la comunidad científica y la industria de la tecnología, ya que los gobiernos no siempre siguen el ritmo de la velocidad de los cambios y las complejidades del mercado.

El posicionamiento de las empresas de IA

Además de los gobiernos y entidades sectoriales de Inteligencia Artificial, los gigantes de la tecnología también se han posicionado en la regulación del área, además de crear guías de mejores prácticas para la aplicación de la IA en sus estructuras.

En enero de este año, durante el Foro Económico Mundial en Davos, Suiza,  el CEO de Microsoft, Satya Nadella, escribió la regulación de la Inteligencia Artificial como "crucial". Advirtió del riesgo de dejar las decisiones al 100% a merced de las máquinas, sin supervisión humana. 

El director ejecutivo de Google, Sundar Pitchai, escribió en el  Financial Times que "no hay duda de que la inteligencia artificial debe ser regulada", y enfatizó que la legislación sobre el tema debe equilibrar los beneficios de la inteligencia artificial para la sociedad y los daños potenciales relacionados con los automóviles autónomos. y deepfakes (imágenes generadas por computadora).

Otras empresas, como Apple e IBM, también han pedido al gobierno de los Estados Unidos que establezca estándares para el uso de IA, como sugiere la Unión Europea. 

Algunas de las grandes tecnológicas, incluidas Google, Amazon e IBM, incluso han anunciado que ya no colaborarían con agentes gubernamentales en el desarrollo de tecnologías de vigilancia masiva, como tecnologías de reconocimiento facial para uso público, debido a preocupaciones sobre las consecuencias del uso de la tecnología.

Leyes de Protección de Datos e Inteligencia Artificial

Una de las preocupaciones planteadas por los defensores de la regulación de la IA tiene que ver con el uso de datos personales y sensibles de los usuarios. No es casualidad que estemos viendo el aumento de las regulaciones de protección de datos en todo el mundo, como el GDPR europeo y la LGPD, en Brasil.

Según el informe de Cognilytica, al menos 31 países ya tienen leyes prohibitivas con respecto al uso e intercambio de datos sin el consentimiento del usuario.

Dado que los datos suministran sistemas de inteligencia artificial, que requieren grandes volúmenes de datos de calidad, uno de los riesgos es el uso de datos sin el uso y consentimiento de los usuarios, de ahí la importancia de las leyes de protección de datos. Cada vez más, los consumidores quieren saber cómo los sistemas inteligentes utilizan sus datos. 

Futuro de la regulación de la AI

La discusión sobre la regulación de la inteligencia artificial sigue siendo en gran parte teórica. Por el momento, gobiernos y empresas están enfocados en la creación de manuales y guías de buenas prácticas para el sector, antes de avanzar con la promulgación de leyes.

Sin embargo, a raíz de las leyes de protección de datos y a medida que avanza la tecnología, es probable que los países se vean obligados a consolidar la legislación en el área, preferiblemente teniendo en cuenta el contexto de desarrollo local de la Inteligencia Artificial.

¿Quiere aprender más sobre los conceptos y aplicaciones de la inteligencia artificial? Escuche los episodios de Inside Alana Podcast!

linha-min-1

 

personagens escrevendo

 



assinatura_teamalana

 

Você também pode gostar:

Insider

Cubo Startups, Mentoría Cielo y 100 Startups to Watch: los logros de Alana AI en el tercer trimestre

El tercer trimestre de 2020 casi ha terminado y Alana AI tiene mucho que celebrar. Los meses han pasado volando y estamo...

Insider

GPT-3 e innovación en el procesamiento del lenguaje natural (NLP)

Parte de la evolución de la inteligencia artificial tiene que ver con las innovaciones en el campo del procesamiento del...

Insider

[Podcast] Inteligência Artificial & Humanos pela Saúde

¿Has pensado alguna vez que las tecnologías de inteligencia artificial para la salud ya están en el día a día de muchas ...

Receba insights sobre
Inteligência Artificial por e-mail,
na medida certa.