Black Box e Explainable AI: os resultados do aprendizado de máquina

As máquinas têm uma maneira específica de aprender, que é diferente das pessoas, e que só pôde ser desenvolvida graças aos estudos sobre o cérebro e aprendizado humano.

O grande desafio é entender como o aprendizado de máquina (machine learning) pode continuar evoluindo e contribuindo para a inteligência artificial, já que existem diferentes maneiras de ensinar uma máquina e, em alguns casos, os resultados surpreendem até mesmo os cientistas.

Confira qual a ligação entre inteligência artificial e aprendizado de máquina, os tipos de machine learning e os conceitos de Black Box e Explainable AI.

AI e Aprendizado de máquina: entenda a diferença

A inteligência artificial é uma disciplina que abarca a teoria e prática sobre a criação de máquinas inteligentes, englobando vários temas, como a filosofia, a biologia, a matemática e até a linguística.

De maneira simples, a inteligência artificial é descrita como a capacidade da máquina de simular o humano sob algum aspecto.

O machine learning, por sua vez, é um subcampo da AI e conta com seu próprio conjunto de técnicas e estatísticas matemáticas para que o programa siga instruções e faça descobertas por conta própria, sem ser programado explicitamente.

O grande diferencial do aprendizado de máquina para outras técnicas é que, neste modelo, não são criadas regras rígidas, apenas são fornecidos exemplos e dados para que a máquina consiga identificá-los e aprender.

Deep Learning: método de machine learning

Um dos métodos de machine learning mais promissores é o Deep Learning, o aprendizado profundo de máquina.

Esta técnica possibilita que a máquina aprenda através de várias camadas de redes neurais artificiais, aquelas que imitam a estrutura biológica do cérebro humano. Cada camada de rede neural é composta por algoritmos especializados em tarefas distintas, como reconhecimento facial ou processamento de linguagem natural.

O que isso significa na prática? Quanto mais camadas de rede, maior é a capacidade de abstração e sofisticação de um sistema de inteligência artificial.

Tipos de Aprendizado de máquina

O aprendizado de máquina pode acontecer de maneiras distintas, com maior ou menor grau de interferência e supervisão humana. Há três métodos principais de aprendizado de máquina, cada um com suas peculiaridades.

1. O aprendizado supervisionado, por exemplo, acontece quando o especialista oferece modelos de categorias para a máquina, em um processo similar a quando um professor ensina um humano.
   Imagine que um desenvolvedor (humano) insira uma foto de um cachorro na base de dados da máquina, e então determine a classificação daquele objeto como cachorro.
   A máquina então compreende o que é um cachorro e que dados daquele tipo não podem ser nomeados de outra maneira. Esta supervisão pode ser feita tanto por humanos, como por outros algoritmos.
2. O aprendizado não-supervisionado permite que a máquina descubra sozinha quais são as categorias de cada informação e possa classificá-las em grupos a partir de semelhanças.
3. O aprendizado por reforço acontece através de erros e acertos. Nesse caso, a máquina realiza testes aleatórios e, com base na experiência adquirida, tenta maximizar as métricas apresentadas e descobrir as melhores combinações.
   O aprendizado por reforço é muito usado no desenvolvimento de jogos, na criação de robôs e ambientes virtuais, pois gera excelente otimização de processos, embora com custo computacional elevado.

Black Box & Explainable AI: os dois extremos da máquina

A técnica de deep learning tem peculiaridades que podem impactar o desenvolvimento de uma inteligência artificial, e o uso de muitas camadas de decisões pode tornar impossível para os supervisores humanos interpretarem como a máquina atingiu determinado resultado.

Esse fenômeno é chamado de Black Box, e pode ser prejudicial para algumas áreas mais sensíveis e que envolvam a necessidade de compreender dados e comportamento da máquina, como o mercado de seguros e a área da saúde.

Uma maneira de evitar BlackBox é usar algoritmos de machine learning mais simples,  que sejam nativamente explicáveis, como as árvores de decisões, e outros modelos que possam ser rastreáveis e transparentes sobre o processo de decisão.

Por outro lado, há um campo em evolução chamado de Explainable AI (XAI), que basicamente busca trazer mais transparência em relação às decisões tomadas por máquinas, mesmo que elas tenham sido executadas sem supervisão.

Para aprender mais sobre inteligência artificial, faça o download do e-book completo Cérebros Humanos & Artificiais e ouça o Inside Alana Podcast quando quiser.