Black Box & Explainable AI: Los resultados del aprendizaje automático

Las máquinas tienen una forma específica de aprender que es distinta a la de las personas, pero que solo fue posible desarrollarse gracias a los estudios sobre el cerebro y el aprendizaje humano.

El gran desafío es entender cómo el aprendizaje automático puede seguir evolucionando y contribuir a la inteligencia artificial, ya que existen diferentes formas de enseñar una máquina y, en algunos casos, los resultados sorprenden incluso a los científicos.

Sepa más sobre la conexión entre la inteligencia artificial y el aprendizaje automático, los tipos de aprendizaje automático y los conceptos de Black Box e IA explicable.

IA, aprendizaje automático: comprenda la diferencia

La inteligencia artificial es una disciplina que engloba la teoría y la práctica sobre la creación de máquinas inteligentes, abarcando varios temas, como la filosofía, la biología, las matemáticas e incluso la lingüística.

De una manera simple, la inteligencia artificial se describe como la habilidad de la máquina para simular al ser humano bajo algún aspecto.

El aprendizaje automático, por otro lado, es un subcampo de la IA y tiene su propio conjunto de técnicas matemáticas y estadísticas para que el programa siga instrucciones y haga descubrimientos por sí mismo, sin estar programado explícitamente.

El gran diferencial del aprendizaje de la máquina para otras técnicas es que, en este modelo, no se crean reglas estrictas, solo se proporcionan ejemplos y datos para que la máquina pueda identificarlas y aprenderlas.

Deep Learning: método de aprendizaje automático

Uno de los métodos de aprendizaje automático más prometedores es el Deep Learning, o aprendizaje automático profundo.

Esta técnica permite que la máquina aprenda a través de varias capas de redes neuronales artificiales, aquellas que imitan la estructura biológica del cerebro humano. Cada capa de la red neuronal está compuesta por algoritmos especializados en diferentes tareas, como el reconocimiento facial o el procesamiento del lenguaje natural, por ejemplo.

¿Qué significa esto en la práctica? Cuantas más capas de la red, mayor es la capacidad de abstracción y sofisticación de un sistema de inteligencia artificial.

Tipos de aprendizaje automático

El aprendizaje automático puede ocurrir de diferentes formas, con un mayor o menor grado de interferencia y supervisión humana. Hay tres métodos principales de aprendizaje automático, cada uno con sus propias peculiaridades.

1. El aprendizaje supervisado: ocurre cuando el especialista ofrece modelos de categorías para la máquina, en un proceso similar a cuando un profesor enseña a un humano.
   Imagine que un desarrollador inserta una foto de un perro en la base de datos de la máquina y luego clasifica ese objeto como perro.
   Entonces, la máquina entiende qué es un perro y qué datos de ese tipo no se pueden nombrar de otra manera. Esta supervisión puede ser realizada tanto por humanos como por otros algoritmos.
2. El aprendizaje no supervisado:  permite que la máquina descubra por sí misma cuáles son las categorías de cada pieza de información y puede clasificarlas en grupos según las similitudes.
3. El aprendizaje por refuerzo: ocurre a través de errores y éxitos. En este caso, la máquina realiza pruebas aleatorias y, con base en la experiencia adquirida, intenta maximizar las métricas presentadas y descubrir las mejores combinaciones.
   El aprendizaje por refuerzo es muy utilizado en el desarrollo de juegos, en la creación de robots y entornos virtuales, ya que genera una excelente optimización de procesos, aunque con un alto costo computacional.

Black Box & Explainable AI: los dos extremos de la máquina

La técnica de deep learning tiene peculiaridades que pueden afectar el desarrollo de una inteligencia artificial, y el uso de muchas capas de decisiones puede hacer imposible que los supervisores humanos interpreten cómo la máquina logró un determinado resultado.

Este fenómeno se denomina Black Box, y puede ser perjudicial para algunas áreas más sensibles, y que involucran la necesidad de comprender datos y comportamiento de la máquina, como el mercado de seguros y el área de salud.

Una manera de evitar BlackBox es utilizar algoritmos de aprendizaje automático que sean más simples, pero que se puedan explicar de forma nativa, como los árboles de decisión y otros modelos que puedan ser rastreables y transparentes sobre el proceso de decisión.

Por otro lado, existe un campo en evolución llamado Explainable AI (XAI), que básicamente busca traer más transparencia en lo que se refiere a las decisiones tomadas por las máquinas, incluso si fueron ejecutadas sin supervisión.

Para obtener más información sobre la inteligencia artificial, y escuche el  Inside Alana Podcast.