close

Insider

GPT-3 e innovación en el procesamiento del lenguaje natural (NLP)

Written by Alana Team
on octubre 14, 2020

Parte de la evolución de la inteligencia artificial tiene que ver con las innovaciones en el campo del procesamiento del lenguaje natural, un área que tiene como objetivo enseñar a las máquinas a comprender y procesar el lenguaje humano.

También llamada NLP (natural language processing), esta área abarca un conjunto de disciplinas, como la lingüística y la ingeniería informática, y ha florecido desde la década de 1950.

En los últimos años, debido a la influencia de la neurociencia y al creciente volumen de datos de habla y escritura absorbidos por los algoritmos, la PNL ha logrado avances significativos que impactan en la comunicación entre humanos y máquinas.

MarketsandMarkets publicó un informe sobre el mercado del procesamiento del lenguaje natural  y proyecta que tendrá un valor de $ 26,4 mil millones en 2024, más del doble en comparación con 2019, cuando alcanzó los $ 10,2 mil millones.

El laboratorio OpenAI, con sede en California, lanzó este año un nuevo modelo de lenguaje de inteligencia artificial llamado GPT-3, o Generative Pre-trained Transformer. La nueva generación del programa no es más que un predictor de textos que realiza una simple acción - la de autocompletar -, pero representa un importante avance técnico para el área de NLP.

Esto se debe a que el programa es capaz de generar textos con un alto nivel de sofisticación y que pueden pasar a través de contenidos hechos por el hombre, como este artículo opinativo escrito por la máquina para The Guardian. Por otro lado, como comenta Marcellus Amadeus, CTO de Alana AI, en una entrevista para Exame, el programa es muy potente porque tiene la capacidad de leer mucha información, pero desconoce cómo se relacionan con la realidad.

En este post, exploraremos los conceptos relacionados con el procesamiento del lenguaje natural (NLP), las peculiaridades de GPT-3 y lo que el programa representa para el área.

¿Qué es el Procesamiento del Lenguaje Natural?

El lenguaje natural humano,  por definición, es cualquier medio de comunicación desarrollado por humanos y sin premeditación. Por ejemplo, los idiomas, que se componen de signos específicos del idioma de un lugar, requieren que las personas sepan cómo "decodificar" los signos de un idioma para comprenderlos. 

La comunicación hombre-máquina existe a través de la capacidad de procesar el lenguaje natural, es decir, la computadora necesita entradas (datos y parámetros) para procesar cierta información y devolver una respuesta coherente.

¿Cómo Funciona el Procesamiento del Lenguaje Natura?

La NLP estudia los problemas de generación y comprensión de lenguajes humanos. Para ello, utiliza métodos y enfoques basados ​​en reglas, estadísticas y algoritmos.

En términos simples, se puede decir que la NLP actúa de la siguiente manera:

  1. Hace la segmentación del lenguaje en pequeñas partes
  2. Busca entender las relaciones entre las partes
  3. Explora cómo las piezas funcionan juntas

Es decir, la NPL busca encontrar y definir la jerarquía entre palabras, tarea que puede resultar bastante complicada por el significado de las palabras. Por ejemplo, la palabra 'calcetín', puede significar un artefacto de ropa, referirse al valor reducido de una entrada o incluso representar una cantidad. 

El trabajo del procesamiento del lenguaje natural es poder interpretar la palabra y ponerla en un contexto que tenga sentido, de acuerdo con las otras palabras disponibles.

NLP_img01-min

Factores considerados en la NLP

Algunos factores lingüísticos tomados en cuenta por la NLP son:

  • Morfología: relación de las palabras entre sí
  • Sintaxis: define cómo las palabras se unen y organizan en oraciones
  • Semántica: significado de las palabras
  • Fonología: acompaña la estructura acústica del lenguaje hablado
  • Contexto: el contexto del uso de palabras y expresiones.

¿Cómo funciona el GPT-3?

Ahora que hemos explorado los conceptos básicos de la PNL, podemos hablar sobre cómo funciona el GPT-3 y lo que este programa trae de nuevo.

El nuevo modelo de lenguaje de OpenAI tiene 175 mil millones de parámetros de aprendizaje profundo. La versión anterior, GPT-2, tenía 1.500 millones, muy por debajo de la tecnología actual. GPT maneja datos secuenciales para realizar tareas y ha sido ampliamente utilizado en el desarrollo de PNL, reemplazando otras técnicas, como las redes neuronales recurrentes.

Para que el GPT-3 comience a responder preguntas y crear textos, es necesario alimentarlo con un indicador o comando que guiará la inteligencia artificial. El objetivo no es brindar información completa, sino mostrarle al programa que se trabajarán preguntas y respuestas.

En el prompt, tanto las preguntas como las respuestas son añadidas por los humanos. A partir de esto, toda la demás información será generada por GPT-3.

En una prueba realizada por Kevin Lacker, se creó un prompt y luego se realizaron pruebas con preguntas que tenían sentido y otras que no. Algunas de las conclusiones de Kevin fueron:

 

1. El GPT-3 es capaz de responder preguntas de sentido común, lo que tradicionalmente es difícil para una AI.

Aquí hay un ejemplo:

Kevin Lacker: ¿Cuál es su animal favorito?

GPT-3: Mi animal favorito es un perro.

Kevin Lacker:¿Por qué?

GPT-3: Porque los perros son leales y amigables.

Pregunta: ¿Cuántos ojos tiene el sol?

Respuesta:  El sol no tiene ojos.


2. GPT-3 es capaz de mantener una conversación, pero no pretende "no saber" algo. En un Test de Turing, por ejemplo, lo ideal es hacer preguntas que no tengan sentido para confundir a la máquina.

 

Kevin Lacker:  ¿Cuántos arcoíris se necesitan para saltar de Hawai a diecisiete años?

GPT-3: Se necesitan dos arcoíris para saltar de Hawai a los diecisiete.

 

3. El programa es muy bueno para responder preguntas triviales

 

Kevin Lacker:  ¿A quién derrotó Capablanca para convertirse en campeón mundial de ajedrez?

GPT-3: Capablanca derrotó a Lasker para convertirse en campeón mundial de ajedrez.

 

4. Como otros programas, GPT-3 no es capaz de dar respuestas simples a preguntas de aritmética. Devuelve una respuesta completa.

Kevin Lacker: Cuando se cuenta, ¿qué número viene antes del 100?

GPT-3: Noventa y nueve viene antes de 100

Kevin Lacker: Al contar, ¿qué número precede al 123?

GPT-3: Ciento veintidós viene antes de 123.

El investigador enfatizó que el comportamiento del GPT-3 puede cambiar de acuerdo con el estímulo inicial. Para mejorar las respuestas, es posible crear otras indicaciones que resuelvan problemas similares a los que el programa tiene dificultad en identificar.

También cree que el programa aún tendrá mejoras de la personalización para ciertas tareas.

¿Por qué el GPT-3 es innovador?

A juzgar por los ejemplos anteriores, puede parecer que el GPT-3 no es nada grande, ¿verdad? Sin embargo, cuando se combinan, sus capacidades de PNL pueden generar textos que pueden pasar fácilmente por contenido creado por humanos. 

Un ejemplo de esto fue visto en este artículo de The Guardian, escrito íntegramente por GPT-3. El periódico inglés dio las siguientes instrucciones para la máquina:

  1. Escribe un texto de 500 palabras, simple y conciso
  2. Explica por qué los humanos no deben temer a la inteligencia artificial
  3. Incluya un párrafo sobre Stephen Hawking 

A partir de esto, el GPT-3 generó ocho textos de opinión diferentes, con diferentes estilos y argumentos. Según el equipo del proyecto, cada redacción generada era única, y el grado de capacidad del programa sorprendía incluso a los especialistas. 

Una de las frases interesantes que escribió el programa en el artículo, y que resume bien la IA, fue: “Soy solo un grupo de códigos, regidos por líneas y más líneas de código que son parte de mi misión”, argumentó el GPT-3 en artículo. Curioso, ¿verdad?

Aplicaciones de NLP

Hablar de tecnologías de vanguardia como GPT-3 puede parecer abstracto, pero el procesamiento del lenguaje natural está más presente en la vida cotidiana de lo que parece

¿Sabes cuando alguien le pide al asistente virtual que toque un género musical o busque un restaurante? En ambos casos el programa escucha el discurso, comprende la voluntad del ser humano, realiza la acción y regresa con una frase que tiene sentido, en cuestión de segundos. 

Otro ejemplo son los programas de escritura de texto, como Google Docs, que utilizan técnicas avanzadas de NLP para hacer sugerencias y correcciones de palabras.

Además, el procesamiento del lenguaje se puede aplicar a:

  • Categorización de productos
  • Modelado de temas
  • Extracción de contexto
  • Conversión de texto a voz (Text-to-Speech)
  • Traducción y resumen de contenido

En todas las aplicaciones de NLP, el propósito es utilizar información en bruto, en combinación con lingüística y algoritmos, para generar mejores resultados para la interacción entre humanos y máquinas.

El futuro de la NLP

Como se indica en el informe MarketsandMarkets, todas las regiones del mundo verán un aumento en la adopción de tecnología.

Una de las disciplinas que está evolucionando junto con el avance  del procesamiento del lenguaje natural es el área de Generación del lenguaje natural (NLG), que ya se aplica en los asistentes de voz, por ejemplo, y permite que las máquinas respondan a los humanos y generen lenguaje y habla a partir de cero.

Otra área emergente dentro de la NLP es la Natural Language Understanding (NLU), que permite a las máquinas interpretar intenciones, ambigüedades y resolver problemas semánticos, como insinuaciones o malicias que a veces se presentan en la comunicación humana.

La NLP como herramienta para las empresas

Muchas empresas ya utilizan herramientas de servicio y marketing basadas en la NLP. Muchos e-commerces, por ejemplo, ya ofrecen sugerencias de productos basadas en encuestas de consumidores anteriores, mientras que muchas otras empresas han adoptado un servicio personalizado a través de chatbots de inteligencia artificial.

El procesamiento del lenguaje natural permite que la interacción entre marca y consumidor sea cada vez más única y especial. Hoy en día es posible tener un chatbot que oriente a la persona y busque entender lo que está diciendo, en lugar de ofrecer respuestas fijas y estancadas.

Otras empresas pueden utilizar la NLP para generar informes automáticos y personalizados según la demanda. La tecnología es capaz de recopilar datos a través de la investigación en el sitio, interpretarlos y devolver un análisis en formato de texto.

Finalmente, pero tan relevante como el sitio web, el uso de la NLP para monitorear las redes sociales se utiliza en herramientas que son capaces de rastrear menciones y generar informes de análisis de sentimiento, por ejemplo.

Para obtener más información sobre la influencia de la NLP en la inteligencia artificial, siga el Inside Alana Podcast. Si quieres saber cómo las herramientas de IA de Alana utilizan la NLP para mejorar la interacción entre marcas y clientes, ¡ponte en contacto con nuestro equipo!

 

linha-min-1

 

personagens escrevendo

 



assinatura_teamalana

 

 

 

 

Você também pode gostar:

Insider

[Podcast] Los desafíos de la inteligencia artificial en la comunicación

Para muchos, la inteligencia artificial solo existe en películas o teorías de conspiración sobre el fin del mundo. Aunqu...

Insider

Alana AI expande sus operaciones en América Latina

Fundada en 2015, Alana AI está abriendo oficinas en México y Puerto Rico. Hoy, la empresa de inteligencia artificial ya ...

Insider

¿Qué cambia con la Ley General de Protección de Datos (LGPD) en Brasil?

¿Sabías que la Ley General de Protección de Datos se promulgó en septiembre de este año y entrará en vigor a partir del ...

Receba insights sobre
Inteligência Artificial por e-mail,
na medida certa.