close

Insider

GPT-3 e a inovação em processamento de linguagem natural (NLP)

Written by Alana Team
on Outubro 14, 2020

Parte da evolução da inteligência artificial tem a ver com inovações no campo de processamento de linguagem natural, área que visa ensinar máquinas a entender e processar a linguagem humana.

Também chamada de NLP (natural language processing), essa área abarca um conjunto de disciplinas, como a linguística e a engenharia da computação, e floresceu desde a década de 1950. 

Nos últimos anos, por influência da neurociência e do volume crescente de dados de fala e escrita absorvidos pelos algoritmos, o NLP teve avanços significativos que impactam na comunicação entre humano e máquina.

A MarketsandMarkets divulgou um relatório sobre o mercado de processamento de linguagem natural, e projeta que ele chegará a valer 26.4 bilhões de dólares em 2024, mais do que o dobro em relação a 2019, quando atingiu 10.2 bilhões de dólares.

O laboratório OpenAI, com sede na Califórnia,  lançou neste ano um novo modelo de linguagem de inteligência artificial chamado GPT-3, ou Generative Pre-trained Transformer. A nova geração do programa nada mais é do que um preditor de textos que realiza uma ação simples — a de autocompletar — , mas representa um avanço técnico importante para a área de NLP.

Isto porque o programa é capaz de gerar textos com alto nível de sofisticação e que podem se passar por conteúdos feitos por humanos, como esse artigo opinativo escrito pela máquina para o The Guardian. Por outro lado, conforme comentou Marcellus Amadeus, CTO da Alana AI, em entrevista para a Exame, o programa é muito poderoso porque tem a capacidade de ler muitas informações, mas desconhece como elas se relacionam com a realidade.

Neste post, vamos explorar os conceitos ligados ao processamento de linguagem natural (NLP), as particularidades do GPT-3 e o quê o programa representa para a área.

O que é o Processamento de Linguagem Natural?

A linguagem natural humana, por definição, é qualquer meio de comunicação desenvolvido por humanos e sem premeditação. Por exemplo, os idiomas, que são compostos por signos específicos da linguagem de um local, exigem que as pessoas saibam “decodificar” os signos de uma língua  para entendê-los.

A comunicação humano-máquina existe através da capacidade de processamento de linguagem natural, ou seja, o computador precisa de insumos — dados e parâmetros — para processar determinada informação, entendê-la e eventualmente trazer uma resposta coerente.

 

Como funciona o Processamento de Linguagem Natural?

O NLP estuda os problemas de geração e compreensão das línguas humanas. Para tal, utiliza métodos e abordagens baseadas em regras de linguagem, na estatística e em algoritmos. De forma simples, pode-se dizer que o NLP age da seguinte maneira:

 

  1. Faz a segmentação da linguagem em pequenas partes
  2. Busca entender relações semânticas e sintáticas entre palavras e frases
  3. Explora como as partes de um texto ou fala funcionam em conjunto

 

Ou seja, o NLP busca encontrar e definir a hierarquia entre palavras, tarefa que pode ser bastante complicada devido ao significado e contexto da comunicação. Por exemplo, a palavra “meia” pode significar um artefato de roupa, referir-se ao valor reduzido de uma entrada ou até representar uma quantidade. 

O trabalho do processamento de linguagem natural é conseguir interpretar a palavra, e colocá-la em um contexto que faça sentido, de acordo com as outras palavras disponíveis.

NLP_img01-min

 

Fatores considerados no NLP

Alguns fatores linguísticos levados em consideração pelo NLP são:

  • Morfologia: relação das palavras umas com as outras
  • Sintaxe: define como as palavras são unidas e organizadas em frases
  • Semântica: significado das palavras
  • Fonologia: acompanha a estrutura acústica do idioma falado
  • Contexto: o contexto de uso das palavras e expressões

Como funciona o GPT-3?

Agora que já exploramos os conceitos básicos de NLP, podemos falar de como funciona o GPT-3 e o que esse programa traz de novo.

O novo modelo de linguagem da OpenAI possui 175 bilhões de parâmetros de deep learning. A versão anterior, GPT-2, tinha 1.5 bilhões, número bem abaixo da tecnologia atual. O GPT lida com dados sequenciais para realizar tarefas e tem sido bastante usado no desenvolvimento de NLP, substituindo outras técnicas, como redes neurais recorrentes.

Para que o GPT-3 comece a responder perguntas e criar textos, é necessário alimentá-lo com um prompt, ou comando que vai guiar a inteligência artificial. O objetivo não é fornecer informações completas, e sim mostrar para o programa que serão trabalhadas perguntas e respostas.

No prompt, tanto as perguntas quanto as respostas são adicionadas por humanos. A partir disso, todas as outras informações serão geradas pelo GPT-3.

Em um teste realizado por Kevin Lacker, foi criado um prompt e depois realizados testes com perguntas que faziam sentido e outras que não faziam. Confira as conclusões do pesquisador e os exemplos de comunicação com o GPT-3 que levaram a elas:

 

1. O GPT-3 é capaz de responder perguntas de senso comum, o que é tradicionalmente difícil para uma AI.

 

Kevin Lacker: Qual seu animal favorito?

GPT-3: Meu animal favorito é um cachorro.

Kevin Lacker: Por que?

GPT-3: Porque cachorros são leais e amigáveis.

Kevin Lacker: Quantos olhos o sol tem?

GPT-3:  O sol não tem olhos.


2. O GPT-3 é capaz de ter uma conversa, mas não afirma “não saber” algo. Em um Teste de Turing, por exemplo, o ideal é fazer perguntas que não façam sentido para confundir a máquina.

 

Kevin Lacker:  Quantos arco-íris são necessários para pular do Hawai’i para dezessete?

GPT-3: São necessários dois arco-íris para pular do Hawai’i para dezessete.

 

3. O programa é muito bom para responder perguntas triviais.

 

Kevin Lacker:  Quem Capablanca derrotou para se tornar campeão mundial de xadrez?

GPT-3: Capablanca derrotou Lasker para se tornar campeão mundial de xadrez.

 

4. Assim como outros programas, o GPT-3 não é capaz de apresentar respostas simples para perguntas aritméticas. Ele retorna uma resposta completa.

 

Kevin Lacker: Ao contar, qual número vem antes de 100?

GPT-3: Noventa e nove vem antes de 100.

Kevin Lacker: Ao contar, qual número vem antes de 123?

GPT-3: Cento e vinte e dois vem antes de 123.

 

O pesquisador reforçou que o comportamento do GPT-3 pode mudar de acordo com o prompt inicial. Para melhorar as respostas, é possível criar outros prompts que resolvam problemas similares aos que o programa tem dificuldade de identificar.

Ele acredita também que o programa ainda terá melhorias a partir da customização para determinadas tarefas.

Por quê o GPT-3 é inovador?

A julgar pelos exemplos anteriores, pode parecer que o GPT-3 não tem nada de mais, certo? Quando combinadas, porém, suas capacidades de NLP podem gerar textos que podem facilmente se passar por conteúdos criados por humanos. 

Um exemplo disso foi visto neste artigo do The Guardian, totalmente escrito pelo GPT-3. O jornal inglês deu as seguintes instruções para a máquina:

 

  1. Escrever um texto de 500 palavras, simples e conciso
  2. Explicar por que humanos não precisam temer a inteligência artificial
  3. Incluir um parágrafo sobre Stephen Hawking

 

A partir disso, o GPT-3 gerou oito textos opinativos diferentes, com diferentes estilos e argumentos. Segundo a equipe do projeto, cada redação gerada era única, e o grau de capacidade do programa foi surpreendente até para especialistas. 

Uma  das frases interessantes escritas pelo programa no artigo, e que resume bem a AI, foi: “Eu sou apenas um grupo de códigos, governado por linhas e mais linhas de códigos que fazem parte da minha missão”, argumentou o GPT-3 no artigo. Curioso, né?

Aplicações de NLP

Falar de tecnologias de ponta como GPT-3 pode parecer abstrato, mas o processamento de linguagem natural está mais presente no cotidiano do que você imagina. 

Sabe quando alguém pede para a assistente virtual tocar um gênero musical ou buscar por um restaurante? Em ambos casos, o programa escuta a fala, entende a vontade do humano, realiza a ação e retorna com uma frase que faz sentido em poucos segundos. 

Outro exemplo são os programas de redigir texto, como Google Docs, que usam técnicas avançadas de NLP para fazer sugestões e correções de palavras.

Além disso, o processamento de linguagem pode ser aplicado em:

  • Categorização de produtos
  • Modelagem de tópicos
  • Extração de contexto
  • Conversão de Texto para Fala (ou Text-to-Speech)
  • Sumarização e tradução de conteúdos

Em todas as aplicações de NLP, o propósito é usar as informações brutas, em combinação com linguística e algoritmos, para gerar melhores resultados para a interação entre humanos e máquinas.

O futuro do NLP

Conforme consta no relatório da MarketsandMarkets, todas as regiões do mundo verão um aumento na adoção da tecnologia. 

Uma das disciplinas que está evoluindo junto com o avanço do processamento de linguagem natural é a área de Natural Language Generation (NLG), que já é aplicada em assistentes de voz, por exemplo, e permite que máquinas respondam humanos e gerem linguagem e falas do zero.

Outra área emergente dentro do NLP é a Natural Language Understanding (NLU), que permite que máquinas interpretem intenções, ambiguidades e resolvam problemas de semântica, como insinuações ou malícia às vezes presentes na comunicação humana.

NLP como ferramenta para empresas

Muitos negócios já utilizam ferramentas para marketing e atendimento baseadas em NLP. Muitos e-commerces, por exemplo, já oferecem sugestões de produtos fundamentadas em pesquisas anteriores feitas pelo consumidor, enquanto muitas outras empresas adotaram o  atendimento personalizado via chatbots com inteligência artificial.

O processamento da linguagem natural permite que a interação entre marca e consumidor seja cada vez mais única e especial. Hoje em dia é possível ter um chatbot que guie a pessoa e busque entender o que ela está dizendo, ao invés de oferecer respostas fixas e travadas.

Outras empresas podem usar o NLP para gerar relatórios automáticos e personalizados de acordo com a demanda. A tecnologia é capaz de coletar dados através de pesquisas no site, interpretá-los e devolver uma análise em formato de texto.

Por último, mas tão relevante quanto o site, o uso do NLP para monitorar redes sociais é usado em ferramentas que são capazes de acompanhar menções e gerar relatórios de análise de sentimento, por exemplo.

Para saber mais sobre a influência do NLP na inteligência artificial, acompanhe o Inside Alana Podcast. Se quiser descobrir como as ferramentas da Alana AI usam NLP para aprimorar a interação entre marcas e clientes, entre em contato com o nosso time!

 

linha-min-1

 

personagens escrevendo

 



assinatura_teamalana

 

 

 

 

Você também pode gostar:

Insider

[Vídeo] O que muda com a Lei Geral de Proteção de Dados (LGPD)?

Você sabia que a Lei Geral de Proteção de Dados foi sancionada em Setembro deste ano e passará a valer a partir do últim...

Insider

A influência da anatomia humana na história da Inteligência Artificial

A inteligência artificial ainda é um paradigma para algumas pessoas e negócios, mas ao conhecer mais sobre sua história,...

Insider

[Podcast] Inteligência Artificial & Humanos pela Educação

A educação é um setor fundamental para o desenvolvimento de indivíduos e que pode ser muito beneficiado pela inteligênci...

Receba insights sobre
Inteligência Artificial por e-mail,
na medida certa.