top of page
blog-bg.png
  • Writer's pictureAvalia

A Inteligência Artificial É Alucinante


Quando uma seguradora suíça me ofereceu o dobro da cobertura em resposta a uma carta redigida pelo ChatGPT, o chatbot da OpenAI, eu me surpreendi. Meu trabalho se foca em investimentos em tecnologia que, normalmente, apresentam uma curva de retorno em formato de “J”. Com ChatGPT foi uma reta para cima, um “I” de retorno imediato.


Nunca havia visto uma tecnologia com tanto potencial ser tão acessível e tão fácil de usar. Produtos como o Microsoft 365 Copilot e o Google Workspace com o Bard, rival do ChatGPT, tornarão a IA generativa ainda mais presente. Se considerarmos os cerca de US$ 1 trilhão ao dispor dos fundos de venture capital e das cinco gigantes de tecnologia americanas, não vão faltar investimentos para o lançamento de novos produtos.


As questões éticas e jurídicas são cruciais e merecem um debate cuidadoso, mas as oportunidades que a IA generativa oferece só começaram a ser exploradas. O sucesso do ChatGPT, que alcançou 100 milhões de usuários em apenas dois meses, segundo análises do banco UBS, é um exemplo disso. Mas como utilizar essa tecnologia no ambiente corporativo?


A OpenAI posiciona o ChatGPT como um serviço voltado para consumidores. Informações compartilhadas com o chatbot podem ser armazenadas e utilizadas futuramente pela empresa. Esse não é um ambiente para se trabalhar com dados sigilosos. Apesar disso, ainda é possível utilizá-lo em situações que não envolvam informações confidenciais, como escrever uma coluna para um jornal. A OpenAI também oferece outra interface: a plataforma de APIs com o seu Playground.


APIs permitem a comunicação entre sistemas, e as da OpenAI oferecem termos de privacidade mais apropriados para uso profissional. Atualmente, os dados enviados são apagados após 30 dias e utilizados apenas para monitorar o mau uso ou abuso da tecnologia, não sendo usados para treinar seus modelos de IA. O Playground, por sua vez, proporciona uma interface de uso diretamente no navegador.


No modo chat no Playground, os termos de privacidade são os mesmos das APIs. Além

disso, podemos ajustar diversos parâmetros dos modelos de IA. Quer respostas mais variadas para uma mesma pergunta ou expandir tópicos na resposta? Basta mover os controles na tela. Já a cobrança é feita pelo volume de uso.


Com o lançamento de plugins, a OpenAI criou sua própria loja de aplicativos, expandindo o acesso à sua IA para o mundo. Esse serviço tem acesso limitado ao público e o seu impacto ainda está por vir. Pesquisadores da OpenAI e da Universidade da Pensilvânia estimam que 49% dos trabalhadores americanos terão pelo menos metade de suas tarefas afetadas pela integração dessas novas tecnologias. Em estudo publicado em 27 de março, eles alertam que, em geral, quanto maior o salário, maior a exposição da pessoa.


No meu caso, provi uma lista de ideias e pedi ao ChatGPT um texto formal com referências de mercado justificando um aumento do prêmio a ser pago pela seguradora. A carta surgiu em um instante, assertiva e confiante. E é aí que mora o perigo, no excesso de confiança.


Por mais impressionantes que sejam esses sistemas de linguagem natural, eles não compreendem o que estão dizendo, ou não da forma que nós entendemos. Esses programas são treinados para descobrir a frequência de associações entre palavras, expressões e imagens, fornecendo a resposta mais provável para a sequência recebida em uma pergunta ou prompt. Baseados em dados existentes, carregam os vieses da nossa realidade e arriscam fornecer respostas que pertençam à propriedade intelectual de terceiros. Em algumas situações, inventam respostas ou alucinam. No blog AI Weirdness, a autora Janelle Shane apresenta casos divertidos em que a IA erra ou cria fatos inexistentes.


Antes de usar qualquer resposta dada por um sistema de IA generativo como o ChatGPT, devemos averiguar a veracidade das informações. Isso levanta a questão se esses sistemas realmente aumentam a produtividade. Se é preciso checar tudo que produzem, talvez seja mais fácil trabalhar sem eles e fazer certo da primeira vez.


Quando pedi a carta, ainda não estava alerta aos riscos de alucinação da ferramenta, mas, por um misto de hábito e sorte, validei um dos estudos e removi os outros por brevidade. Não sou de acertar de primeira e sempre reviso meus textos várias vezes, logo isso não afetou a minha experiência. Por outro lado, ter conseguido um valor mais justo da seguradora deixou um sabor delicioso de vitória no uso do ChatGPT.


O fato de a IA às vezes alucinar não invalida o valor que cria nas vezes que acerta. A diferença muitas vezes está em como se pergunta. Um dos segredos é saber criar um contexto claro o suficiente para que o sistema responda corretamente, uma prática chamada de engenharia de prompt, um dos novos empregos criados pela IA.


Na nossa rotina de trabalho, que é focada em “due dilligence” de fusões e aquisições,

começamos usando a tecnologia para melhorar textos, como no caso da seguradora, mas rapidamente passamos a integrar as APIs nos nossos sistemas de diligência de tecnologia. Um exemplo é o processo de Osint (Open Source Intelligence), em que criamos um panorama inicial de empresas que sejam alvo de aquisição por algum de nossos clientes utilizando fontes de informação públicas, como anúncios de emprego e artigos. Com o uso da IA conseguimos automatizar a geração do relatório e focamos em validar ou corrigir os dados, o que acaba cortando o tempo e o esforço em mais de 50%.


A IA generativa é alucinante em vários sentidos. O relatório Artificial Intelligence Index Report 2023, da Universidade de Stanford, defende que precisamos entendê-la com mais nuance e profundidade, pois ela traz questões éticas e jurídicas difíceis, mas também nos ajuda a resolver grandes desafios como na criação de novos anticorpos, na fusão do hidrogênio ou na otimização do uso de energia, sem falar nos ganhos de produtividade. Com o crescimento acelerado tanto do uso quanto das habilidades dessas ferramentas, devemos experimentá-las para entendê-las na prática. Na era da inteligência artificial, a nossa criatividade se torna ainda mais importante.


Rodney Reis, CEO e fundador da Avalia Systems



Comentarios


bottom of page