A inteligência artificial generativa (GenAI) mudou para sempre a forma como interagimos com a tecnologia.
Soluções como o ChatGPT conseguem produzir respostas bem fundamentadas e articuladas em questão de segundos. A maioria dos usuários analisa cuidadosamente o conteúdo gerado por IA antes de aplicá-lo ou reutilizá-lo, pelo menos no início. Com o tempo, porém, é fácil começar a confiar demais na GenAI. É aí que os problemas começam.
As ferramentas de inteligência artificial generativa estão chegando a diversas áreas de alta criticidade, incluindo a manutenção industrial. Embora o potencial da GenAI seja enorme, os riscos também são bastante evidentes.
Em uma entrevista recente, Tom Rombouts, Diretor de Reliability and Data-Driven Solutions da I-care, comparou a GenAI a um tio bêbado em uma festa de família. Vamos explorar essa analogia reveladora para entender como aplicar os insights de Rombouts e manter uma IA potencialmente incontrolável sob controle.
Como a IA se comporta como um tio bêbado
Sir Winston Churchill disse certa vez: “A maior lição da vida é saber que até os tolos acertam às vezes.” A GenAI não acerta apenas às vezes. Ela acerta na maioria das vezes. E é justamente aí que está o problema.
Quase todas as respostas de ferramentas como o ChatGPT são gramaticalmente impecáveis e formuladas com uma linguagem que transmite conhecimento especializado. Isso inspira confiança, especialmente porque essas respostas são apresentadas exclusivamente em texto. É aqui que entra a analogia de Rombouts sobre o tio bêbado.
Imagine que você está em uma reunião de família e todos estão participando de uma conversa animada. Entre eles está seu tio. Ele é inteligente e normalmente dá bons conselhos. Hoje, porém, bebeu demais.
Seu tio fala com confiança enquanto dá conselhos sobre investimentos e apresenta grandes teorias sobre o mercado de ações. Felizmente, você percebe que ele está falando de forma enrolada e cambaleando. Por isso, entende que seus conselhos talvez não sejam confiáveis naquele momento.
Agora imagine que você estivesse apenas lendo uma transcrição do que ele disse, com qualquer fala enrolada ou outra inconsistência corrigida. Os conselhos pareceriam muito mais convincentes se você não soubesse que ele estava bêbado.
Esse é exatamente o problema enfrentado pelos usuários de GenAI. O texto parece bem elaborado e extremamente convincente, principalmente quando o leitor não tem o conhecimento necessário para distinguir informações sem fundamento de conselhos confiáveis.
Por que nem sempre podemos confiar na IA
A IA generativa é desenvolvida com base em enormes volumes de dados, mas nem todas essas informações são precisas ou confiáveis. Às vezes, informações tendenciosas ou simplesmente falsas acabam sendo incorporadas às respostas. O resultado são respostas enganosas que podem trazer consequências graves para o seu negócio.
Como tornar a IA generativa mais confiável
Combater a tendência da IA de gerar conteúdo enganoso exige mecanismos robustos de controle de qualidade, incluindo:
- Verificação de fatos
- Supervisão humana
- Treinamento dos usuários para identificar erros da IA
- Ferramentas de IA sofisticadas capazes de reconhecer quando há incerteza
Além disso, é importante testar a capacidade de um modelo de IA de diferenciar dados confiáveis de dados incorretos. Fornecer intencionalmente informações falsas a um modelo pode ajudar a treinar sua capacidade de detectar informações sem fundamento.
Use a IA, mas sempre verifique os resultados
Não deixe que a analogia do tio bêbado desestimule você a usar inteligência artificial. Sua empresa deve usar IA. Apenas certifique-se de verificar as informações recebidas para evitar erros constrangedores. Com os controles adequados, a IA pode transformar os resultados da sua organização.
Este artigo foi escrito por Tom Rombouts, Diretor de Confiabilidade