{"id":138298,"date":"2025-07-24T08:00:00","date_gmt":"2025-07-24T06:00:00","guid":{"rendered":"https:\/\/www.icareweb.com\/knowledge\/how-to-prevent-genai-from-becoming-the-unruly-drunken-uncle\/"},"modified":"2026-08-13T08:23:29","modified_gmt":"2026-08-13T06:23:29","slug":"how-to-prevent-genai-from-becoming-the-unruly-drunken-uncle","status":"publish","type":"resource","link":"https:\/\/www.icareweb.com\/pt\/recursos\/manutencao-preditiva\/como-evitar-que-a-ia-generativa-se-torne-o-tio-bebado-e-incontrolavel\/","title":{"rendered":"Como evitar que a GenAI se torne o tio b\u00eabado e incontrol\u00e1vel"},"content":{"rendered":"\n
\n
\n

A intelig\u00eancia artificial generativa (GenAI) mudou para sempre a forma como interagimos com a tecnologia.<\/p>\n\n\n\n

Solu\u00e7\u00f5es como o ChatGPT conseguem produzir respostas bem fundamentadas e articuladas em quest\u00e3o de segundos. A maioria dos usu\u00e1rios analisa cuidadosamente o conte\u00fado gerado por IA antes de aplic\u00e1-lo ou reutiliz\u00e1-lo, pelo menos no in\u00edcio. Com o tempo, por\u00e9m, \u00e9 f\u00e1cil come\u00e7ar a confiar demais na GenAI. \u00c9 a\u00ed que os problemas come\u00e7am.<\/p>\n\n\n\n

As ferramentas de intelig\u00eancia artificial generativa est\u00e3o chegando a diversas \u00e1reas de alta criticidade, incluindo a manuten\u00e7\u00e3o industrial. Embora o potencial da GenAI seja enorme, os riscos tamb\u00e9m s\u00e3o bastante evidentes.<\/p>\n\n\n\n

Em uma entrevista recente, Tom Rombouts, Diretor de Reliability and Data-Driven Solutions da I-care, comparou a GenAI a um tio b\u00eabado em uma festa de fam\u00edlia. Vamos explorar essa analogia reveladora para entender como aplicar os insights de Rombouts e manter uma IA potencialmente incontrol\u00e1vel sob controle.<\/p>\n<\/div>\n\n\n\n

\n
\n

Como a IA se comporta como um tio b\u00eabado<\/strong><\/strong><\/h2>\n<\/div>\n\n\n\n
\n

Sir Winston Churchill<\/a> disse certa vez: \u201cA maior li\u00e7\u00e3o da vida \u00e9 saber que at\u00e9 os tolos acertam \u00e0s vezes.\u201d A GenAI n\u00e3o acerta apenas \u00e0s vezes. Ela acerta na maioria das vezes. E \u00e9 justamente a\u00ed que est\u00e1 o problema.<\/p>\n\n\n\n

Quase todas as respostas de ferramentas como o ChatGPT s\u00e3o gramaticalmente impec\u00e1veis e formuladas com uma linguagem que transmite conhecimento especializado. Isso inspira confian\u00e7a, especialmente porque essas respostas s\u00e3o apresentadas exclusivamente em texto. \u00c9 aqui que entra a analogia de Rombouts sobre o tio b\u00eabado.<\/p>\n\n\n\n

Imagine que voc\u00ea est\u00e1 em uma reuni\u00e3o de fam\u00edlia e todos est\u00e3o participando de uma conversa animada. Entre eles est\u00e1 seu tio. Ele \u00e9 inteligente e normalmente d\u00e1 bons conselhos. Hoje, por\u00e9m, bebeu demais.<\/p>\n\n\n\n

Seu tio fala com confian\u00e7a enquanto d\u00e1 conselhos sobre investimentos e apresenta grandes teorias sobre o mercado de a\u00e7\u00f5es. Felizmente, voc\u00ea percebe que ele est\u00e1 falando de forma enrolada e cambaleando. Por isso, entende que seus conselhos talvez n\u00e3o sejam confi\u00e1veis naquele momento.<\/p>\n\n\n\n

Agora imagine que voc\u00ea estivesse apenas lendo uma transcri\u00e7\u00e3o do que ele disse, com qualquer fala enrolada ou outra inconsist\u00eancia corrigida. Os conselhos pareceriam muito mais convincentes se voc\u00ea n\u00e3o soubesse que ele estava b\u00eabado.<\/p>\n\n\n\n

Esse \u00e9 exatamente o problema enfrentado pelos usu\u00e1rios de GenAI. O texto parece bem elaborado e extremamente convincente, principalmente quando o leitor n\u00e3o tem o conhecimento necess\u00e1rio para distinguir informa\u00e7\u00f5es sem fundamento de conselhos confi\u00e1veis.<\/p>\n<\/div>\n<\/div>\n\n\n\n

\n
\n

Por que nem sempre podemos confiar na IA<\/h2>\n<\/div>\n\n\n\n
\n

A IA generativa \u00e9 desenvolvida com base em enormes volumes de dados, mas nem todas essas informa\u00e7\u00f5es s\u00e3o precisas ou confi\u00e1veis. \u00c0s vezes, informa\u00e7\u00f5es tendenciosas ou simplesmente falsas acabam sendo incorporadas \u00e0s respostas. O resultado s\u00e3o respostas enganosas que podem trazer consequ\u00eancias graves para o seu neg\u00f3cio.<\/p>\n<\/div>\n<\/div>\n\n\n\n

\n
\n

Como tornar a IA generativa mais confi\u00e1vel<\/h2>\n<\/div>\n\n\n\n
\n

Combater a tend\u00eancia da IA de gerar conte\u00fado enganoso exige mecanismos robustos de controle de qualidade, incluindo:<\/p>\n\n\n\n

    \n
  • Verifica\u00e7\u00e3o de fatos<\/li>\n\n\n\n
  • Supervis\u00e3o humana<\/li>\n\n\n\n
  • Treinamento dos usu\u00e1rios para identificar erros da IA<\/li>\n\n\n\n
  • Ferramentas de IA sofisticadas capazes de reconhecer quando h\u00e1 incerteza<\/li>\n<\/ul>\n\n\n\n

    Al\u00e9m disso, \u00e9 importante testar a capacidade de um modelo de IA de diferenciar dados confi\u00e1veis de dados incorretos. Fornecer intencionalmente informa\u00e7\u00f5es falsas a um modelo pode ajudar a treinar sua capacidade de detectar informa\u00e7\u00f5es sem fundamento.<\/p>\n<\/div>\n<\/div>\n\n\n\n

    \n
    \n

    Use a IA, mas sempre verifique os resultados<\/h2>\n<\/div>\n\n\n\n
    \n

    N\u00e3o deixe que a analogia do tio b\u00eabado desestimule voc\u00ea a usar intelig\u00eancia artificial. Sua empresa deve usar IA. Apenas certifique-se de verificar as informa\u00e7\u00f5es recebidas para evitar erros constrangedores. Com os controles adequados, a IA pode transformar os resultados da sua organiza\u00e7\u00e3o.<\/p>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n

    \n
    \n<\/div>\n\n\n\n
    \n

    Este artigo foi escrito por Tom Rombouts, Diretor de Confiabilidade<\/em><\/strong><\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

    A intelig\u00eancia artificial generativa (GenAI) mudou para sempre a forma como interagimos com a tecnologia. Solu\u00e7\u00f5es como o ChatGPT conseguem produzir respostas bem fundamentadas e articuladas em quest\u00e3o de segundos. A maioria dos usu\u00e1rios analisa cuidadosamente o conte\u00fado gerado por IA antes de aplic\u00e1-lo ou reutiliz\u00e1-lo, pelo menos no in\u00edcio. Com o tempo, por\u00e9m, \u00e9 […]<\/p>\n","protected":false},"featured_media":138299,"menu_order":0,"template":"","meta":{"_acf_changed":false,"_seopress_titles_title":"","_seopress_titles_desc":"A GenAI \u00e9 poderosa, mas tamb\u00e9m apresenta riscos. Descubra como evitar que a IA induza sua equipe ao erro com os insights de Tom Rombouts, da I-care.","_seopress_robots_index":"","_seopress_robots_follow":"","_seopress_robots_imageindex":"","_seopress_robots_snippet":"","_seopress_robots_primary_cat":"","_seopress_robots_breadcrumbs":"","_seopress_robots_freeze_modified_date":"","_seopress_robots_custom_modified_date":"","_seopress_robots_canonical":"","_seopress_social_fb_title":"","_seopress_social_fb_desc":"","_seopress_social_fb_img":"","_seopress_social_fb_img_attachment_id":0,"_seopress_social_fb_img_width":0,"_seopress_social_fb_img_height":0,"_seopress_social_twitter_title":"","_seopress_social_twitter_desc":"","_seopress_social_twitter_img":"","_seopress_social_twitter_img_attachment_id":0,"_seopress_social_twitter_img_width":0,"_seopress_social_twitter_img_height":0,"_seopress_redirections_value":"","_seopress_redirections_enabled":"","_seopress_redirections_enabled_regex":"","_seopress_redirections_logged_status":"both","_seopress_redirections_param":"","_seopress_redirections_type":301,"_seopress_analysis_target_kw":"","_seopress_news_disabled":"","_seopress_video_disabled":"","_seopress_video":[{"url":"","title":"","desc":"","thumbnail":"","duration":"","rating":"","view_count":"","tag":""}],"_seopress_pro_schemas_manual":[],"_seopress_pro_rich_snippets_disable_all":"","_seopress_pro_rich_snippets_disable":[],"_seopress_pro_schemas":[],"content-type":"","inline_featured_image":false},"knowledge-industries":[],"knowledge-topics":[694],"knowledge-types":[700],"class_list":["post-138298","resource","type-resource","status-publish","has-post-thumbnail","topic-manutencao-preditiva","post-cat-blog"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/knowledge\/138298","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/knowledge"}],"about":[{"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/types\/resource"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/media\/138299"}],"wp:attachment":[{"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/media?parent=138298"}],"wp:term":[{"taxonomy":"industry","embeddable":true,"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/knowledge-industries?post=138298"},{"taxonomy":"topic","embeddable":true,"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/knowledge-topics?post=138298"},{"taxonomy":"post-cat","embeddable":true,"href":"https:\/\/www.icareweb.com\/pt\/wp-json\/wp\/v2\/knowledge-types?post=138298"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}