Generative künstliche Intelligenz (GenAI) hat die Art und Weise, wie wir mit Technologie interagieren, für immer verändert.
Lösungen wie ChatGPT können in Sekundenschnelle gut begründete, artikulierte Antworten produzieren. Die meisten Nutzer prüfen KI-generierte Inhalte sorgfältig, bevor sie sie anwenden oder weiterverwenden – zumindest anfangs. Mit der Zeit ist es leicht, GenAI zu viel Vertrauen zu schenken. Und dann beginnen die Probleme.
Werkzeuge der generativen künstlichen Intelligenz halten Einzug in verschiedene wichtige Bereiche, darunter die industrielle Instandhaltung. Während die potenziellen Vorteile von GenAI enorm sind, liegen die Risiken ebenso klar auf der Hand.
In einem kürzlichen Interview verglich Tom Rombouts, Director of Reliability and Data-Driven Solutions bei I-care, GenAI mit einem betrunkenen Onkel auf einer Familienfeier. Lassen Sie uns dieses augenöffnende Gleichnis auspacken, damit Sie verstehen, wie Sie die Erkenntnisse von Rombouts nutzen können, um widerspenstige KI zu zügeln.
Wie sich AI wie ein betrunkener Onkel verhält
Sir Winston Churchill hat einmal gesagt: „Die größte Lektion im Leben ist zu wissen, dass auch Narren manchmal Recht haben.“ GenAI hat nicht nur manchmal recht – sie hat meistens recht. Genau hier liegt das Problem.
Nahezu jede Antwort von Tools wie ChatGPT ist grammatikalisch einwandfrei und mit einer fachmännischen Syntax formuliert. Die Antworten wirken vertrauenserweckend, vor allem, wenn man bedenkt, dass sie ausschließlich durch Text übermittelt werden. Hier kommt Rombouts Gleichnis vom betrunkenen Onkel ins Spiel.
Stellen Sie sich vor, Sie sind bei einem Familientreffen und alle diskutieren angeregt. Unter ihnen ist auch Ihr Onkel. Er ist ein kluger Mann und gibt normalerweise gute Ratschläge. Heute jedoch hat er zu viel getrunken.
Ihr Onkel spricht selbstbewusst, während er Anlagetipps gibt und große Theorien über den Aktienmarkt aufstellt. Glücklicherweise können Sie hören, wie er lallt, und sehen, wie er stolpert. Sie verstehen daher, dass seine Ratschläge in seinem derzeitigen Zustand möglicherweise nicht vertrauenswürdig sind.
Stellen Sie sich nun vor, Sie würden nur eine Abschrift seiner Worte lesen, in der alle Verunglimpfungen oder sonstigen Ungereimtheiten korrigiert sind. Sein Rat wäre viel überzeugender, wenn Sie nicht wüssten, dass er betrunken war.
Das ist genau das Problem, mit dem GenAI-Nutzer konfrontiert sind. Der Text wirkt ausgefeilt und sehr überzeugend, vor allem, wenn der Leser nicht über die nötige Sachkenntnis verfügt, um Blödsinn von guten Ratschlägen zu unterscheiden.
Warum man KI nicht immer trauen kann
Generative KI basiert auf riesigen Datenmengen, aber nicht alle dieser Informationen sind genau oder zuverlässig. Manchmal werden voreingenommene oder schlichtweg falsche Informationen in die Antworten integriert. Das Ergebnis sind irreführende Ergebnisse, die schwerwiegende Folgen für Ihr Unternehmen haben können.
Wie man generative KI nüchtern macht
Um die Tendenz der KI zur Erzeugung irreführender Inhalte zu bekämpfen, sind robuste Qualitätskontrollmechanismen erforderlich:
- Faktenüberprüfung
- Menschliche Aufsicht
- Benutzerschulung zur Erkennung von KI-Fehlern
- Hochentwickelte KI-Tools, die Unsicherheit zulassen
Außerdem ist es wichtig, die Fähigkeit eines KI-Modells zu testen, gute Daten von schlechten Daten zu unterscheiden. Wenn ein Modell absichtlich mit Fehlinformationen gefüttert wird, kann es die „BS-Erkennung“ des Programms trainieren.
AI verwenden (aber immer überprüfen)
Lassen Sie sich nicht vom Gleichnis des betrunkenen Onkels vom Einsatz künstlicher Intelligenz abschrecken. Ihr Unternehmen sollte KI nutzen. Stellen Sie nur sicher, dass Sie die Informationen, die Sie erhalten, überprüfen, um peinliche Fehler zu vermeiden.
Mit den richtigen Überprüfungen kann KI für Ihr Unternehmen ein entscheidender Faktor sein.
Dieser Artikel stammt von Tom Rombouts, Direktor für Zuverlässigkeit
