Vorsicht vor diesen vier GenAI-Qualitätskillern
(IINews) - 23. Juli 2025– Ohne echte Qualitätssicherung für die Nutzung generativer KI steht der Menschheit eine Dystopie ins Haus. Solange sie nicht existiert, sind die Nutzer in der Pflicht, die Gefahren von GenAI zu kennen und die Technologie verantwortungsvoll einzusetzen. Die Münchner Kommunikationsagentur PR-COM, die auf High-tech-Themen spezialisiert ist, sorgt für Aufklärung und nennt die vier gefährlichsten Qualitätskiller im beginnenden KI-Zeitalter.
Die Leistung und die Zuverlässigkeit von KI-Assistenten nehmen gefühlt weiter zu. Doch wer in den letzten Wochen intensives Prompting bei ChatGPT, Perplexity und Co. betrieben und die Ergebnisse eingehend analysiert hat, fühlte sich in diesem Gefühl nicht bestätigt. Im Gegenteil: Die Qualität der generiertenAntworten lässt neuerdings öfter zu wünschen übrig. Auf YouTube (www.youtube.com/watch?v=KeEs3HpuH9I) gibt es zahlreiche (www.youtube.com/watch?v=TeQDr4DkLYo) Videos zu diesem Phänomen, das sich offenbar auch die Hersteller nicht so ganz erklären können, aber auch klassische Medien berichten darüber (https://techcrunch.com/2025/04/18/openais-new-reasoning-ai-models-hallucinate-more/). In Anbetracht der Tatsache, wie abhängig sich viele Menschen im Berufsleben schon heute von GenAI-Tools gemacht haben, ist dieser Trend erschreckend und ernüchternd. Ein blindes Vertrauen in die digitalen Helfer aus der Familie generativer KI birgt zudem großes Schadenspotenzial, etwa dann, wenn Ärztinnen sich bei der Diagnose auf sie stützen oder Entwickler von der KI vorgeschlagene Frameworks ohne Sicherheitscheck implementieren.
Völliges Vertrauen in GenAI ist also, zurückhaltend formuliert, mindestens gewagt. Die Situation ist ernst und erfordert von GenAI-Anbietern ein Mindestmaß an Qualitätssicherung – offenbar kein einfaches Unterfangen. Bis dahin ist es wichtig, eigene Maßnahmen zu ergreifen, um nicht in die Falle der folgenden vier Qualitätskiller zu geraten.
Killer #1: Halluzinationen
KI-Assistenten wie ChatGPT und Co. wurde die Aufgabe erteilt, Antworten zu liefern– koste es, was es wolle. Wenn die Wissensbibliothek nicht ausreicht, um komplexe Sachverhalte zu beantworten, fängt generative KI an, sich etwas auszudenken. Die von solchen Halluzinationen ausgehende Gefahr ist bekannt. Umso bedrückender ist die Tatsache, dass laut einer aktuellen Studie (www.ey.com/de_de/newsroom/2025/05/ey-ai-sentiment-index-2025) nur rund ein Viertel (27 %) der Menschen in Deutschland die Ergebnisse, die KI für sie generiert, auf Korrektheit prüfen. Das sind zwar immerhin 7 Prozentpunkte mehr als bei gewöhnlichen Inhalten aus dem Internet, wie eine Studie des PR-COM Research Lab belegt (https://pr-com.de/research/80-prozent-der-deutschen-nehmen-fake-news-einfach-hin-und-hinterfragen-sie-nicht/), aber noch immer viel zu wenige.
Gegenmaßnahmen: Wer GenAI nutzt, sollte ausnahmslos alle von ihr produzierten Inhalte überprüfen. Dazu sollten User insbesondere die von der KI verwendeten Primärquellen checken oder – wenn möglich – Experten zur Prüfung der Korrektheit der Antworten zu Rate ziehen.
Killer #2: Bias
Die Anbieter aktueller KI-Assistenten haben sehr viel Arbeit in ihre Produkte gesteckt, um den Bias, also die Voreingenommenheit ihrer Modelle auszumerzen und sie zur Vorurteilsfreiheit zu erziehen. Verlassen sollten sich User auf die moralische und ethische Unantastbarkeit ihrer Modelle dennoch nicht. Zwar ist es unwahrscheinlich, dass Produkte großer Hersteller noch rassistische, sexistische oder sonstige ethisch fragwürdige Ansichten vertreten, aber komplett ausgeschlossen ist es eben nicht. Noch relativ hoch ist die Gefahr zudem bei der Nutzung von kostenlosen GenAI-Assistenten oder Nischen-Tools.
Gegenmaßnahmen: Auch im Zusammenhang mit Bias gilt es, die Ergebnisse einer KI-Befragung immer genauestens zu checken und mit geltenden Gesetzen sowie den vorherrschenden Wertevorstellungen unserer Gesellschaft abzugleichen. Wer dubiose KI-Tools meidet, kann sich zudem viel Ärger ersparen.
Killer #3: Content-Kannibalisierung
Immer mehr KI-generierter Content flutet das Internet– die logische Folge der zunehmenden Nutzung von GenAI-Assistenten. Leider trainieren KI-Entwickler ihre Chatbots und deren zugrunde liegende Sprachmodelle unter anderem mit genau diesen Inhalten. Und schlimmer noch: Der exponentiell steigende KI-Inhalt ist darüber hinaus auch der Wissensschatz, auf den die KI für ihre Antworten zurückgreift. Dadurch entsteht ein Teufelskreis aus künstlicher Intelligenz, die sich irgendwann nur noch mit von ihr selbst generierten Inhalten trainiert und auch nur noch von ihr produzierten Content als Basiswissen verwendet. Der Mensch wird aus dieser Gleichung immer weiter herausgekürzt. Die Qualität der Ergebnisse von Anfragen an die KI wird somit zunehmend abnehmen. Hinzu kommt, dass alle User irgendwann die gleichen Ergebnisse abrufen, nutzen und veröffentlichen.
Gegenmaßnahmen: Es ergibt Sinn, hin und wieder auch ohne KI zu agieren und Content zu produzieren, der frei von KI-generierten Inhalten ist und das Qualitätsmerkmal „Made in a human brain“ trägt.
Killer #4: Wissensoligopol
Der KI-Markt ist derzeit auf einige wenige Big Player geschrumpft, die sich die enormen Rechenressourcen und Entwicklungskosten für generative KI leisten können. Dadurch entsteht zunehmend ein Wissensoligopol, in dem die großen Anbieter wie OpenAI, Google, Microsoft und DeepSeek zukünftig die Art und Weise bestimmen, welche Informationen überhaupt noch zugänglich sind. Schon jetzt gehen Suchanfragen auf dentraditionellen Suchmaschinen deutlich zurück, die Ergebnisse zwar nach Algorithmen ranken, aber selten Treffer komplett ausblenden. Viel restriktiver agieren GenAI-Tools, deren implementierte Filter die freiheitliche Verbreitung von Wissen einzuschränken drohen: Was nicht mit den politischen und moralischen Ideen der Hersteller übereinstimmt, wird automatisch unterdrückt. Das erinnert ein wenig an das Wahrheitsministerium aus Orwells „1984“.
Gegenmaßnahmen: Es ist wichtig, dass Unternehmen und offizielle Stellen auch unabhängige Projekte fördern und deren Nutzer- sowie Supporter-Basis wächst. Gleichzeitig sollten User es dringend verinnerlichen, dass nicht die KI-Assistenten der Wahrheit letzter Schluss sind. Das Nutzen möglichst vieler Quellen, um das eigene Wissen aufzubauen, ist immer besser als ein vermeintlicher „Single Point of Truth“.
„Wir sind noch lange nicht so weit, dass ein blindes Vertrauen in generative KI zu rechtfertigen ist“, betont Alain Blaes, CEO der Münchner Kommunikationsagentur PR-COM. „Es ist zwar logisch, dass wir eine vermeintlich arbeitserleichternde Technologie erst einmal ungern hinterfragen – doch dieser Bequemlichkeit wohnt, je nach Einsatzzweck, ein erhebliches Schadenspotenzial inne. Zum jetzigen Zeitpunkt lautet also die Maxime, restlos jede von GenAI generierte Antwort genauestens auf den Prüfstand zu stellen.“
Dieses Listicle und das Bild in höherer Auflösung können unter https://pr-com.de/insights abgerufen werden.
PR-COM in München ist Experte für PR, Social Media und Kommunikation und fokussiert auf die High-tech- und IT-Industrie im B2B-Umfeld. Bedingungslos hohe Qualität steht für alle 45 Kolleginnen und Kollegen an erster Stelle. So begeistern unsere Berater ihre Kunden mit dem Erfolg, den sie Monat für Monat in den Medien erzielen, und dem Vertrauen, das die Zusammenarbeit so wertvoll macht. Unser 9-köpfiges Redaktionsteam besticht durch langjährige IT-Fachexpertise gepaart mit journalistischem Können. Weil wir nichts langweiliger finden als herkömmliche Kommunikation, gehen wir stets die Extrameile und arbeiten mit viel Herzblut an neuen Strategien und Ideen für unsere 50 Kunden. Wir wissen: Hinter jeder starken Agentur steht ein starkes Team. Wir tun deshalb alles dafür, dass sich unsere Mitarbeiter wohlfühlen und weiterentwickeln können. Stillstand ist für uns keine Option. Mehr unter www.pr-com.de
PR-COM GmbH
Katrin Link
Tel. +49-89-59997-814
katrin.link(at)pr-com.de
www.pr-com.de
Datum: 23.07.2025 - 11:13 Uhr
Sprache: Deutsch
News-ID 2186766
Anzahl Zeichen: 0
Kontakt-Informationen:
Ansprechpartner: Katrin Link
Stadt:
München
Telefon: +49-89-59997-814
Kategorie:
Internet
Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 23.07.2025
Dieser Fachartikel wurde bisher 1 mal aufgerufen.
Der Fachartikel mit dem Titel:
"Vorsicht vor diesen vier GenAI-Qualitätskillern"
steht unter der journalistisch-redaktionellen Verantwortung von
PR-COM (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).