Wahrhaftigkeit ist die höchste Tugend der KI
Ein Statement von Peter van der Putten, Director AI Lab bei Pegasystems und Assistant Professor AI an der Universität Leiden, zum Rückzug der neuesten ChatGPT-Version.
(IINews) - 5. Mai 2025– OpenAI hat die aktuellste Version seines GPT-4o-Modells in ChatGPT zurückgezogen, weil es zu „unterwürfig“ wurde. Wie das Unternehmen mitteilt, ist die Ursache dafür nicht hundertprozentig klar. Es könnte aber an einer Kombination aus dem Lernen aus Feedback, Prompt Engineering und personalisierten Kontextdaten liegen.
GenAI-Anbieter stehen generell unter großem Druck, ihre Produkte „unterstützender“ zu gestalten. Außerdem möchten sie bei Benchmarks, etwa der Chatbot Arena, deren Rankings darauf basieren, welche Antworten die Nutzer in einem direkten Vergleich bevorzugen, gut abschneiden. Dabei geben die Nutzer möglicherweise dem, was sie gerne hören wollen, den Vorzug vor dem, was richtig ist. Dasselbe gilt für das „Reinforcement Learning“ durch menschliches Feedback, also die Methode, die von den meisten Anbietern für das Training ihrer Modelle verwendet wird.
Zudem entwickelt sich ChatGPT immer mehr zu einem Chatbot für Privatnutzer, und laut einer aktuellen Untersuchung der Harvard Business Review (https://hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025) verlagert sich die Verwendung durch Privatnutzer zunehmend auf Anwendungsfälle wie Begleitung, Therapie, Sinnsuche und reinen Spaß. Da istes natürlich verlockend, die KI auf diese Zielgruppe auszurichten und für sie zu personalisieren – auf Kosten der Wahrhaftigkeit oder Sicherheit.
Ein helfender Assistent ist grundsätzlich eine großartige Sache. Eine KI darf aber nicht zum Ja-Sager werden. Beim Aufbau und Testen der Modelle und Dienste sollten deshalb nicht sofortige „Dopamin-Effekte“ Priorität haben, sondern langfristige Vertrauenswürdigkeit. Es ist wichtig, sich noch einmal in Erinnerung zu rufen, dass es bei empathischer KI nicht nur darum geht, personalisiert, intelligent oder emotional sensibel zu sein. Die tiefste Erwartung von uns Menschen an KI ist moralischer Natur. Sie soll das tun, was für uns am besten ist – und zwar langfristig.
Dieses Statement und das Bild in höherer Auflösung können unter www.brandmacher.de/company/pegasystems abgerufen werden.
Pega, The Enterprise Transformation Company, hilft Unternehmen mit KI-gestützter Entscheidungsfindung und Workflow-Automatisierung bei ihrer digitalen Transformation. Viele der weltweit einflussreichsten Unternehmen vertrauen auf die Plattform von Pegasystems, um ihre dringlichsten Herausforderungen zu lösen–von der Personalisierung der Kundenanspracheüber die Automatisierung von Services bis hin zur Optimierung operativer Prozesse. Seit 1983 entwickelt Pegasystems seine skalierbare und flexible Architektur kontinuierlich weiter, um Unternehmen dabei zu helfen, die Anforderungen ihrer Kunden zu erfüllen und sich gleichzeitig für die Zukunft zu rüsten.
Weitere Informationenüber Pega (NASDAQ: PEGA) sind unter www.pega.com/de verfügbar.
Christina Haslbeck
Brandmacher GmbH
Sendlinger-Tor-Platz 6
80336 München
Telefon: 089-59997-702
christina.haslbeck(at)brandmacher.de
Datum: 06.05.2025 - 12:06 Uhr
Sprache: Deutsch
News-ID 2169797
Anzahl Zeichen: 0
Kontakt-Informationen:
Ansprechpartner: Christina Haslbeck
Stadt:
München
Telefon: +49-89-59997-702
Kategorie:
Internet
Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 05.05.2025
Dieser Fachartikel wurde bisher 7 mal aufgerufen.
Der Fachartikel mit dem Titel:
"Wahrhaftigkeit ist die höchste Tugend der KI"
steht unter der journalistisch-redaktionellen Verantwortung von
Pegasystems (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).