KI-Agenten brauchen menschliche Aufsicht
(IINews) - 20. März 2025 – Agentic AI bietet Unternehmen große Vorteile, muss aber von menschlichen Instanzen überwacht werden, um regulatorische Vorgaben und ethische Standards zu erfüllen. Pegasystems (www.pega.com/de) zeigt auf, wie Unternehmen einen robusten Governance-Rahmen für agentischeKI etablieren.
Agentic AI verspricht Unternehmen erhebliche Effizienzgewinne. Sie zerlegt komplexe Aufgaben in kleinere,überschaubare Teilaufgaben, die sich einfacher lösen lassen. KI-Agenten, die bestimmte Rollen wahrnehmen oder auf bestimmte Tätigkeiten spezialisiert sind, führen diese Aufgaben dann automatisiert aus. Anschließend setzt ein übergeordneter Agent die Ergebnisse zusammen, um die Gesamtaufgabe zu lösen.
Damit ermöglicht agentische KI mehr und bessere Automatisierung. Sie birgt aber auch Risiken: Algorithmen könnten diskriminierende Entscheidungen treffen, die Entscheidungen von KI-Agenten sind unter Umständen nicht transparent nachvollziehbar oder es entstehen Sicherheitslücken. Unternehmen laufen Gefahr, gegen regulatorische Vorgaben und ethische Standards zu verstoßen.
Agentic AI benötigt einen Governance-Rahmen. Im Zentrum steht dabei die Überwachung durch Menschen, denn eine selbstgesteuerte Überwachung durch Agenten reicht nicht aus. Pegasystems zeigt auf, wie Unternehmen Schritt für Schritt eine robuste Governance für Agentic AI etablieren.
1. Governance-Richtlinien definieren. Zunächst klären Unternehmen die internen Verantwortlichkeiten für ihre KI-Systeme. Zudem legen sie Standards fest, die auf regulatorischen Anforderungen wie dem EU AI Act und der DSGVO basieren.
2. Risikoanalyse und -management implementieren. Im zweiten Schritt identifizieren sie Hochrisiko-Anwendungen. Außerdem führen sie kontinuierliche Monitorings für diskriminierende KI-Entscheidungen („Bias“), Sicherheit und Datenschutz ein.
3. Transparenz- und Erklärbarkeitsmaßnahmen umsetzen. Unternehmen wählen erklärbare KI-Modelle aus oder implementieren ergänzende Mechanismen für die Nachvollziehbarkeit von KI-Modellen in die Agentic AI. Zudem richten sie eine Dokumentation der KI-Entscheidungen für Audits undRegulierungsbehörden ein.
4. Human-in-the-Loop-Mechanismus etablieren. Im nächsten Schritt integrieren Organisationen menschliche Kontrolle in kritische Entscheidungsprozesse. Zusätzlich definieren sie klare Eingriffsmechanismen bei Fehlentscheidungen und legen die Verantwortung für finale Entscheidungen fest.
5. KontinuierlicheÜberwachung und Anpassung. Die Governance-Richtlinien sollten regelmäßig evaluiert und aktualisiert werden. Dazu implementieren Unternehmen ein „AI Governance Board“ oder ähnliche Kontrollinstanzen.
6. Schulung und Sensibilisierung der Mitarbeitenden. In Trainingsprogrammen informieren Unternehmen ihre Entwickler und Entscheidungsträger zu ethischen und rechtlichen Anforderungen. Damit schaffen sie eine Governance-Kultur, in der die Verantwortung für Künstliche Intelligenz ernst genommen wird.
„Wenn Unternehmen beim Einsatz von agentischer KI für Transparenz, Fairness und Sicherheit sorgen, minimieren sie nicht nur Risiken. Sie verschaffen sich auch Wettbewerbsvorteile, weil sie das Vertrauen in ihre KI-Systeme stärken“, erklärt Florian Lauck-Wunderlich, Head of AI andAdvanced Analytics Consulting EMEA bei Pegasystems. „Dabei verfolgen sie am besten einen strukturierten Governance-Ansatz mit klaren Verantwortlichkeiten, regelmäßigen Audits und menschlicher Kontrolle.“
Dieses Listicle und das Bild in höherer Auflösung können unter www.brandmacher.de/company/pegasystems abgerufen werden.
Pega, The Enterprise Transformation Company, hilft Unternehmen mit KI-gestützter Entscheidungsfindung und Workflow-Automatisierung bei ihrer digitalen Transformation. Viele der weltweit einflussreichsten Unternehmen vertrauen auf die Plattform von Pegasystems, um ihre dringlichsten Herausforderungen zu lösen–von der Personalisierung der Kundenanspracheüber die Automatisierung von Services bis hin zur Optimierung operativer Prozesse. Seit 1983 entwickelt Pegasystems seine skalierbare und flexible Architektur kontinuierlich weiter, um Unternehmen dabei zu helfen, die Anforderungen ihrer Kunden zu erfüllen und sich gleichzeitig für die Zukunft zu rüsten.
Weitere Informationenüber Pega (NASDAQ: PEGA) sind unter http://www.pega.com/de verfügbar.
Melissa Gemmrich
Brandmacher GmbH
Sendlinger-Tor-Platz 6
80336 München
Telefon: 089-59997-759
melissa.gemmrich(at)brandmacher.de
Datum: 20.03.2025 - 14:20 Uhr
Sprache: Deutsch
News-ID 2160057
Anzahl Zeichen: 0
Kontakt-Informationen:
Ansprechpartner: Melissa Gemmrich
Stadt:
München
Telefon: +49-89-59997-759
Kategorie:
Internet
Meldungsart: Unternehmensinfos
Versandart: Veröffentlichung
Freigabedatum: 20.03.2025
Dieser Fachartikel wurde bisher 111 mal aufgerufen.
Der Fachartikel mit dem Titel:
"KI-Agenten brauchen menschliche Aufsicht"
steht unter der journalistisch-redaktionellen Verantwortung von
Pegasystems (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).