media-blend
text-black

Globales Unternehmen, Big Data

Vorsicht vor KI ohne klare Regeln: Wer überwacht den Algorithmus?

Von Compliance zum Wettbewerbsvorteil: Algorithmische Governance ist die Grundlage für verantwortungsvolle KI.

default

#

default

#

primary

default

#

secondary

Künstliche Intelligenz ist keine experimentelle Technologie mehr. Zu Hause lesen wir über KI, ziehen sie zu Rate, hinterfragen, wie sie eingesetzt wird, und suchen ständig nach Möglichkeiten, ihre Fähigkeiten zu optimieren. In Unternehmen geschieht etwas Ähnliches: KI ist aktiv an Entscheidungen im Zusammenhang mit Kreditgenehmigungen, Betrugserkennung, Preisgestaltung, der Erstellung schriftlicher, grafischer und audiovisueller Inhalte, der Automatisierung von Geschäftsprozessen, dem Kundenservice und vielen weiteren spezialisierten Funktionen beteiligt.

Was jedoch nicht im gleichen Tempo voranschreitet, ist die Diskussion darüber, wie diese Entscheidungen reguliert, kontrolliert und auditiert werden. Dies geschieht sowohl innerhalb einzelner Organisationen als auch auf nationaler und globaler Ebene.

Unter den zahlreichen Folgen, die dies mit sich bringt – auf die wir in diesem Artikel nicht eingehen werden –, möchte ich mich auf algorithmische Governance als entscheidenden Faktor für Reputation, Compliance und Wettbewerbsvorteile konzentrieren.

heading, alignment-left

Algorithmic governance

Algorithmische Governance lässt sich als eine Reihe von Prozessen, Richtlinien und Aufsichtsmechanismen definieren, die es Unternehmen ermöglichen, den Lebenszyklus von KI-Modellen zu verwalten. Wenn wir möchten und erwarten, dass diese Modelle finanzielle, vertragliche oder geschäftliche Entscheidungen innerhalb eines Unternehmens beeinflussen, ist es wichtig zu verstehen, wie sie funktionieren und wie sie gesteuert werden sollten.

Natürlich ist dieses Thema je nach Branche unterschiedlich. In Branchen wie dem Bankwesen, dem Versicherungswesen und dem Gesundheitswesen kann ein KI-Modell beispielsweise bestimmen, wer einen Kredit genehmigt bekommt, welches Risikoniveau einem Kunden zugewiesen wird und vieles mehr. Strategisch wichtig ist es, die Logik hinter jedem Modell sowie dessen Biases zu verstehen. Dazu gehört das Verständnis dafür, woher die Daten stammen, welche Qualität sie haben, wie repräsentativ sie sind und wie sie überwacht werden können, um sicherzustellen, dass sie den Standards entsprechen, die jede Organisation einhalten möchte.

Algorithmische Governance ist daher eng mit der regulatorischen Compliance verbunden, hilft aber auch, subtilere Risiken zu mindern – Risiken, die entstehen können, bevor es tatsächlich zu einem Verstoß kommt. Deshalb ist die Rückverfolgbarkeit von Daten so wichtig: Unternehmen müssen die Logik hinter den Entscheidungen verstehen, die sie automatisieren.

AI governance in Latin America

Der Latin American Artificial Intelligence Index (ILIA 2025), der den Stand der KI in 19 Ländern der Region analysierte, indem er institutionelle Rahmenbedingungen, internationales Engagement und regulatorische Rahmenbedingungen bewertete, hebt die Fragmentierung unserer Region hervor.

Im Einführungsprozess gibt es unterschiedliche Realitäten und ungelöste Herausforderungen, doch das Hauptproblem ist eine Lücke zwischen erklärten Zusagen und der tatsächlichen Reife. Wenn Unternehmen KI-Lösungen skalieren möchten, stoßen sie auf Strategien ohne ausreichende Finanzierung, Engpässe bei der Infrastruktur und fehlende globale Standards.

Länder wie Brasilien, Chile und Uruguay haben Strategien mit langfristigen Visionen entwickelt. Allerdings haben laut ILIA 2025 etwa sieben Länder in der Region noch keine Roadmap für die KI-Entwicklung definiert. Selbst unter denjenigen, die Strategien festgelegt haben, haben nur wenige erhebliche Fortschritte bei der Zuweisung von Budgets oder der Entwicklung von Aktionsplänen für eine wirksame Regulierung erzielt.

Vor diesem Hintergrund und angesichts der Verzögerung bei behördlicher Regulierung legt das Weltwirtschaftsforum (WEF) nahe, dass Governance im eigenen Unternehmen beginnen sollte. Führungskräfte in Unternehmen können es sich nicht leisten, darauf zu warten, dass spezifische Gesetze erlassen werden; Daten-Governance muss mit Priorität behandelt werden.

Angesichts des Risikos einer KI-Autophagie, bei der sich Modelle verschlechtern, wenn sie mit KI-generierten Daten trainiert werden, müssen Unternehmen Systemen zur Datenherkunft Priorität einräumen, um sicherzustellen, dass sie organische, verlässliche Informationsstrukturen aufbauen, die in das Tagesgeschäft integriert sind. Der oben erwähnte WEF-Bericht warnt davor, dass das Vertrauen zunehmend von einer starken Governance abhängen wird, da die Grenzen zwischen echten und synthetischen Daten immer weiter verschwimmen.

AI governance and opportunity

Vertrauen als strategische Ressource zu betrachten, ist der erste Schritt. Unternehmen, die nachweisen können, wie ihre Modelle funktionieren, wie sie Kontrollen handhaben und wie sie Risiken mindern, sind am besten aufgestellt, um mithilfe von KI zu skalieren. Laut dem WEF-Bericht entwickelt sich Vertrauen zum eigentlichen limitierenden Faktor für die Ausweitung von KI, und 81 % der Unternehmen befinden sich noch in einem frühen Stadium der Implementierung verantwortungsvoller Governance-Praktiken.

Während sich die Region an globalen Standards ausrichtet, haben lateinamerikanische Unternehmen die Chance, sich zu positionieren, indem sie neue Wege schaffen, um Vertrauen und Legitimität aufzubauen. Governance ist sowohl ein soziales Thema — eine Frage des Vertrauens — als auch ein technisches, das durch Rechenzentren und Infrastruktur gestützt wird. Systeme zur Datenrückverfolgbarkeit und -herkunft können zusammen mit partizipativer Governance dazu beitragen, das Engagement und die Legitimität zu stärken.

AI governance and competitive advantage

Sobald Vertrauen geschaffen wurde, können Unternehmen synthetische Datensicher nutzen – Daten, die von KI-Modellen generiert und mit realen Daten kombiniert werden können. Ihr Einsatz kann als Motor für Innovationen dienen und Unternehmen in die Lage versetzen, langfristig zu skalieren.

So können beispielsweise synthetische Daten verwendet werden, um statistische Muster aus realen Daten nachzubilden, ohne personenbezogene Informationen offenzulegen. Damit lassen sich auch unterrepräsentierte demografische Gruppen, Gesundheitszustände oder andere Faktoren berücksichtigen, um die Chancengleichheit im Finanzsektor zu verbessern. Auf diese Weise können Unternehmen Modelle entwickeln und Simulationen durchführen, um Innovationen zu beschleunigen und gleichzeitig die Risiken zu verringern, die mit der Verwendung realer Daten verbunden sind.

Damit dieser Vorteil nachhaltig ist, müssen Unternehmen Investitionen in Systeme für Datenherkunft und Rückverfolgbarkeit priorisieren. Diese Funktionen können dazu beitragen, das Risiko zu mindern, dass bestehende Biases verstärkt werden oder sich Modelle im Laufe der Zeit verschlechtern. Wenn Unternehmen schnell skalieren möchten, müssen sie sicherstellen, dass Daten so effektiv wie möglich fließen.

AI governance and access

Ein Unternehmen, das Mechanismen für aktive Transparenz implementiert, hebt sich sofort ab. Viele lateinamerikanische Unternehmen, die Dienstleistungen an globale Wertschöpfungsketten verkaufen oder Teil solcher Wertschöpfungsketten sind, müssen nachweisen können, wie sie die von ihnen eingesetzten KI-Systeme steuern und kontrollieren.

Ein globales Pharmaunternehmen, eine führende internationale Bank oder ein multinationaler Konzern wird kritische Prozesse wahrscheinlich nicht an Anbieter delegieren, denen Mechanismen zur Erklärbarkeit und Überwachung sowie die Fähigkeit fehlen, Fehler zu erkennen, sie zu korrigieren und Mechanismen zu ihrer Behebung zu aktivieren. Betrachten Sie Natura und ihre Initiative, Informationen über Geschäftsbereiche und Lieferanten hinweg zu demokratisieren, um eine bessere Skalierbarkeit zu erreichen, ohne dabei die Governance aus den Augen zu verlieren. Das Unternehmen weiß, dass Daten nur wenig Wert haben, wenn sie sich nicht zurückverfolgen lassen.

Während andere Wettbewerber möglicherweise durch Beschränkungen beim Datenzugriff oder regulatorische Bedenken eingeschränkt sind, steht diesen Unternehmen eine sichere Plattform zur Verfügung, auf der sie experimentieren, Modelle trainieren und neue Services entwickeln können. Ein auf Vertrauen aufgebauter Wettbewerbsvorteil ist der beste Weg zu nachhaltigem Wachstum und echten Innovationen – die Art von Unternehmen, die wir für die Zukunft brauchen.

solid-light
blue-1
blue-7
horizontal
light
blue
SAP-Logo

SAP-Lösung

Gestalten Sie Arbeitsprozesse mit KI neu

Joule sorgt dafür, dass agentengesteuerte Transformationen zuverlässig und konform ablaufen.

manual

Demotermin vereinbaren

link-target-same

secondary