Wir verwenden Cookies, um Ihre Nutzererfahrung zu optimieren, den Datenverkehr zu analysieren und Werbung zu personalisieren. Bitte entscheiden Sie, ob Sie der Verwendung nicht notwendiger Cookies zustimmen. Mehr erfahren
Laut der von Skyone in Zusammenarbeit mit der Nachrichtenagentur Panorama Vibe Coding Brasil durchgeführten Studie erweist sich Governance als erste von drei Hürden, die eine sichere Skalierung von KI in Unternehmen verhindern (die anderen beiden sind technisches Wissen und IT-Infrastruktur). Die Zahlen verdeutlichen das Ausmaß: Von den 1.982 Befragten in der Datenbank bestätigen lediglich 26,4 % , über klare und formalisierte Regeln für die Dateneingabe in KI-Tools zu verfügen. Unter denjenigen, die Lösungen im vorherrschenden Profil entwickeln, geben 60,9 % an, keine klaren Datenrichtlinien zu haben, während 52,1 % Automatisierungen entwickeln und 49,5 % interne Integrationen erstellen.
Die Herausforderung für Führungskräfte in Technologie, Sicherheit und Finanzen ist zweifach. Beschränkt das Unternehmen die Nutzung, sinkt die Produktivität, und Teams greifen zu unkonventionellen Lösungen, wie bereits im vorherigen Artikel dieser Reihe erläutert. Gewährt es hingegen uneingeschränkten Zugriff, werden Unternehmensinformationen offengelegt, regulatorische Risiken übernommen und die Kostenkontrolle verloren. KI-Governance soll diesen Konflikt lösen, ohne dass eine der beiden Seiten benachteiligt wird.
Dieser Text erläutert detailliert, was eine angemessene Unternehmensführung ausmacht, welche technischen Kontrollmechanismen sie unterstützen, wie Verantwortlichkeiten aufgeteilt werden und wie sie so strukturiert werden kann, dass ihre Anwendung ermöglicht und keine Hindernisse schafft. Die Daten stammen aus einer Umfrage mit unserer eigenen Stichprobe, die die befragte Gruppe und nicht alle brasilianischen Unternehmen repräsentiert.
Die Governance von KI umfasst die Richtlinien, Rollen, Kontrollen und Prozesse, mit denen eine Organisation festlegt, wie künstliche Intelligenz eingesetzt werden kann, von wem, mit welchen Daten und unter welcher Aufsicht, sowie wie diese Nutzung überwacht und korrigiert wird.
Das Konzept wird oft mit zwei benachbarten Aspekten verwechselt. Informationssicherheit schützt Vermögenswerte und Daten vor unbefugtem Zugriff. Compliance stellt die Einhaltung von Gesetzen und Vorschriften sicher. Governance ist die Ebene, die festlegt, wer verantwortlich ist, warum und wie die beiden anderen Aspekte im konkreten Fall von KI Anwendung finden. Diese Unterscheidung steht im Mittelpunkt dieses Artikels.
Geschwindigkeit ist entscheidend, denn die Einführung neuer Technologien wartet nicht. Laut der Übersichtbereits 22 % der befragten brasilianischen Unternehmen KI oder LLMs in ihren Entwicklungszyklen, und über 80 % planen, ihr Budget für KI und Automatisierung im kommenden Jahr zu erhöhen. Wenn sich die Nutzung schneller ausbreitet als die Regeln, entstehen neue Anwendungsfälle ohne festgelegte Kriterien und müssen später korrigiert werden, was zusätzliche Kosten verursacht.
Das zentrale Risiko besteht darin, die Kontrolle darüber zu verlieren, wohin die Informationen gelangen, wer darauf zugreifen kann und wie sie verarbeitet werden. Ein Vertrag mit sensiblen Klauseln, eine Vergütungstabelle, der Quellcode eines Produkts oder eine Kundendatenbank können innerhalb von Sekunden von jemandem an einen externen Dienstleister gesendet werden, der keinerlei böse Absicht hatte.
Der Anteil von 26,4 % mit formalisierten Regeln zeigt, dass diese Entscheidung in den meisten Fällen weiterhin auf individuellem Urteilsvermögen beruht. Demgegenüber 73,6 % an, keine klaren Regeln zu haben. Das Risiko beschränkt sich nicht auf Chats: Wenn die Hälfte der Chat-Entwickler Automatisierungen (52,1 %) und interne Integrationen (49,5 %) einführt, zirkulieren Informationen auch zwischen Systemen, ohne dass jeder Informationsfluss geprüft wurde.
Bei personenbezogenen Daten findet das brasilianische Datenschutzgesetz (LGPD) Anwendung. Das Unternehmen ist für deren Verarbeitung verantwortlich, auch wenn diese durch Mitarbeiter mit nicht genehmigten Tools erfolgt. Die Übermittlung personenbezogener Daten an KI-Tools bedarf eines klar definierten Zwecks, einer festgelegten Rechtsgrundlage und eines entsprechenden Schutzes und darf nicht vom Wohlwollen der einzelnen Nutzer abhängen. Einzelfälle sollten mit der Rechtsabteilung und dem Datenschutzbeauftragten geprüft werden.
Ein weiteres Zeichen ist das gestiegene Bewusstsein: Von denjenigen, die mehr als eine Lösungsart entwickeln, 27,3 % spontan Bedenken hinsichtlich Datenlecks und Sicherheit. Dies deutet darauf hin, dass das Thema mit zunehmender Reife an Bedeutung gewinnt.
Eine effektive KI-Nutzungsrichtlinie beantwortet praktische Fragen in einer für den Nutzer verständlichen Sprache. Sie umfasst typischerweise Folgendes:
Der häufigste Fehler besteht darin, die Richtlinie als juristischen Text zu verfassen. Ein kurzes Dokument mit konkreten Beispielen (z. B. „Es kann das Protokoll einer internen Besprechung zusammenfassen; es darf nicht an die Kundendatenbank gesendet werden“) wird eher gelesen und angewendet.
Politik ohne Kontrolle beruht auf individueller Disziplin. Vier technische Fronten untermauern das, was auf dem Papier beschlossen wurde.
Wie in jedem Unternehmenssystem sollte auch hier verwaltet werden, wer welche Modelle und Assistenten mit welchen Berechtigungen nutzen darf. Im Fokus steht die Anbindung der KI an E-Mails, Dokumentenablagen, CRM-Systeme und andere Tools: Jede Integration erweitert die Lese- und Aktionsmöglichkeiten des Assistenten. Die zentrale Frage der Governance ist, wer die Anbindung autorisiert, in welchem Umfang und wie sie widerrufen wird. Anbindungen mit individueller Authentifizierung beschränken den Zugriff der KI in der Regel auf die ohnehin sichtbaren Bereiche der jeweiligen Person. Dies muss jedoch in jeder Implementierung überprüft werden.
In Skyone Astrowerden Verbindungen über Konnektoren, individuelle OAuth-Verschlüsselung und dedizierte MCP-Server hergestellt, wobei die Administration Berechtigungen und Verbindungen steuert. In der Praxis entscheidet das IT-Team, welche Tools in die KI integriert werden können und überwacht die Verbindungen, anstatt die Konfiguration jedem Benutzer selbst zu überlassen. Für Entwickler von Integrationen und Automatisierungen bietet die Plattform zudem Skyone Studio, das Verbindungen zu iPaaS und Lakehouse zentralisiert und die Steuerung direkt an der Quelle ermöglicht.
Ohne Aufzeichnungen lassen sich Vorfälle weder untersuchen noch die Nutzung von KI nachvollziehen. Audits ermöglichen es, Eingabeaufforderungen und Antworten einzusehen, nach Benutzer, Zeitraum oder Thema zu filtern und gegebenenfalls den Hergang zu ermitteln. Dabei ist Vorsicht geboten: Da diese Überwachung Mitarbeiterdaten betrifft, muss sie einem klaren Zweck dienen, den Zugriff auf die Aufzeichnungen beschränken und eine transparente Kommunikation mit den Benutzern gewährleisten – in Abstimmung mit der Rechtsabteilung und dem Datenschutzbeauftragten.
Dies ist die Funktion, die Skyone Astro in der Audit-Ebene bietet: Protokollierung von Befehlen und Abfrage von Eingabeaufforderungen und Antworten mit Filtern und CSV-Export. Zusätzlich unterstützt sie Untersuchungen, wenn es darum geht, einen Sachverhalt zu klären. Der Export ist besonders nützlich für Sicherheits-, Rechts- und Compliance-Abteilungen, die mit eigenen Analysetools arbeiten.
Automatische Regeln (Leitplanken) prüfen Eingabeaufforderungen und gesendete Dateien und können je nach Schweregrad das Senden blockieren oder eine Warnung ausgeben. Ein sinnvoller Ansatz ist, zunächst Warnungen auszugeben, Fehlalarme zu beobachten und erst dann die Beschränkungen zu verschärfen, um die risikoreichsten Kategorien zu blockieren. Alles von Anfang an zu blockieren, führt meist zu Frustration und erfordert Umgehungslösungen.
In Skyone Astro reagieren Schutzmechanismen auf Eingabeaufforderungen und Uploads und können mit Sperren und Warnmeldungen arbeiten, wodurch der oben beschriebene Ablauf ermöglicht wird. Die Übersicht ergänzt, dass die Plattform sensible Daten anonymisiert (DLP), bevor Anfragen die Modelle erreichen.
Der Einsatz von KI-Modellen wird üblicherweise volumenbasiert abgerechnet, wodurch die Kosten variabel und ohne Überwachung schwer vorhersehbar sind. Da über 80 % der befragten Unternehmen planen, ihr Budget für KI und Automatisierung zu erhöhen, ist Transparenz über die Ausgaben längst unerlässlich. Benutzerlimits, Warnmeldungen bei Erreichen einer Obergrenze und Verbrauchsberichte ermöglichen es der Finanzabteilung, die Investitionen zu überblicken, und dem Management, Kosten und Ergebnisse der einzelnen Teams zu vergleichen. Dieser Aspekt führt in der Regel dazu, dass der CFO stärker in die Governance-Diskussion eingebunden wird.
Skyone Astro zeigt die Nutzung in brasilianischen Reais (BRL) an, inklusive Nutzerlimits und Warnmeldungen, sodass Budgetverantwortliche ihre Investitionen leichter im Blick behalten. Skyone bietet zwei Abonnementmodelle an: ein Standardmodell für kleine und mittlere Unternehmen sowie ein Enterprise-Modell für Großunternehmen. Die detaillierten Konditionen sind in einem Angebot aufgeführt.
Die Verantwortung wird geteilt, und das Fehlen eines klaren Verantwortlichen für die einzelnen Bereiche ist eine der häufigsten Ursachen für eine Governance, die nur auf dem Papier existiert. Eine mögliche Aufteilung:
| Papier | Hauptverantwortung |
|---|---|
| IT und Technologie | Plattformen, Integrationen, Zugriffsverwaltung und Verbindungen |
| Informationssicherheit | Risikoanalyse, Datenschutzbestimmungen, Reaktion auf Sicherheitsvorfälle |
| Rechts- und Datenschutzbeauftragter | LGPD, Verträge mit Lieferanten, Überwachungsgrenzen |
| Finanzen und Controlling | Budget, Limits und Überwachung des Verbrauchs |
| Gebietsleiter | Anwendungsfälle, Qualitätskriterien und menschliche Überprüfung durch Ihr Team |
| Benutzer | Halten Sie sich an die Richtlinien, melden Sie Fragen und Vorfälle |
In der Praxis ist es sinnvoll, eine Person oder ein Gremium mit der Koordination der anderen Bereiche zu beauftragen und bei Konflikten zwischen Geschwindigkeit und Kontrolle Entscheidungen zu treffen. Die aktuelle Situation zeigt, dass eine überlastete IT einer der Faktoren ist, die Nutzer zu Abkürzungen verleiten. Dies unterstreicht die Notwendigkeit, die Arbeitslast zu verteilen und nicht in einem einzigen Bereich zu konzentrieren.
Das Prinzip ist Verhältnismäßigkeit. Fälle mit geringem Risiko, wie das Umschreiben eines öffentlichen Textes oder das Zusammenfassen unkritischer interner Informationen, sollten beschleunigt bearbeitet werden. Fälle mit höherem Risiko, wie Analysen von Kundendaten oder Entscheidungen mit Auswirkungen auf Personen, erfordern eine Überprüfung und zusätzliche Kontrollen.
Drei Vorgehensweisen tragen zum Gleichgewicht bei. Erstens: Bieten Sie eine genehmigte und leicht zugängliche Alternative an, denn Regeln ohne Anwendungsmöglichkeit verleiten Anwender dazu, auf persönliche Tools zurückzugreifen. Zweitens: Erfassen Sie einfache Indikatoren (Anzahl angeforderter Ausnahmen, generierte Warnmeldungen, Verbrauch pro Team, Vorfälle), um Regeln datenbasiert anzupassen. Drittens: Kombinieren Sie Regeln mit Schulungen: 52,7 % aller Anwender geben mangelndes technisches Wissen als größtes Hindernis an. Dies zeigt, dass Regeln nur dann funktionieren, wenn Anwender wissen, wie sie anzuwenden sind. Skyone verbindet diesen Ansatz mit „ Builders by Skyone“, einem Weiterbildungs- und Praxisprogramm für Führungskräfte.
Eine KI-Plattform für Unternehmen kann die Produktionsressourcen von Teams und der Verwaltung in einer einzigen Umgebung zusammenführen. Skyone Astro ist ein Beispiel für diesen Ansatz. Die Übersicht beschreibt sie als KI-Gateway für Unternehmen: ein zentrales Portal, über das das Unternehmen den Mitarbeiterzugriff auf verschiedene LLMs steuert, wobei die Einhaltung von Richtlinien Vorrang vor freiem Experimentieren hat. Laut Skyones Referenzmaterial bietet die Plattform Administratoren Abfragen mit Filtern und CSV-Export, Schutzmechanismen für Abfragen und Uploads mit Sperren und Warnungen, Verbrauchskontrolle mit Werten in Reais (brasilianischer Währung), Benutzerlimits und Warnungen sowie Verbindungen über Konnektoren, individuelles OAuth und eigene MCP-Server mit Berechtigungssteuerung. Teams erhalten Zugriff auf mehrere Modelle und Assistenten.
Es ist ratsam, dies als Ausgangspunkt für die Bewertung zu betrachten, nicht als Garantie. Keine Plattform beseitigt das Risiko der Datenoffenlegung allein und gewährleistet auch keine automatische Einhaltung der Vorschriften. Infrastruktur, Datenspeicherung und betriebliche Anforderungen müssen im Einzelfall geprüft werden, und die Bewertung sollte auf synthetischen oder autorisierten Daten basieren, unter Berücksichtigung der vom Unternehmensausschuss als unerlässlich erachteten Kontrollmechanismen. Die menschliche Überprüfung kritischer Entscheidungen bleibt weiterhin Aufgabe des Unternehmens.
Die Übersicht von SkyOne und die Nachrichten verdeutlichen das Problem: Der Einsatz von KI und Automatisierung nimmt zu, und die Investitionen halten Schritt, doch nur 26,4 % der Befragten bestätigen formalisierte Regeln für den Umgang mit Daten. Effektive Governance kombiniert prägnante Richtlinien, technische Kontrollen (Zugriff, Auditierung, Datenschutz und Datennutzung) mit klar definierten Verantwortlichkeiten in IT, Sicherheit, Recht, Finanzen und Management. Gut abgestimmt, ermöglicht sie dem Unternehmen, mehr Anwendungsfälle mit bekannten Kriterien zu genehmigen, anstatt sich auf allgemeine Verbote zu verlassen.
Sie möchten verstehen, wie Sie die KI-Governance in Ihrem Unternehmen strukturieren können? Entdecken Sie Skyone Astro und Skyone zum Thema Unternehmens-KIund bewerten Sie den Ansatz anhand eines realen Beispiels aus Ihrem Betrieb.
Es handelt sich um die Gesamtheit der Richtlinien, Rollen, Kontrollen und Prozesse, die festlegen, wie künstliche Intelligenz in einer Organisation eingesetzt werden kann, von wem, mit welchen Daten und unter welcher Aufsicht. Dazu gehören Nutzungsregeln, Zugriffskontrolle, Auditierung, Datenschutz, Kostenverfolgung und die Zuweisung von Verantwortlichkeiten.
Informationssicherheit schützt Daten und Systeme vor unbefugtem Zugriff und Missbrauch. KI-Governance ist umfassender: Sie definiert, welche Nutzungen zulässig sind, wer dafür verantwortlich ist und wie mit Sicherheits-, Datenschutz-, Qualitäts- und Kostenrisiken umgegangen wird. Sicherheit ist ein Bestandteil der Governance.
Autorisierte Tools, zulässige und unzulässige Datenkategorien, zulässige und unzulässige Verwendungen, die Notwendigkeit einer menschlichen Überprüfung bei kritischen Entscheidungen, die Verantwortlichen für Fragen und Vorfälle sowie die Überprüfungshäufigkeit. Konkrete Beispiele aus den einzelnen Bereichen erhöhen die Akzeptanz.
Dies hängt vom Zweck, der Transparenz und der Verhältnismäßigkeit der Überwachung ab und sollte in Abstimmung mit der Rechtsabteilung und dem Datenschutzbeauftragten geprüft werden. Bewährte Verfahren umfassen die klare Kommunikation mit den Nutzern, die Beschränkung des Zugriffs auf Datensätze und die Verwendung von Daten ausschließlich für die angegebenen Zwecke, wie beispielsweise Sicherheit und Vorfallsuntersuchung.
Durch die Festlegung von Limits pro Benutzer oder Team, die Konfiguration von Warnmeldungen bei Annäherung an das Limit und die Überwachung der Verbrauchsberichte nach Zeitraum ermöglicht Ihnen die regelmäßige Überwachung, Ausgaben und Ergebnisse in Beziehung zu setzen, bevor Sie den Zugriff erweitern.
Testen Sie die Plattform oder vereinbaren Sie ein Gespräch mit unseren Experten, um zu erfahren, wie Skyone Ihre digitale Strategie beschleunigen kann.
Haben Sie eine Frage? Sprechen Sie mit einem Spezialisten und lassen Sie sich alle Ihre Fragen zur Plattform beantworten.