Warum generative KI neue Sicherheitsrisiken für MSPs und SMDs mit sich bringt

Generative KI ist längst kein Zukunftsthema mehr, über das sich nur große Unternehmen Gedanken machen müssen. Sie ist bereits Teil unserer täglichen Arbeit. Menschen nutzen sie, um E-Mails zu schreiben, Dokumente zusammenzufassen, nach Antworten zu suchen, Angebote oder Berichte zu erstellen und Kunden schneller zu antworten.

Das ist ein Grund, weshalb sich das Thema so schnell verändert hat. Im Stanford HAI 2025 AI Index Report gaben 78 % der Organisationen an, im Jahr 2024 KI genutzt zu haben, gegenüber 55 % im Jahr zuvor. Demselben Bericht zufolge nutzten 71 % generative KI bereits in mindestens einer Unternehmensfunktion, gegenüber 33 % im Jahr 2023. Das zeigt uns etwas Wichtiges: GenAI ist kein Nebenexperiment mehr. Sie hält Einzug in den normalen Geschäftsbetrieb.

Für MSPs sowie kleine und mittlere Deployments ist das wichtig, weil Kunden keine technische Vorlesung darüber brauchen, wie die Modelle aufgebaut sind. Sie brauchen eine einfache Erklärung dazu, was GenAI wirklich ist, warum sie sich so schnell verbreitet und warum sie eine neue Sicherheitsfrage aufwirft.

Einfach ausgedrückt ist GenAI eine Art von KI, die neue Inhalte erstellen kann. Sie kann Texte schreiben, Informationen zusammenfassen, Antworten vorschlagen, ein Dokument umschreiben, Code generieren, Inhalte übersetzen oder einem Benutzer helfen, große Mengen an Material auf viel natürlichere Weise zu durchsuchen.

Damit unterscheidet sie sich von herkömmlicher Software. Normalerweise müssen sich Menschen bei einer Software durch Menüs, Felder und feste Schritte arbeiten. Mit GenAI können sie in Alltagssprache formulieren, was sie möchten. Ein:e Benutzer:in kann eingeben: „Fasse dieses Meeting zusammen“, „Entwirf eine Antwort an den Kunden“ oder „Erkläre diesen Bericht in einfacheren Worten“, und das System liefert ein brauchbares Ergebnis.

Eine hilfreiche Erklärung für Kunden ist, dass GenAI eine neue Ebene zwischen Menschen, Unternehmensdaten und Geschäftsanwendungen hinzufügt. Sie hilft Benutzern, schneller mit Informationen zu arbeiten, verändert aber auch, wie Informationen durch das Unternehmen fließen.

Viele GenAI-Anwendungen werden von LLMs, also Large Language Models, angetrieben. Ein LLM ist die Engine der Anwendung, die Eingaben versteht und sprachbasierte Ausgaben wie Antworten, Zusammenfassungen, Entwürfe, Code oder Empfehlungen erzeugt. Wenn wir über GenAI sprechen, ist es also oft präziser, von durch LLMs angetriebenen GenAI-Anwendungen zu sprechen. Genau diese LLM-Ebene macht auch agentische KIs möglich, weil sie dem System hilft, Ziele zu interpretieren, Schritte logisch zu durchdenken und mit Tools oder angebundenen Datenquellen zu arbeiten.

Agentische KI ist der nächste Schritt. Anstatt nur jeweils eine Anfrage nach der anderen zu beantworten, kann ein agentisches System mehrstufige Tasks bearbeiten. Der Leitfaden von OpenAI zum Erstellen von Agenten besagt, dass Agenten Systeme sind, die eigenständig Tasks im Namen von Benutzern ausführen. Mit anderen Worten: Ein Agent antwortet nicht nur. Er kann einen Plan erstellen, Tools verwenden, zusätzlichen Kontext einbeziehen und sich kontinuierlich auf ein Ziel zubewegen.

Ein praktisches Beispiel macht das leichter vorstellbar. Ein normaler KI-Assistent könnte ein Support-Ticket zusammenfassen. Ein Assistent mit RAG-Unterstützung könnte das Ticket zusammenfassen und den richtigen Artikel aus der Knowledge Base abrufen. Ein agentisches System könnte das Ticket lesen, die Historie des Kunden im CRM prüfen, in der Knowledge Base nach der wahrscheinlichen Lösung suchen, eine Antwort verfassen, den Fall aktualisieren und den Techniker benachrichtigen – mit menschlicher Genehmigung, wo sie erforderlich ist. OpenAIs Materialien zu ChatGPT-Agenten beschreiben diese Art agentischer Workflows als logisches Denken, Recherchieren und Ausführen von Aktionen im Namen eines Benutzers, wobei bei Bedarf für Klärungen oder Bestätigungen pausiert wird.

Hier wird auch die Frage der Sicherheit und Governance deutlich wichtiger. Je mehr die KI tun kann, desto mehr müssen Unternehmen über Grenzen nachdenken. Welche Tools kann sie verwenden? Welche automatischen Aktionen sind erlaubt? Wann muss ein Mensch die Kontrolle behalten? OpenAIs Hinweise zur Sicherheit von ChatGPT-Agenten warnen davor, dass Agenten auf sensible Daten zugreifen und im Namen eines Benutzers Aktionen ausführen können, weshalb Genehmigungen, App-Kontrollen und eine sorgfältige Aufsicht so wichtig sind.

Button

Button

Button

Button

Der Grund ist kein Rätsel. GenAI spart Zeit. Sie erleichtert gängige Aufgaben. Man muss kein kompliziertes Tool erlernen, bevor ein Nutzen entsteht, daher wird GenAI schnell angenommen.

Dieses Tempo wird auch durch Druck auf Unternehmen vorangetrieben. Der Future of Jobs Report 2025 des Weltwirtschaftsforums besagt, dass technologischer Wandel, einschließlich KI, zu den größten Kräften gehört, die Unternehmen und Arbeit neu gestalten. Parallel dazu berichtet Microsofts Work Trend Index 2025, dass 82 % der Führungskräfte erwarten, innerhalb der nächsten 12 bis 18 Monate digitale Arbeitskraft einzusetzen, um die Kapazität der Belegschaft zu erweitern. Unternehmen interessieren sich nicht nur deshalb für KI, weil sie neu ist. Sie interessieren sich dafür, weil Teams unter Druck stehen, mehr und schnellere Leistung abzuliefern.

Deshalb ist KI nicht nur ein Thema für große Unternehmen. Große Unternehmen sprechen möglicherweise öffentlicher über KI-Programme, aber kleinere Organisationen spüren denselben Druck, Zeit zu sparen, Kunden schneller zu antworten und aus begrenztem Personal mehr Wert zu schöpfen. In gewisser Weise können kleinere Unternehmen sogar noch früher betroffen sein, weil Menschen nützliche Tools oft übernehmen, bevor eine formale Richtlinie nachzieht.

Der Wert von GenAI ist real, aber das ist nur die halbe Wahrheit. Die andere Hälfte ist, dass GenAI einen neuen Pfad für Daten, Anweisungen und Entscheidungen schafft. Menschen könnten Unternehmensdaten in ihre Anfragen einfügen, interne Dateien zur Zusammenfassung hochladen oder sich auf KI-generierte Antworten verlassen, die überzeugend klingen, selbst wenn sie falsch sind.

Deshalb sollte dies nicht nur als Produktivitätsdiskussion behandelt werden. Es ist auch eine Diskussion über Governance und Sicherheit. Wenn Mitarbeiter:innen KI verwenden, müssen Unternehmen darüber nachdenken, welche Daten geteilt werden, welche Tools genehmigt sind, wer sie verwenden kann und wie Ausgaben geprüft werden, bevor sie Kunden, Betriebsabläufe oder interne Entscheidungen beeinflussen.

So ordnet auch das Generative AI Profile von NIST das Thema ein. NIST behandelt generative KI als eigenständige Herausforderung im Risikomanagement und weist darauf hin, dass einige Risiken neu sind, während andere durch die Funktionsweise von GenAI verschärft werden. Das ist eine hilfreiche Botschaft für Unternehmen: GenAI ersetzt traditionelle Sicherheitsbedenken nicht, sondern fügt eine neue Ebene hinzu, die Unternehmen verstehen und verwalten müssen.

Für MSPs sollte GenAI als Frage der verwalteten Umgebung betrachtet werden, nicht nur als Produktfunktion. Ein Kunde fragt vielleicht nach einem Chatbot oder einem KI-Assistenten, aber die größere Frage ist, was dahintersteht. Welche Tools sind bereits im Einsatz? Verwendet das Personal genehmigte Unternehmenskonten oder private Konten? Welche Arten von Daten werden eingegeben? Prüft irgendjemand, was sicher ist und was nicht?

Das sind vertraute Fragen für Service Provider. MSPs helfen Kunden schon heute dabei, Endpunkte, Identitäten, Cloud-Apps, Plattformen für Zusammenarbeit sowie Backup- und Sicherheitskontrollen zu verwalten. KI muss nun Teil derselben Diskussion werden, weil sie viele dieser Bereiche gleichzeitig berührt.

Bei kleinen und mittleren Deployments besteht die Herausforderung in der Regel nicht darin, fortgeschrittene KI-Systeme von Grund auf zu erstellen. Die Herausforderung ist viel grundlegender und unmittelbarer: informelle Nutzung, begrenzte Transparenz, unklare Eigentumsfragen und schwache Richtlinien. Ein kleineres Unternehmen hat vielleicht kein KI-Team, aber es kann dennoch Mitarbeiter:innen haben, die KI täglich auf eine Weise verwenden, die sich auf den Umgang mit Daten, auf die Qualität und auf die Sicherheit auswirkt.

Eines der deutlichsten Warnzeichen stammt aus einer im Februar 2025 veröffentlichten TELUS-Digital-Umfrage. Darin wurde festgestellt, dass in Unternehmen fast 68 % der Mitarbeiter:innen, die öffentliche GenAI bei der Arbeit nutzen, dies über private Konten tun, und 57 % gaben an, sensible oder stark risikobehaftete Daten in diese Tools eingegeben zu haben. Diese Zahlen sind wichtig, weil sie zeigen, wie die Nutzung von KI außerhalb normaler Unternehmenskontrollen steigen kann.

Das ist das eigentliche Problem für viele MSP-Kunden und Umgebungen von kleinen und mittleren Deployments. Es geht oft nicht um eine sorgfältig geplante KI-Bereitstellung. Es geht um Schattennutzung, die still und leise über Browser, Produktivitäts-Apps, Support-Workflows und private Konten hinweg stattfindet. Bis die Führungsebene beginnt, Fragen zur KI-Richtlinie zu stellen, nutzen Mitarbeitende womöglich bereits jede Woche mehrere Tools.

Deshalb besteht der richtige erste Schritt in der Regel nicht darin, alles zu verbieten oder über Nacht eine KI-Transformation zu versprechen. Der richtige erste Schritt ist, die KI-Nutzung sichtbar zu machen. Dann können Unternehmen entscheiden, was genehmigt ist, welche Daten niemals geteilt werden sollten, wo mehr Schulung nötig ist und welche Kontrollen ergänzt werden sollten.

Button

Button

Die meisten Kundinnen und Kunden brauchen keine abstrakte KI-Sprache. Sie brauchen eine einfache Erklärung. GenAI ist eine neue Art, über natürliche Sprache mit Informationen zu arbeiten. Sie kann Menschen helfen, schneller zu arbeiten, sie kann aber auch neue Risiken schaffen, wenn sie ohne Transparenz, Richtlinien und Prüfung genutzt wird.

Diese Botschaft funktioniert für MSPs gut, weil sie ausgewogen ist. Sie vermeidet übertriebene Begeisterung, aber auch Verdrängung. KI kann echten Mehrwert bringen. Gleichzeitig müssen Unternehmen aber darüber nachdenken, wo sie eingesetzt wird, welche Daten in sie einfließen, wie Ausgaben geprüft werden und welche Kontrollen vorhanden sein sollten.

Für Kunden mit kleinen und mittleren Deployments geht es dabei nicht darum, ein KI-Programm für Großunternehmen zu kopieren. Es geht darum, ein paar praktische Fragen zu stellen: Wo nutzen Menschen bereits KI? Was ist erlaubt? Was sollte niemals geteilt werden? Wer ist für die Aufsicht verantwortlich? Und wie sorgen wir dafür, dass Geschwindigkeit nicht auf Kosten von Sicherheit oder Vertrauen geht?

GenAI ist wichtig, weil sie verändert, wie Menschen Inhalte erstellen, suchen, zusammenfassen und antworten. Deshalb verbreitet sie sich so schnell in Unternehmen jeder Größe. Aber genau diese einfache Nutzung macht sie auch zu einem neuen Sicherheitsthema.

Für MSPs sowie kleine und mittlere Deployments ist die zentrale Erkenntnis klar. Es geht nicht nur um die großen Unternehmen. Es geht um ganz normale Unternehmensarbeit, kleinere Teams, schnellere Akzeptanz und die Notwendigkeit einer besseren Transparenz und Kontrolle. Die Unternehmen, die mit KI erfolgreich sind, werden nicht diejenigen sein, die am meisten darüber reden. Es werden diejenigen sein, die sie klar verstehen und vernünftig steuern.

Acronis begegnet diesen Bedenken mit Acronis GenAI Protection, einer Lösung, die darauf ausgelegt ist, MSPs und ihren Kunden dabei zu helfen, die KI-Nutzung im Arbeitsalltag sichtbarer, besser steuerbar und sicherer zu machen. In den Materialien, die Sie geteilt haben, positioniert Acronis dies rund um die Hauptproblembereiche, mit denen Unternehmen jetzt konfrontiert sind: Erkennung der Schattennutzung von KI, Schutz vor Datenverlust, Schutz vor Prompt-Injection, Denial-of-Wallet-Überwachung, Richtlinienverwaltung für GenAI-Applikationen, Agenten und MCP-Server sowie eine mehrschichtige KI-Sicherheits-Engine. Die Idee ist einfach: Wenn KI Teil normaler Workflows in Unternehmen wird, brauchen Unternehmen Kontrollen, die zu dieser Realität passen, statt sich nur auf ältere Sicherheitsmethoden zu verlassen.