MSP, comment évaluer la sécurité de l'IA

L’intelligence artificielle est déjà intégrée dans la plupart des workflows de vos clients. Les collaborateurs utilisent des chatbots et d'autres outils d'intelligence artificielle générative intégrés pour rédiger des e-mails, analyser des données et automatiser le travail. Le défi ? Une grande partie de cette activité se déroule en dehors de vos contrôles de sécurité formels, ce qui crée un nouveau facteur de risque.

Pour les fournisseurs de services gérés (MSP), la question n'est plus de savoir s'il faut sécuriser l'adoption de l'intelligence artificielle pour leurs clients, mais comment évaluer la bonne solution de sécurité de l'IA. Vous avez besoin d'une solution qui fonctionne pour plusieurs clients, qui prenne en charge votre modèle commercial et qui réponde aux menaces émergentes, notamment les injections de prompts et l'intelligence artificielle fantôme. Cet article présente un cadre pratique pour aider les MSP à comparer en toute confiance les solutions de sécurité de l’IA.

Les outils de sécurité traditionnels n’ont pas été conçus pour la façon dont les gens utilisent la GenAI aujourd’hui. La prévention des pertes de données (DLP, Data loss prevention en anglais), la gestion des identités et des accès (AIM, identity access management en anglais) et la protection des terminaux sont toujours importantes, mais lorsque ces systèmes sont cloisonnés, ils laissent certains des plus grands risques spécifiques à l'intelligence artificielle exposés :

• Les collaborateurs collent des données sensibles dans ChatGPT ou Copilot.
• Des outils d'« IA fantôme » non autorisés fonctionnant dans les environnements des clients.
• Des attaques par injection de prompt qui manipulent les résultats de l'intelligence artificielle.
• Un manque de visibilité sur les interactions et les workflows de l'intelligence artificielle cloisonnés.

Dans la plupart des cas, les MSP peuvent se débrouiller avec des outils fragmentés de DLP, d'IAM et de protection des terminaux, mais ces outils nécessitent une intégration complexe et lourde.

La sécurité de l'IA renvoie à une solution conçue pour surveiller, contrôler et protéger la manière dont l'intelligence artificielle est utilisée dans une organisation. Selon le cas d’utilisation, cela peut inclure :

• Entreprises clientes utilisatrices finales (consommateurs) : sécuriser la manière dont les collaborateurs utilisent les outils d'intelligence artificielle générative tels que ChatGPT ou Copilot, y compris les requêtes, les entrées de données, les sorties et l'accès des utilisateurs.
• Créateurs : protéger les intégrations IA et les workflows construits sur des plateformes telles qu'OpenAI, Microsoft ou les API AWS.
• Développeurs : sécuriser les modèles et l'infrastructure de l'intelligence artificielle, y compris les données d'entraînement, l'intégrité des modèles et les vulnérabilités des applications.

Bien que ces cas d'utilisation couvrent différents niveaux d'adoption de l'IA, la plupart des MSP se concentrent sur les scénarios des consommateurs et des créateurs. Dans les scénarios grand public, la gestion de la manière dont les utilisateurs finaux interagissent avec les outils d'intelligence artificielle est essentielle pour prévenir les fuites de données, garantir la conformité et permettre une adoption sûre de l'intelligence artificielle. Dans les scénarios de créateurs, l'intelligence artificielle est intégrée dans les applications, les workflows et les services.

Pour la plupart des MSP, il s’agit de trouver un équilibre entre les services que votre entreprise et vos clients exigent, tout en maintenant des coûts bas et en réduisant la complexité. C'est là que de nombreuses solutions montrent leurs limites. Elles sont souvent conçues pour les équipes de sécurité des entreprises, mais pas pour les modèles commerciaux des MSP.

Les points forts d'Acronis GenAI Protection résident dans le coût et la facilité de gestion, notamment dans les scénarios grand public et constructeur. La solution offre aux fournisseurs de services des contrôles simples et intégrés pour sécuriser les environnements GenAI en expansion de leurs clients.

Acronis GenAI Protection adopte une approche axée sur les terminaux, permettant aux MSP de prendre en charge en toute sécurité les cas d'utilisation de l'intelligence artificielle par les consommateurs et les créateurs en offrant une visibilité, un contrôle et une protection améliorés dans les environnements des terminaux clients :

• La solution détecte et surveille les applications GenAI, y compris les outils d'intelligence artificielle fantôme et le comportement des utilisateurs dans les systèmes cloisonnés, tout en permettant la création de rapports et l'application des stratégies.
• Elle protège les données sensibles en inspectant les requêtes pour détecter les informations confidentielles et en empêchant les transferts non autorisés vers des outils d'intelligence artificielle non approuvés, grâce à des contrôles flexibles de détection ou de blocage.
• Elle protège contre les menaces liées à l'intelligence artificielle en détectant et en bloquant les requêtes malveillantes et les attaques par injection de prompts, garantissant ainsi des interactions plus sûres avec l'IA et réduisant le risque d'utilisation abusive ou de résultats inattendus, ce qui aide les MSP à favoriser une adoption sûre de l'intelligence artificielle avec davantage de confiance et de gouvernance.

Six autres éléments sont par ailleurs à prendre en compte :

1. Architecture multitenant et opérations MSP

De nombreuses solutions de sécurité de l'IA sont conçues pour des organisations individuelles, et non pour des MSP gérant plusieurs environnements clients. Pour les MSP, l'efficacité opérationnelle et l'évolutivité sont essentielles.

À méditer :

• Une console unifiée pour tous les tenants.
• Une personnalisation flexible des stratégies (au niveau du client, de l'environnement ou du service).
• La facilité de création des stratégies et de gestion continue.
• Une intégration transparente à votre pile existante.

La protection des données reste le fondement de la sécurité de l'intelligence artificielle. À mesure que l'intelligence artificielle est intégrée dans les applications et les services, cela va au-delà de la surveillance traditionnelle et concerne la manière dont les données circulent à travers les requêtes, les API et les workflows pilotés par l'intelligence artificielle.

À méditer :

• Comment les données sensibles sont-elles identifiées et protégées dans les interactions et les intégrations IA ?
• Les stratégies peuvent-elles être appliquées de manière cohérente à tous les clients et à tous les cas d'utilisation ?
• Dans quelle mesure ces contrôles sont-ils évolutifs et gérables dans tous les environnements ?

Pour les MSP qui prennent en charge des services basés sur l'intelligence artificielle, la visibilité consiste moins à découvrir chaque outil qu'à comprendre comment l'intelligence artificielle est utilisée dans les workflows, les applications et les environnements.

Voyez comment la solution :

• Fournit une visibilité sur les outils, les intégrations et les modèles d'utilisation basés sur l'intelligence artificielle.
• Permet la surveillance dans tous les environnements à des fins d'enquête et d'audit.
• Prend en charge des informations exploitables qui peuvent être opérationnalisées.

La sécurité de l'IA n'est pas seulement un risque, c'est aussi une nouvelle opportunité de revenus. Ces solutions doivent aider les MSP à garantir la sécurité de l'IA en tant que service évolutif et orienté client.

Envisagez une solution qui :

• Propose la sécurité de l'IA en tant que service de marque.
• Maintient des prix et des marges flexibles.
• Vous permet de faire évoluer les services sans frais opérationnels importants.

L'intelligence artificielle introduit de nouveaux défis en matière de gouvernance et de conformité, en particulier lorsqu'elle est intégrée dans des services et des workflows en contact avec les clients. Les contrôles doivent rester applicables lors de la mise à l'échelle entre les environnements.

À méditer :

• Le contrôle d'accès basé sur les rôles pour les services et les intégrations IA.
• Des journaux d'audit pour les interactions et les activités avec l'IA.
• L'alignement sur des cadres tels que le NIST AI RMF, l'EU AI Act ou l'ISO 42001.

À mesure que l'intelligence artificielle est intégrée dans les workflows et les applications, les risques liés aux entrées, tels que l'injection de requêtes et l'utilisation abusive, deviennent plus pertinents.

Lors de l'évaluation des solutions, tenez compte des éléments suivants :

• Comment les entrées suspectes ou nuisibles sont-elles identifiées ?
• Existe-t-il une visibilité sur les prompts et les résultats à des fins de surveillance et d'audit ?
• Dans quelle mesure ces contrôles s'intègrent-ils dans des workflows de sécurité plus larges ?

L'adoption de l'intelligence artificielle est tellement rapide que la plupart des stratégies de sécurité ne sont pas en mesure de suivre. Cet écart crée à la fois un risque et une opportunité pour les MSP. En fin de compte, la sécurisation de l'intelligence artificielle est une question de contrôle, de protection des données et de gestion évolutive des risques. Les MSP qui simplifient cela apporteront plus de valeur et garderont une longueur d'avance.

Acronis GenAI Protection aide les MSP à combler cet écart en apportant un meilleur contrôle, une meilleure visibilité et une meilleure protection quant à la manière dont l'intelligence artificielle est utilisée dans les environnements des terminaux clients. Intégrée nativement à la plateforme Acronis, elle permet aux MSP de surveiller l'utilisation de la GenAI, de détecter l'intelligence artificielle fantôme, d'empêcher le partage de données sensibles avec des outils d'intelligence artificielle publics et d'éviter l'utilisation abusive et préjudiciable des prompts.

Acronis GenAI Protection permet aux MSP de :

• Réduire les risques de fuite de données, renforcer la conformité et se protéger contre les menaces émergentes liées à l'intelligence artificielle.
• Transformer la sécurité de l'intelligence artificielle en un service évolutif orienté client.
•  Contribuer à l'adoption sûre de l'intelligence artificielle par leurs clients.
• Développer leurs propres offres de services sur de nouveaux marchés.

À l'ère de l'intelligence artificielle, la sécurité de vos clients commence par les terminaux, et la protection consiste à sécuriser la manière dont l'intelligence artificielle est utilisée, la manière dont les données la traversent et la manière dont votre entreprise MSP maîtrise les risques.