Cómo deben evaluar los MSP la seguridad de la IA

La IA ya forma parte de la mayoría de los flujos de trabajo de sus clientes. Los empleados utilizan chatbots y otras herramientas de IA generativa integradas para redactar correos electrónicos, analizar datos y automatizar tareas. El desafío es evidente: gran parte de esa actividad se está produciendo fuera de sus controles de seguridad formales, lo que crea una nueva capa de riesgo.

Para los proveedores de servicios gestionados (MSP), la cuestión ya no consiste en si hay que proteger la adopción de la IA por parte de sus clientes, sino en cómo evaluar la idoneidad de las soluciones de seguridad de IA disponibles en el mercado. Los MSP necesitan una solución que funcione en múltiples clientes, que respalde sus modelos de negocio y que aborde las amenazas emergentes, incluidas las inyecciones de prompts y la IA en la sombra. Este artículo presenta un marco práctico que ayuda a los MSP a comparar soluciones de seguridad de IA con total confianza.

Las herramientas de seguridad tradicionales no se diseñaron para la forma en que las personas utilizan la IA generativa hoy en día. La prevención de pérdida de datos (DLP), la gestión de identidades y accesos (IAM) y la protección de endpoints siguen siendo importantes, pero cuando estos sistemas funcionan de manera aislada, dejan expuestos algunos de los riesgos más relevantes y específicos de la IA:

• Empleados que introducen datos confidenciales en ChatGPT o Copilot.
• Herramientas de "IA en la sombra" no autorizadas que se ejecutan en los entornos de los clientes.
• Ataques de inyección de prompts que manipulan las respuestas de la IA.
• Falta de visibilidad sobre interacciones y flujos de trabajo de IA que permanecen aislados.

En la mayoría de los casos, los MSP pueden desenvolverse bien con herramientas fragmentadas de DLP, IAM y protección de endpoints, pero dichas herramientas exigen integraciones más complejas y de mayor envergadura.

La seguridad de la IA es una solución diseñada para supervisar, controlar y proteger el uso de la inteligencia artificial en toda una organización. Según el caso de uso, esto puede abarcar:

• Empresas de usuario cliente final (consumidores): protección del modo en que los empleados utilizan herramientas de IA generativa como ChatGPT o Copilot, incluidos los prompts, los datos introducidos, las respuestas y el acceso de los usuarios.
• Integradores: protección de las integraciones y flujos de trabajo de IA basados en plataformas como las API de OpenAI, Microsoft o AWS.
• Desarrolladores: protección de los modelos e infraestructuras de IA, incluidos los datos de entrenamiento, la integridad de cada modelo y las vulnerabilidades de las aplicaciones.

Aunque estos casos de uso abarcan distintos niveles de adopción de la IA, la mayoría de los MSP se centran en los escenarios de consumidores e integradores. En los escenarios de consumidores, gestionar cómo interactúan los usuarios finales con las herramientas de IA resulta fundamental para evitar fugas de datos, garantizar el cumplimiento normativo y permitir una adopción segura de la IA. En los escenarios de integradores, la IA se incorpora en aplicaciones, flujos de trabajo y servicios.

Para la mayoría de los MSP, se trata de encontrar un equilibrio entre los servicios que demanda su empresa y los que sus clientes necesitan, con costes bajos y menor complejidad. Aquí es donde muchas soluciones no cumplen las expectativas, ya que suelen estar diseñadas para equipos de seguridad de grandes empresas, no para los modelos de negocio de los MSP.

Donde Acronis GenAI Protection destaca es en el coste y la facilidad de gestión, especialmente en los escenarios de consumidores e integradores. La solución ofrece a los proveedores de servicios controles sencillos e integrados para proteger los entornos de IA generativa en constante expansión de sus clientes.

Acronis GenAI Protection adopta un enfoque centrado en los endpoints, lo que permite a los MSP respaldar de forma segura tanto los casos de uso de IA de consumidores como los de integradores, con mayor visibilidad, control y protección en los entornos de endpoints de los clientes:

• La solución no solo detecta y supervisa las aplicaciones de IA generativa, sino también las herramientas de IA en la sombra y el comportamiento de los usuarios en sistemas aislados, y además permite generar informes y aplicar directivas.
• Protege los datos confidenciales mediante la inspección de prompts para identificar información confidencial y evita transferencias no autorizadas a herramientas de IA no aprobadas, con controles flexibles de detección o bloqueo.
• Asimismo, ofrece protección frente a amenazas de IA al detectar y bloquear prompts dañinos y ataques de inyección de prompts, lo que garantiza interacciones más seguras con la IA y reduce el riesgo de uso indebido o resultados no deseados. Esto ayuda a los MSP a impulsar una adopción segura de la IA con mayor confianza y gobernanza.

Además, hay otros seis aspectos que conviene tener en cuenta:

1. Arquitectura multiinquilino y operaciones de MSP

Muchas soluciones de seguridad de IA están diseñadas para una única organización, no para MSP que gestionan varios entornos de clientes. Para los MSP, la eficiencia operativa y la escalabilidad son factores esenciales.

Puntos clave:

• Una consola unificada para todos los inquilinos.
• Personalización flexible de las directivas (a nivel de cliente, entorno o departamento).
• Facilidad para crear directivas y gestionarlas de forma continua.
• Integración fluida con la infraestructura existente y procesos de incorporación sencillos.

La protección de datos sigue siendo la base de la seguridad de la IA. A medida que la IA se integra en un número cada vez mayor de aplicaciones y servicios, este ámbito se amplía más allá de la supervisión tradicional e incluye el modo en que los datos circulan por prompts, API y flujos de trabajo impulsados por IA.

Preguntas clave que debe plantearse:

• ¿Cómo se identifican y se protegen los datos confidenciales en todas las interacciones e integraciones de IA?
• ¿Se pueden aplicar directivas de forma coherente en todos los clientes y casos de uso?
• ¿Qué nivel de escalabilidad y facilidad de gestión ofrecen estos controles en distintos entornos?

Para los MSP que prestan soporte a servicios basados en IA, la visibilidad no consiste únicamente en identificar cada herramienta, sino también en comprender cómo se utiliza la IA en los flujos de trabajo, aplicaciones y entornos.

Puntos clave que debe tener en cuenta:

• La solución debe ofrecer visibilidad sobre las herramientas de IA, las integraciones y los patrones de uso.
• Debe permitir la supervisión en todos los entornos con fines de investigación y auditoría.
• Debe proporcionar información práctica que pueda incorporarse a las operaciones.

La seguridad de la IA no representa solo un riesgo, también trae consigo una nueva oportunidad de ingresos. Estas soluciones deben permitir que los MSP ofrezcan la seguridad de la IA como un servicio escalable y orientado al cliente.

Busque una solución que:

• Ofrezca la seguridad de la IA como un servicio con marca propia.
• Mantenga una estructura de precios y márgenes flexible.
• Le permita escalar los servicios sin una carga operativa elevada.

La IA introduce nuevos retos de gobernanza y cumplimiento normativo, especialmente cuando se integra en servicios y flujos de trabajo orientados al cliente. Los controles deben seguir siendo aplicables incluso al escalarlos en distintos entornos.

Puntos clave que debe tener en cuenta:

• Control de acceso basado en roles (RBAC) para los servicios e integraciones de IA.
• Registros de auditoría sobre las interacciones y la actividad relacionadas con la IA.
• Alineación con marcos como el Marco de gestión de riesgos de la IA del NIST (AI RMF), la Ley de IA de la UE o la norma ISO 42001.

A medida que la IA se integra en flujos de trabajo y aplicaciones, los riesgos relacionados con la introducción de datos, como la inyección de prompts o el uso indebido, adquieren mayor relevancia.

Al evaluar soluciones, plantéese las siguientes preguntas:

• ¿Cómo se identifica la introducción de datos sospechosos o potencialmente dañinos?
• ¿Hay visibilidad sobre los prompts y los resultados con fines de supervisión y auditoría?
• ¿Con qué facilidad se integran estos controles en flujos de trabajo de seguridad más amplios?

La adopción de la IA avanza a un ritmo más rápido del que la mayoría de las estrategias de seguridad pueden seguir. Para los MSP, esta brecha representa tanto un riesgo como una oportunidad. En última instancia, proteger la IA consiste en control, protección de datos y una gestión del riesgo escalable. Los MSP que simplifiquen este proceso aportarán más valor y se mantendrán a la vanguardia.

Acronis GenAI Protection ayuda a los MSP a cerrar esa brecha al ofrecer más control, visibilidad y protección sobre el uso de la IA en los entornos de endpoints de los clientes. Al estar integrada de forma nativa en la plataforma de Acronis, permite a los MSP supervisar el uso de la IA generativa, detectar la IA en la sombra, bloquear el envío de datos confidenciales a herramientas públicas de IA y evitar el uso indebido de prompts dañinos.

Acronis GenAI Protection permite a los MSP:

• Reducir los riesgos de fuga de datos, reforzar el cumplimiento normativo y protegerse frente a amenazas emergentes impulsadas por la IA.
• Convertir la seguridad de la IA en un servicio escalable y orientado al cliente.
• Contribuir a una adopción segura de la IA por parte de sus clientes.
• Ampliar su propia oferta de servicios en nuevos mercados.

Proteger a sus clientes en la era de la IA empieza por los endpoints, y la protección se basa en garantizar un uso seguro de la IA, en controlar cómo circulan los datos a través de ella y en mantener el riesgo bajo control en su empresa de servicios gestionados.