Cloudflare, defensor absoluto de la libertad de expresión, ahora da a los empleadores acceso a las indicaciones de ChatGPT de los empleados

Es posible que a los empleadores les encante la IA generativa, hasta que un empleado pegue información financiera interna o código propietario en ChatGPT, Claude o Gemini, y los secretos de la empresa floten hacia la nube.

Cloudflare, cuya tecnología impulsa casi el 20% de la web, lanzó hoy supervisión de IA en su plataforma de seguridad empresarial, Cloudflare One. Esta función brinda a los equipos de TI visibilidad instantánea sobre quién está interactuando con la IA y qué le están proporcionando en secreto. La compañía lo presenta como una especie de visión de rayos X para el uso de IA generativa por parte de los empleados, integrado en el panel de control que los técnicos de TI ya utilizan.

“Ahora los administradores pueden responder preguntas como: ¿Qué están haciendo nuestros empleados en ChatGPT? ¿Qué datos se están subiendo y utilizando en Claude? ¿Está Gemini configurado correctamente en Google Workspace?” dijo la compañía en su publicación de blog. 

No más Shadow AI

Cloudflare afirma que tres de cada cuatro empleados utilizan ChatGPT, Claude o Gemini en el trabajo para todo, desde edición de textos y análisis de datos hasta depuración y diseño. El problema es que los datos sensibles suelen desaparecer en las herramientas de IA sin dejar rastro. El producto de Cloudflare se integra a nivel de API y escanea las cargas sospechosas. 

Según la compañía, un prompt malicioso puede entrenar instantáneamente un modelo externo con tus datos confidenciales, que luego se pierden para siempre. 

Competidores más grandes en el espacio de seguridad empresarial, como Zscaler y Palo Alto Networks, también ofrecen supervisión de IA. Cloudflare afirma que lo que diferencia a Cloudflare One es su modelo híbrido y sin agentes. Combina el escaneo de API fuera de banda (para postura, configuración y fugas de datos) con controles de prompts aplicados en el edge e inline en ChatGPT, Claude y Gemini, todo sin requerir la instalación de software en los endpoints. 

Un absolutista de la libertad de expresión

Cloudflare se ha presentado durante mucho tiempo como un proveedor de infraestructura neutral en cuanto a contenido, no como un moderador, lo que significa que generalmente se abstiene de controlar lo que publican sus clientes, a menos que la ley lo ordene. Esta postura se remonta a más de una década: el CEO Matthew Prince ha enfatizado que Cloudflare no es una plataforma de alojamiento y no determina qué contenido es permisible; en cambio, simplemente garantiza que los sitios web, independientemente de su ideología, permanezcan en línea y protegidos.

Este enfoque “absolutista de la libertad de expresión” ha generado escrutinio. Los críticos señalan que Cloudflare ha permitido que sitios llenos de odio, extremistas o de otro tipo dañino sigan siendo accesibles, a menudo únicamente porque no se realizó una solicitud autorizada para eliminarlos. Un estudio de Stanford de 2022 encontró que Cloudflare atiende desproporcionadamente a sitios web de desinformación en relación con su cuota general de tráfico en Internet.

Aun así, ha habido raras excepciones. En 2017, Cloudflare terminó los servicios para el sitio supremacista blanco The Daily Stormer, una decisión controvertida tomada solo después de que el sitio afirmara falsamente que Cloudflare compartía en secreto sus creencias pro-nazis. Prince describió posteriormente la decisión como una excepción reacia, tomada bajo presión que obligó a romper su política de neutralidad.

De manera similar, en 2019, Cloudflare eliminó a 8chan tras su vinculación con tiroteos masivos, reconociendo que la comunidad se había vuelto peligrosamente fuera de control.

Más recientemente, en 2022, Cloudflare finalmente retiró el soporte a Kiwi Farms en medio de un aumento de acoso, doxxing y amenazas a la vida humana. Ese cierre se produjo tras la presión de activistas y reportes de violencia creciente.