Leo Feinberg es CEO y cofundador de Verax AI, un líder en permitir la adopción segura y responsable de la IA para uso empresarial. La empresa permite a las grandes organizaciones aprovechar al máximo los beneficios de productividad de las tecnologías de IA, mientras mitiga los problemas de seguridad y confianza asociados con su adopción. Leo tiene una amplia experiencia en el espacio de confianza, transparencia y seguridad de la información, habiendo lanzado y escalado varias startups tecnológicas exitosas, incluyendo CloudEndure, que fue adquirida por AWS en 2019 por 250 millones de dólares.

Con la adopción de la IA acelerándose en todas las industrias, ¿cuáles son los riesgos más urgentes que enfrentan las empresas hoy en día?

Vemos dos riesgos principales. El primero es que no todas las herramientas de IA son iguales, y todavía es muy difícil determinar qué herramientas de IA son adecuadas para los requisitos específicos de una empresa en cada caso de uso. Como resultado, muchas soluciones de IA son construidas, evaluadas e incluso compradas muy rápidamente, solo para decepcionar a las empresas que las usan y llevarlas a dudar del valor general de la IA. Sin embargo, con la herramienta correcta – generalmente desarrollada por un proveedor especializado en IA – los beneficios pueden ser significativos, incluso hoy, cuando la IA todavía está en su infancia.

El segundo riesgo es la filtración de datos en herramientas de IA de terceros. Estas herramientas animan a los usuarios, más que nunca, a enviar grandes volúmenes de información a ellas, con volúmenes más altos que a menudo se traducen en mayores beneficios. Sin embargo, mucha de la información que los empleados corporativos envían a estas herramientas es sensible o confidencial, causando lo que podría ser la mayor filtración de datos hasta la fecha, una que las herramientas de seguridad tradicionales no están equipadas para manejar.

¿Dónde ves los mayores puntos ciegos en cómo las organizaciones están abordando las amenazas de la IA?

Muchas organizaciones permiten el uso de la IA (o al menos de herramientas específicas de IA), sin tener ningún control automatizado en su lugar para prevenir la filtración de datos. En cambio, confían en métodos básicos como la capacitación de empleados y banners emergentes cada vez que un empleado intenta usar la IA. Desafortunadamente, se ha demostrado una y otra vez que estos métodos son ineficaces cuando no se complementan con la aplicación automatizada.

En muchos casos, las empresas son conscientes de los riesgos de filtración de datos en la IA. Sin embargo, a menudo no los abordan adecuadamente, priorizando en su lugar abordar otros desafíos de seguridad más tradicionales dentro de la organización.

Por esta misma razón, en Verax AI hemos desarrollado una solución – Verax Protect – que permite a las empresas aplicar automáticamente políticas corporativas de IA en todos los dispositivos de los empleados, desde el navegador y las aplicaciones hasta el escritorio y el móvil. Esto les permite cosechar los beneficios completos de productividad de herramientas de IA como ChatGPT y Claude de manera segura.

¿Qué estrategias crees que deberían adoptar las empresas para protegerse de estos riesgos emergentes?

Mi sugerencia sería permitir a los empleados elegir las herramientas de IA que crean que funcionan mejor o elegir herramientas a nivel de empresa usando los mismos criterios. Una vez que se ha elegido una herramienta, las empresas deberían implementar soluciones que bloqueen o sanen automáticamente el uso de la IA que podría violar las políticas de la empresa o exponer información sensible. La combinación de estas dos medidas debería proporcionar la mejor relación riesgo/recompensa, ofreciendo menores riesgos y mayores recompensas.

Acabas de lanzar tu último producto Verax Protect – ¿qué lo diferencia de otras soluciones en el mercado?

Verax Protect ha sido construido específicamente para acomodar incluso a empresas reguladas con los requisitos más estrictos de seguridad, privacidad y cumplimiento. El mercado de seguridad y privacidad de la IA es bastante joven (al igual que la IA moderna misma), y la mayoría de los esfuerzos se centran actualmente en la "fruta al alcance de la mano", como las PYMEs y las empresas nativas de la IA. Sin embargo, las organizaciones más tradicionales, especialmente aquellas en industrias reguladas, enfrentan desafíos aún mayores relacionados con la filtración de datos, la privacidad y la seguridad cuando permiten a los empleados usar herramientas de IA de terceros. Verax Protect ha sido diseñado para satisfacer toda la gama de necesidades de privacidad de la IA para empresas de todos los tipos y tamaños.

¿Cómo ves que la industria de la ciberseguridad evoluciona más ampliamente a la luz de estas nuevas amenazas?

La industria de la ciberseguridad generalmente evoluciona más rápidamente en respuesta a la evolución igualmente rápida de las amenazas de ciberseguridad. Con el auge de la IA, ha habido un aumento repentino en nuevos tipos de riesgos de seguridad, y la industria de la ciberseguridad todavía está trabajando para ponerse al día con ellos – a medida que estos riesgos continúan creciendo. Por lo tanto, preveo que las empresas de ciberseguridad se levantarán a la ocasión en los próximos 12-24 meses y proporcionarán las salvaguardas y mitigaciones necesarias a la luz de los crecientes riesgos relacionados con la IA.

¿Cómo ves que evoluciona el papel de la IA en el lugar de trabajo en los próximos años?

Soy un firme creyente de que la IA puede mejorar y optimizar significativamente casi cualquier flujo de trabajo en el lugar de trabajo, y es simplemente una cuestión de que suficientes proveedores inviertan los recursos necesarios para desarrollar cada una de estas mejoras de la IA. En mi opinión, una vez que la IA se haya introducido en suficientes áreas críticas para el negocio, mejorará la efectividad y la productividad de las empresas en una escala nunca antes vista.

¿Qué depara el futuro para Verax AI? ¿Dónde planeas llevar a la empresa en los próximos 12 meses?

La adopción de la IA en las empresas está creciendo muy rápidamente, y los riesgos asociados no solo aumentan, sino que también evolucionan y se expanden con cada nuevo flujo de trabajo mejorado por la IA. En Verax, necesitamos estar constantemente un paso adelante para poder prevenir y mitigar los riesgos de la IA del mañana, y no solo los de hoy. Por ejemplo, cada vez más empresas están comprando centralmente licencias para herramientas de generación de código de IA de terceros como Cursor y Windsurf. Si bien estas herramientas ofrecen grandes ganancias de productividad para los ingenieros, también exponen a las empresas a riesgos como código malicioso y código que viola licencias de terceros. Casos de uso como este continuarán añadiéndose a los que Verax Protect ya soporta, hasta que Verax se convierta en una solución integral para todo lo relacionado con la seguridad, privacidad y seguridad de las interacciones entre empleados y herramientas de IA de terceros.

El post Q&A con Leo Feinberg, Co-fundador y CEO de Verax AI: Cómo las empresas pueden abordar los riesgos de seguridad de la IA apareció primero en citybiz.

Descargo de responsabilidad: Esta traducción ha sido generada automáticamente por NewsRamp™ para citybiz (colectivamente referidos como "LAS EMPRESAS") utilizando plataformas de inteligencia artificial generativas de acceso público. LAS EMPRESAS no garantizan la exactitud ni la integridad de esta traducción y no serán responsables por ningún error, omisión o inexactitud. La confianza en esta traducción es bajo su propio riesgo. LAS EMPRESAS no son responsables por ningún daño o pérdida resultante de tal confianza. La versión oficial y autoritativa de este comunicado de prensa es la versión en inglés.