--News Direct--

La rápida adopción de la Inteligencia Artificial Generativa, incluso en entornos regulados, ha seguido aumentando la preocupación por la seguridad de los Modelos de Lenguaje Grande (LLM) entre los profesionales de ciberseguridad. Los tomadores de decisiones y los profesionales de la seguridad en todo el mundo continúan buscando nuevas tecnologías para ayudar a mitigar los riesgos de las tecnologías de IA Generativa. Por ejemplo; solo hace unos días, el Departamento de Seguridad Nacional del Gobierno de los Estados Unidos designó un consejo para asesorar sobre el papel de la inteligencia artificial en la infraestructura crítica.

Sahil Agarwal, CEO de Enkrypt AI comentó: “Cada vez más se ve a los LLM como posibles motores en las oficinas centrales de las empresas, procesando datos y permitiendo una toma de decisiones más rápida en las oficinas delanteras. Consideremos una empresa de tecnología financiera donde una aplicación impulsada por LLM es clave para rechazar una solicitud de préstamo de una persona de color sin una explicación clara. Esto plantea preocupaciones sobre los prejuicios implícitos, ya que los LLM a menudo reflejan desigualdades sociales presentes en sus datos de entrenamiento obtenidos de internet. Además, casos como el LLM de Google que parece estar 'despierto' resaltan los riesgos de corregir excesivamente estos prejuicios. ¿Qué tan seguro es el Modelo Claude3 de Anthropic? ¿Está realmente listo para el uso empresarial el LLM Command R+ de Cohere? Estos escenarios subrayan la necesidad urgente de controles cuidadosos en estos modelos para evitar el empeoramiento de las desigualdades sociales y causar daño.”

En la muy esperada conferencia RSA, Enkrypt AI, líder en la seguridad de las tecnologías de IA Generativa, presentará su última innovación, la Tabla de Clasificación de Seguridad de LLM. Este producto es parte de la completa suite Sentry de Enkrypt AI, diseñada para capacitar a las empresas para implementar LLM con mayor seguridad y tranquilidad.

La Tabla de Clasificación de Seguridad de LLM proporcionará información esencial sobre las vulnerabilidades y riesgos de alucinaciones de varios LLM, permitiendo a los equipos de tecnología tomar decisiones informadas sobre qué modelos se adaptan mejor a sus necesidades específicas. Esta herramienta tiene como objetivo educar y concienciar sobre las fortalezas relativas y las posibles debilidades de diferentes LLM, para que los ingenieros de IA puedan tomar decisiones informadas sobre las fortalezas únicas de cada uno.

Entre los aspectos más destacados de la Tabla de Clasificación de Seguridad de LLM se incluyen: Información integral sobre vulnerabilidades que ofrece evaluaciones detalladas de posibles riesgos de seguridad, incluyendo fugas de datos, violaciones de privacidad y susceptibilidad a ciberataques. Evaluación de riesgos éticos y de cumplimiento que verifica sesgos, toxicidad y cumplimiento con estándares éticos y requisitos regulatorios, asegurando que los modelos estén alineados con los valores de la empresa y la marca.

La Tabla de Clasificación de Seguridad de LLM es un nuevo componente de la suite Sentry de Enkrypt, que incluye Sentry Red Team, Sentry Guardrails y Sentry Compliance. Esta suite ofrece un enfoque integral para gestionar y asegurar los LLM, cumpliendo con los estándares más estrictos en privacidad, seguridad y cumplimiento dentro del entorno empresarial.

El anuncio se produce cuando un nuevo artículo preliminar de Enkrypt AI, “Vulnerabilidades aumentadas de LLM por ajuste fino y cuantización”, ha encontrado que prácticas comunes utilizadas para implementar LLM en entornos empresariales, como el ajuste fino y la cuantización, llevan a un mayor riesgo de vulnerabilidades de seguridad, especialmente de jailbreaking. Sin embargo, la implementación de plataformas de guardrails externos como la solución Sentry Guardrails de Enkrypt fue exitosa en la mitigación de dichas vulnerabilidades. En un modelo, los Guardrails de Enkrypt proporcionaron una reducción de 9 veces en la vulnerabilidad a los ataques de jailbreaking.

Sahil Agarwal, CEO de Enkrypt AI dijo: “Con el lanzamiento de la Tabla de Clasificación de Seguridad de LLM, estamos reforzando nuestro compromiso de permitir el uso seguro, seguro y responsable de la inteligencia artificial generativa en la empresa. Esta herramienta servirá como un recurso crítico para las organizaciones que buscan navegar por las complejidades de la implementación de IA con plena confianza en su postura de seguridad.”

Prashanth Harshangi, CTO de Enkrypt AI, añadió: “En los últimos dos trimestres, nuestro equipo se ha centrado únicamente en la seguridad de la IA generativa y ha avanzado rápidamente con nuestra Suite Sentry. Compuesta por tres componentes clave: Sentry Red Team, Sentry Guardrails y Sentry Compliance. Con la Tabla de Clasificación de Seguridad de LLM, nos enorgullece ofrecer un producto que no solo identifica riesgos potenciales, sino que también capacita a las empresas para gestionar y mitigar proactivamente estos desafíos, permitiendo una toma de decisiones informada y más rápida.”

Acerca de Enkrypt AI

Enkrypt AI, cofundada por los doctores en Yale Sahil Agarwal y Prashanth Harshangi, está poniendo en marcha la adopción segura de la IA Generativa en las empresas. Con una innovadora plataforma todo en uno, Enkrypt AI está revolucionando cómo se integran y gestionan los Modelos de Lenguaje Grande (LLMs), abordando necesidades críticas de fiabilidad, seguridad, privacidad de datos y cumplimiento en una solución unificada.

Utilizada por empresas de tamaño mediano a grande en industrias como finanzas y ciencias biológicas, Sentry de Enkrypt AI ofrece un enfoque proactivo para la seguridad de la inteligencia artificial, fomentando la confianza y la eficiencia en implementaciones de IA, desde chatbots hasta informes automatizados. Enkrypt AI se sitúa entre los usuarios y los modelos de IA, para ofrecer una variedad de capas de seguridad y protección.

Enkrypt AI se destaca al fusionar la detección de amenazas, la privacidad y el cumplimiento en un conjunto integral de herramientas, listo para convertirse en la plataforma definitiva de IA Generativa Empresarial para un panorama regulatorio en evolución. Para obtener más información, visite https://www.enkryptai.com/ o siga a través de LinkedIn, X, Instagram o YouTube.

Enkrypt AI

Bilal Mahmood

+44 7714 007257

b.mahmood@stockwoodstrategy.com

https://www.enkryptai.com/

Ver la versión fuente en newsdirect.com: https://newsdirect.com/news/enkrypt-ai-unveils-llm-safety-leaderboard-to-enable-enterprises-to-adopt-generative-ai-safely-and-responsibly-147863159

Descargo de responsabilidad: Esta traducción ha sido generada automáticamente por NewsRamp™ para News Direct (colectivamente referidos como "LAS EMPRESAS") utilizando plataformas de inteligencia artificial generativas de acceso público. LAS EMPRESAS no garantizan la exactitud ni la integridad de esta traducción y no serán responsables por ningún error, omisión o inexactitud. La confianza en esta traducción es bajo su propio riesgo. LAS EMPRESAS no son responsables por ningún daño o pérdida resultante de tal confianza. La versión oficial y autoritativa de este comunicado de prensa es la versión en inglés.