By: News Direct
May 6, 2024
Enkrypt AI Revela Quadro de Liderança de Segurança LLM para Permitir que Empresas Adotem a IA Generativa com Segurança e Responsabilidade
Na tão aguardada conferência RSA, a Enkrypt AI, líder na segurança de tecnologias de IA Generativa, apresentará sua mais recente inovação, o Quadro de Classificação de Segurança LLM. Este produto faz parte do abrangente conjunto Sentry da Enkrypt AI, projetado para capacitar empresas a implantar LLMs com segurança aprimorada e tranquilidade.
O Quadro de Classificação de Segurança LLM fornecerá insights essenciais sobre as vulnerabilidades e riscos de alucinação de vários LLMs, permitindo que equipes de tecnologia tomem decisões informadas sobre quais modelos melhor atendem às suas necessidades específicas. Esta ferramenta tem como objetivo educar e conscientizar sobre as forças relativas e possíveis fraquezas de diferentes LLMs, para que engenheiros de IA possam tomar decisões informadas sobre os pontos fortes únicos de cada um.
Os destaques do Quadro de Classificação de Segurança LLM incluem: Insights Abrangentes sobre Vulnerabilidades que oferecem avaliações detalhadas de riscos potenciais de segurança, incluindo vazamento de dados, violações de privacidade e suscetibilidade a ciberataques. Avaliação de Riscos Éticos e de Conformidade que testa preconceitos, toxicidade e conformidade com padrões éticos e requisitos regulatórios, garantindo que os modelos estejam alinhados com os valores da empresa e da marca.
O Quadro de Classificação de Segurança LLM é um novo componente do conjunto Sentry da Enkrypt, que inclui Sentry Red Team, Sentry Guardrails e Sentry Compliance. Este conjunto oferece uma abordagem holística para gerenciar e proteger LLMs, alinhando-se com os padrões mais rigorosos de privacidade, segurança e conformidade no ambiente empresarial.
O anúncio surge no momento em que um novo artigo pré-impresso da Enkrypt AI, “Vulnerabilidades Aumentadas de LLMs a Partir do Ajuste Fino e Quantização”, descobriu que práticas comuns usadas para implementar LLMs em ambientes empresariais, principalmente ajuste fino e quantização, levam a um aumento do risco de vulnerabilidades de segurança, especialmente do desbloqueio de celulares. No entanto, a implementação de plataformas externas de limites como a solução Sentry Guardrails da Enkrypt foi bem-sucedida em mitigar tais vulnerabilidades. Em um modelo, os limites de Sentry da Enkrypt proporcionaram uma redução de 9x na vulnerabilidade a ataques de desbloqueio.
Sahil Agarwal, CEO da Enkrypt AI, disse: “Com o lançamento do Quadro de Classificação de Segurança LLM, estamos aprimorando nosso compromisso de possibilitar o uso seguro, seguro e responsável da IA generativa na empresa. Esta ferramenta servirá como um recurso crítico para organizações que visam navegar pelas complexidades da implementação de IA com total confiança em sua postura de segurança.”
Prashanth Harshangi, CTO da Enkrypt AI, acrescentou: “Nos últimos dois trimestres, nossa equipe esteve focada exclusivamente na segurança de IA generativa e fez progressos rápidos com nosso conjunto Sentry. Compreendendo três componentes-chave - Sentry Red Team, Sentry Guardrails e Sentry Compliance. Com o Quadro de Classificação de Segurança LLM, temos orgulho de oferecer um produto que não apenas identifica riscos potenciais, mas também capacita as empresas a gerenciar e mitigar proativamente esses desafios, permitindo tomadas de decisão informadas e mais rápidas.”
Sobre a Enkrypt AI
A Enkrypt AI, fundada pelos doutores da Yale Sahil Agarwal e Prashanth Harshangi, está liderando a adoção segura de IA Generativa nas empresas. Com uma plataforma inovadora e tudo-em-um, a Enkrypt AI está revolucionando como os Grandes Modelos de Linguagem (LLMs) são integrados e gerenciados, atendendo a necessidades críticas de confiabilidade, segurança, privacidade de dados e conformidade em uma solução unificada.
Usado por empresas de médio a grande porte em setores como finanças e ciências da vida, o Sentry da Enkrypt AI oferece uma abordagem proativa para a segurança de IA, promovendo confiança e eficiência nas implementações de IA, desde chatbots até relatórios automatizados. A Enkrypt AI fica entre os usuários e os modelos de IA, oferecendo uma variedade de camadas de segurança.
A Enkrypt AI se destaca por mesclar detecção de ameaças, privacidade e conformidade em uma ferramenta abrangente, pronta para se tornar a plataforma definitiva de IA Generativa Empresarial para um cenário regulatório em evolução. Para mais informações, visite https://www.enkryptai.com/ ou siga via LinkedIn, Twitter, Instagram ou YouTube.
Detalhes de Contato
Enkrypt AI
Bilal Mahmood
+44 7714 007257
b.mahmood@stockwoodstrategy.com
Site da Empresa
https://www.enkryptai.com/
Veja a versão original em newsdirect.com: https://newsdirect.com/news/enkrypt-ai-unveils-llm-safety-leaderboard-to-enable-enterprises-to-adopt-generative-ai-safely-and-responsibly-147863159
Fim da tradução.
Isenção de responsabilidade: Esta tradução foi gerada automaticamente pelo NewsRamp™ para News Direct (coletivamente referidos como "AS EMPRESAS") usando plataformas de inteligência artificial generativa de acesso público. AS EMPRESAS não garantem a precisão ou a integridade desta tradução e não serão responsáveis por quaisquer erros, omissões ou imprecisões. A dependência desta tradução é por sua própria conta e risco. AS EMPRESAS não são responsáveis por quaisquer danos ou perdas resultantes dessa dependência. A versão oficial e autoritativa deste comunicado de imprensa é a versão em inglês.
