Leo Feinberg est PDG et co-fondateur de Verax AI, un leader dans l'adoption sûre et responsable de l'IA pour les entreprises. La société permet aux grandes organisations de tirer pleinement parti des avantages de productivité des technologies d'IA, tout en atténuant les problèmes de sécurité et de confiance associés à leur adoption. Leo possède une grande expérience dans les domaines de la confiance, de la transparence et de la sécurité de l'information, ayant lancé et développé plusieurs startups technologiques à succès, dont CloudEndure, acquise par AWS en 2019 pour 250 millions de dollars.

Alors que l'adoption de l'IA s'accélère dans tous les secteurs, quels sont selon vous les risques les plus pressants auxquels les entreprises sont confrontées aujourd'hui ?

Nous voyons deux risques principaux. Le premier est que tous les outils d'IA ne sont pas créés égaux, et il est encore très difficile de déterminer quels outils d'IA sont adaptés aux besoins spécifiques d'une entreprise dans chaque cas d'utilisation. En conséquence, de nombreuses solutions d'IA sont construites, évaluées et même achetées très rapidement, pour finalement décevoir les entreprises qui les utilisent et les amener à douter de la valeur globale de l'IA. Cependant, avec le bon outil – généralement développé par un fournisseur spécialisé dans l'IA – les avantages peuvent déjà être significatifs, même aujourd'hui, alors que l'IA en est encore à ses balbutiements.

Le deuxième risque est la fuite de données vers des outils d'IA tiers. Ces outils encouragent les utilisateurs, plus que jamais auparavant, à envoyer de grandes quantités d'informations vers eux, des volumes plus élevés se traduisant souvent par des avantages plus importants. Cependant, une grande partie des informations que les employés des entreprises envoient à ces outils sont sensibles ou confidentielles, provoquant ce qui est sans doute la plus grande fuite de données à ce jour, une fuite que les outils de sécurité traditionnels ne sont pas équipés pour gérer.

Où voyez-vous les plus grandes lacunes dans la façon dont les organisations abordent les menaces de l'IA ?

De nombreuses organisations autorisent l'utilisation de l'IA (ou du moins de certains outils d'IA), sans avoir aucun contrôle automatisé en place pour prévenir les fuites de données. Au lieu de cela, elles s'appuient sur des méthodes basiques comme la formation des employés et des bannières pop-up chaque fois qu'un employé tente d'utiliser l'IA. Malheureusement, il a été démontré à maintes reprises que ces méthodes sont inefficaces lorsqu'elles ne sont pas complétées par une application automatisée.

Dans de nombreux cas, les entreprises sont conscientes des risques de fuite de données vers l'IA. Cependant, elles ne les traitent souvent pas correctement, préférant donner la priorité à la résolution d'autres défis de sécurité plus traditionnels au sein de l'organisation.

Pour cette raison exacte, chez Verax AI nous avons développé une solution – Verax Protect – qui permet aux entreprises d'appliquer automatiquement les politiques d'IA de l'entreprise sur tous les appareils des employés, du navigateur et des applications au bureau et au mobile. Cela leur permet de récolter tous les avantages de productivité des outils d'IA comme ChatGPT et Claude en toute sécurité.

Quelles stratégies pensez-vous que les entreprises devraient adopter pour se protéger de ces risques émergents ?

Ma suggestion serait soit de permettre aux employés de choisir les outils d'IA qu'ils pensent être les meilleurs, soit de choisir des outils au niveau de l'entreprise en utilisant les mêmes critères. Une fois qu'un outil a été choisi, les entreprises devraient mettre en œuvre des solutions qui bloquent ou assainissent automatiquement l'utilisation de l'IA qui pourrait violer les politiques de l'entreprise ou exposer des informations sensibles. La combinaison de ces deux mesures devrait offrir le meilleur ratio risque/récompense, offrant des risques plus faibles et des récompenses plus élevées.

Vous venez de lancer votre dernier produit Verax Protect – qu'est-ce qui le distingue des autres solutions sur le marché ?

Verax Protect a été spécifiquement conçu pour accueillir même les entreprises réglementées avec les exigences de sécurité, de confidentialité et de conformité les plus strictes. Le marché de la sécurité et de la confidentialité de l'IA est assez jeune (tout comme l'IA moderne elle-même), et la plupart des efforts se concentrent actuellement sur les « fruits à portée de main », comme les PME et les entreprises natives de l'IA. Cependant, les organisations plus traditionnelles, en particulier celles des secteurs réglementés, font face à des défis encore plus grands liés aux fuites de données, à la confidentialité et à la sécurité lorsqu'elles permettent aux employés d'utiliser des outils d'IA tiers. Verax Protect a été conçu pour répondre à l'ensemble des besoins de confidentialité de l'IA pour les entreprises de tous types et tailles.

Comment voyez-vous l'industrie de la cybersécurité évoluer plus largement à la lumière de ces nouvelles menaces ?

L'industrie de la cybersécurité évolue généralement le plus rapidement en réponse à l'évolution tout aussi rapide des menaces de cybersécurité. Avec l'essor de l'IA, il y a eu une augmentation soudaine de nouveaux types de risques de sécurité, et l'industrie de la cybersécurité travaille encore pour les rattraper – alors que ces risques continuent de croître. Par conséquent, j'envisage que les entreprises de cybersécurité relèveront le défi au cours des 12 à 24 prochains mois et fourniront les sauvegardes et atténuations nécessaires compte tenu des risques croissants liés à l'IA.

Comment voyez-vous le rôle de l'IA sur le lieu de travail évoluer dans les années à venir ?

Je suis fermement convaincu que l'IA peut considérablement améliorer et optimiser presque tous les flux de travail sur le lieu de travail, et il s'agit simplement d'avoir suffisamment de fournisseurs investissant les ressources nécessaires pour développer chacune de ces améliorations de l'IA. À mon avis, une fois que l'IA aura été introduite dans suffisamment de domaines critiques pour les entreprises, elle améliorera l'efficacité et la productivité des entreprises à une échelle jamais vue auparavant.

Quel avenir pour Verax AI ? Où envisagez-vous d'emmener l'entreprise dans les 12 prochains mois ?

L'adoption de l'IA dans les entreprises croît très rapidement, et les risques qui y sont associés non seulement augmentent, mais évoluent et s'étendent avec chaque nouveau flux de travail amélioré par l'IA. Chez Verax, nous devons constamment rester une étape en avance pour être en mesure de prévenir et d'atténuer les risques de l'IA de demain, et pas seulement ceux d'aujourd'hui. Par exemple, de plus en plus d'entreprises achètent centralement des licences pour des outils de codage générés par l'IA tiers comme Cursor et Windsurf. Bien que ces outils offrent des gains de productivité énormes pour les ingénieurs, ils exposent également les entreprises à des risques tels que des codes malveillants et des codes qui violent les licences tierces. Des cas d'utilisation comme celui-ci continueront à être ajoutés à ceux que Verax Protect prend déjà en charge, jusqu'à ce que Verax devienne une solution tout-en-un complète pour tout ce qui concerne la sécurité, la confidentialité et la sûreté des interactions entre les employés et les outils d'IA tiers.

L'article Q&A avec Leo Feinberg, Co-fondateur & PDG de Verax AI : Comment les entreprises peuvent-elles s'attaquer aux risques de sécurité de l'IA est apparu en premier sur citybiz.

Avertissement : Cette traduction a été générée automatiquement par NewsRamp™ pour citybiz (collectivement désignés sous le nom de "LES ENTREPRISES") en utilisant des plateformes d'intelligence artificielle génératives accessibles au public. LES ENTREPRISES ne garantissent pas l'exactitude ni l'intégralité de cette traduction et ne seront pas responsables des erreurs, omissions ou inexactitudes. Vous vous fiez à cette traduction à vos propres risques. LES ENTREPRISES ne sont pas responsables des dommages ou pertes résultant de cette confiance. La version officielle et faisant autorité de ce communiqué de presse est la version anglaise.