Premetric.ai a annoncé aujourd'hui le lancement de sa plateforme de gouvernance de l'IA pré-déploiement, conçue pour aider les organisations à évaluer les risques, les impacts et la nécessité des systèmes d'intelligence artificielle avant leur développement ou déploiement. Alors que le contrôle réglementaire et sociétal de l'IA s'intensifie, Premetric se positionne à une couche critique mais sous-développée du cycle de vie de l'IA : la prise de décision en amont.

La gouvernance de l'IA pré-déploiement fait référence à l'évaluation structurée de la pertinence de construire ou de déployer un système d'IA en premier lieu, en fonction de ses risques potentiels, de son impact sociétal et de son alignement avec les normes organisationnelles et réglementaires. Alors que la plupart des approches de gouvernance de l'IA existantes se concentrent sur la surveillance des systèmes après leur déploiement, Premetric introduit une couche d'intelligence décisionnelle qui opère avant que le code ne soit écrit ou que les modèles ne soient entraînés.

« La gouvernance de l'IA a été largement réactive », a déclaré Dost Mushtaq, PDG de Premetric.ai. « Au moment où la plupart des contrôles sont appliqués, les décisions les plus risquées ont déjà été prises. Premetric existe pour déplacer la gouvernance en amont, au point où les organisations décident si un système d'IA devrait exister du tout. »

La plateforme Premetric permet aux organisations de mener des évaluations des risques structurées alignées sur les normes mondiales émergentes, y compris l'Acte sur l'IA de l'UE et le Cadre de gestion des risques de l'IA du NIST. Elle introduit des flux de travail d'évaluation à plusieurs étapes qui classent les cas d'utilisation de l'IA par niveau de risque, évaluent les préjudices potentiels et génèrent des enregistrements de décision auditable pour examen interne et réglementaire. Ces flux de travail sont conçus pour s'intégrer aux pipelines existants de produits et de conformité, permettant à la gouvernance de fonctionner comme un mécanisme de contrôle plutôt que comme une couche d'audit rétrospective. Plus de détails sur la méthodologie de la plateforme sont disponibles sur Premetric.ai/platform.

Selon les premiers adoptants dans les services financiers et les soins de santé, la plateforme comble un écart croissant entre les attentes réglementaires et la réalité opérationnelle. « Nous avons eu des processus robustes de validation des modèles pendant des années, mais rien qui nous aide à décider si un cas d'utilisation devrait avancer en premier lieu », a déclaré le Dr Elena Markovic, ancienne responsable de la gouvernance de l'IA dans une grande banque européenne et conseillère chez Premetric. « Premetric opérationnalise cette couche manquante d'une manière qui s'aligne sur la façon dont les régulateurs commencent à penser au risque de l'IA. »

Le lancement intervient alors que l'élan mondial vers une réglementation formelle de l'IA s'accélère. Des cadres tels que l'Acte sur l'IA de l'UE et les principes de l'OCDE mettent l'accent sur la classification des risques, la responsabilité et la transparence, mais laissent les détails de mise en œuvre aux organisations. Premetric traduit ces exigences de haut niveau en processus décisionnels concrets, permettant aux entreprises de démontrer non seulement que leurs systèmes d'IA sont conformes, mais qu'ils ont été conçus de manière responsable.

Les analystes de l'industrie ont commencé à identifier la gouvernance pré-déploiement comme une catégorie distincte et nécessaire dans le paysage plus large de la gouvernance de l'IA. « Nous assistons à l'émergence d'une nouvelle couche de contrôle axée sur les décisions de poursuite/arrêt pour les systèmes d'IA », a déclaré Marcus Chen, analyste principal à l'Institut pour la politique technologique responsable. « Les fournisseurs qui peuvent opérationnaliser ces décisions de manière structurée et auditable joueront un rôle central dans l'adoption de l'IA par les entreprises. »

Premetric.ai a son siège à Toronto et sert les organisations opérant dans des domaines à haut risque où le risque lié à l'IA est significatif, y compris la finance, les soins de santé et les applications du secteur public. Les services de l'entreprise sont disponibles à partir d'aujourd'hui pour le déploiement en entreprise.

Pour plus d'informations, visitez www.premetric.ai.

Avertissement : Cette traduction a été générée automatiquement par NewsRamp™ pour Newsworthy.ai (collectivement désignés sous le nom de "LES ENTREPRISES") en utilisant des plateformes d'intelligence artificielle génératives accessibles au public. LES ENTREPRISES ne garantissent pas l'exactitude ni l'intégralité de cette traduction et ne seront pas responsables des erreurs, omissions ou inexactitudes. Vous vous fiez à cette traduction à vos propres risques. LES ENTREPRISES ne sont pas responsables des dommages ou pertes résultant de cette confiance. La version officielle et faisant autorité de ce communiqué de presse est la version anglaise.