Le Combat Pour Gouverner L'IA Agentique

(NewsUSA) - L'intelligence artificielle (IA) agentique désigne les systèmes d'IA capables de fonctionner de manière autonome avec une supervision humaine minimale. Contrairement aux systèmes d'IA existants qui génèrent des réponses basées sur des invites, l'IA agentique en évolution peut définir indépendamment des objectifs, créer des plans et exécuter des tâches en plusieurs étapes.

« L'IA commence à aider à construire une meilleure IA », selon les experts du Special Competitive Studies Project (SCSP), une initiative non partisane et à but non lucratif visant à formuler des recommandations pour renforcer la compétitivité à long terme des États-Unis en matière d'intelligence artificielle.

Si une boucle d'auto-accélération dans laquelle les capacités de l'IA s'améliorent et le développement de l'IA se cumule se produit, le rythme du développement des capacités dépassera de loin les projections, a déclaré Ylli Bajraktari, président du SCSP, dans une récente newsletter sur l'IA agentique.

« Un agent capable de naviguer dans des systèmes bureaucratiques complexes, d'identifier des vulnérabilités exploitables et d'agir sans laisser de trace d'attribution claire représente une expansion qualitative de la capacité adverse », a souligné Bajraktari.

En termes de sécurité mondiale, les États-Unis doivent être conscients que nos adversaires déploieront des systèmes d'IA agentique dans les domaines où la gouvernance est la plus faible. Les systèmes d'IA agentique pourraient être utilisés pour la coercition, l'espionnage et l'influence.

Contrairement à ce que pensent de nombreux décideurs politiques, une gouvernance efficace de l'IA agentique n'implique pas le modèle d'IA qui est le moteur, mais l'échafaudage construit autour de lui, ont expliqué les experts du SCSP. Cet échafaudage comprend :

Connecteurs pour relier le modèle à l'infrastructure du monde réel, comme les e-mails, les systèmes de réservation et les plateformes financières.

Mémoire qui permet au système d'IA d'apprendre et de s'adapter au fil des interactions.

Capacités de planification qui décomposent les grands objectifs en tâches plus petites, identifient les échecs et surmontent les obstacles sans intervention humaine.

Structures d'autorisation qui définissent ce à quoi le système peut accéder et sur quoi il peut agir.

Garde-fous qui déterminent ce que le système refusera de faire (comme des limites de dépenses ou des approbations humaines).

La responsabilité reste un défi et la gouvernance est insuffisante à trois égards, selon le SCSP. Premièrement, la responsabilité est intraçable lors de l'utilisation de l'IA ; il n'y a aucun moyen de déterminer qui a autorisé quoi si un agent IA agit en votre nom. De plus, les cadres actuels ne demandent pas si un agent IA a effectué une tâche en toute sécurité ou s'il a causé un préjudice, seulement que la tâche a été accomplie. Enfin, l'IA agentique construit des profils personnels qui peuvent inclure des données plus sensibles que ce qu'un individu souhaite en accumulant des informations sur les modèles de comportement, les préférences et les déductions.

Malgré ces défis, l'IA agentique n'est pas une technologie à craindre ou à différer, soulignent les experts du SCSP. Les institutions qui donneront la priorité à la compréhension, à la formation et à la gouvernance de l'IA agentique détermineront leur propre position concurrentielle et auront également un impact sur le caractère de l'environnement dans lequel l'IA agentique opère à l'échelle mondiale.

Visitez scsp.ai pour en savoir plus sur la manière dont les États-Unis devraient poursuivre une gouvernance efficace de l'IA agentique.

Avertissement : Cette traduction a été générée automatiquement par NewsRamp™ pour NewsUSA (collectivement désignés sous le nom de "LES ENTREPRISES") en utilisant des plateformes d'intelligence artificielle génératives accessibles au public. LES ENTREPRISES ne garantissent pas l'exactitude ni l'intégralité de cette traduction et ne seront pas responsables des erreurs, omissions ou inexactitudes. Vous vous fiez à cette traduction à vos propres risques. LES ENTREPRISES ne sont pas responsables des dommages ou pertes résultant de cette confiance. La version officielle et faisant autorité de ce communiqué de presse est la version anglaise.