La Batalla para Gobernar la IA Agéntica

(NewsUSA) - La inteligencia artificial (IA) agéntica se refiere a sistemas de IA que pueden operar de forma autónoma con una supervisión humana mínima. A diferencia de los sistemas de IA existentes que generan respuestas basadas en indicaciones, la IA agéntica en evolución puede establecer objetivos de forma independiente, crear planes y ejecutar tareas de múltiples pasos.

“La IA está empezando a ayudar a construir una mejor IA”, según expertos del Special Competitive Studies Project (SCSP), una iniciativa sin fines de lucro y no partidista cuyo objetivo es hacer recomendaciones para fortalecer la competitividad a largo plazo de Estados Unidos en inteligencia artificial.

Si se produce un bucle de autoaceleración en el que la capacidad de la IA mejora y el desarrollo de la IA se acumula, el ritmo de desarrollo de capacidades superará con creces las proyecciones, dijo Ylli Bajraktari, presidente del SCSP, en un boletín reciente sobre IA agéntica.

“Un agente que pueda navegar por sistemas burocráticos complejos, identificar vulnerabilidades explotables y actuar sin dejar un rastro claro de atribución representa una expansión cualitativa de la capacidad adversarial”, enfatizó Bajraktari.

En términos de seguridad global, Estados Unidos debe ser consciente de que nuestros adversarios desplegarán sistemas de IA agéntica en áreas donde la gobernanza es más débil. Los sistemas de IA agéntica podrían utilizarse para coerción, espionaje e influencia.

Contrario a lo que muchos formuladores de políticas podrían pensar, una gobernanza efectiva de la IA agéntica no involucra el modelo de IA que es el motor, sino el andamiaje construido a su alrededor, explicaron los expertos del SCSP. Este andamiaje incluye:

Conectores para vincular el modelo con la infraestructura del mundo real, como correo electrónico, sistemas de reservas y plataformas financieras.

Memoria que permite al sistema de IA aprender y adaptarse a través de interacciones a lo largo del tiempo.

Capacidades de planificación que dividen grandes objetivos en tareas más pequeñas, identifican fallas y sortean obstáculos sin intervención humana.

Estructuras de permisos que definen a qué puede acceder y actuar el sistema.

Barreras de protección que determinan lo que el sistema se negará a hacer (como límites de gasto o autorizaciones humanas).

La rendición de cuentas sigue siendo un desafío, y la gobernanza está fallando en tres aspectos clave, según el SCSP. Primero, la responsabilidad no es rastreable cuando se usa IA; no hay forma de determinar quién autorizó qué si un agente de IA actúa en su nombre. Además, los marcos actuales no preguntan si un agente de IA realizó una tarea de manera segura o si causó daño, solo que la tarea se completó. Finalmente, la IA agéntica construye perfiles personales que pueden incluir datos más sensibles de lo que un individuo desea al acumular información sobre patrones de comportamiento, preferencias e inferencias.

A pesar de estos desafíos, la IA agéntica no es una tecnología que deba temerse o posponerse, enfatizan los expertos del SCSP. Las instituciones que prioricen la comprensión, la configuración y la gobernanza de la IA agéntica determinarán su propia posición competitiva y también impactarán el carácter del entorno en el que opera la IA agéntica a nivel global.

Visite scsp.ai para obtener más información sobre cómo Estados Unidos debería buscar una gobernanza efectiva de la IA agéntica.

Descargo de responsabilidad: Esta traducción ha sido generada automáticamente por NewsRamp™ para NewsUSA (colectivamente referidos como "LAS EMPRESAS") utilizando plataformas de inteligencia artificial generativas de acceso público. LAS EMPRESAS no garantizan la exactitud ni la integridad de esta traducción y no serán responsables por ningún error, omisión o inexactitud. La confianza en esta traducción es bajo su propio riesgo. LAS EMPRESAS no son responsables por ningún daño o pérdida resultante de tal confianza. La versión oficial y autoritativa de este comunicado de prensa es la versión en inglés.