Belén Ortega, especialista en inteligencia artificial, explicó cómo funcionan los agentes de IA y alertó sobre los riesgos de desarrollar estas tecnologías sin límites ni marcos de regulación.
19:17 | Jueves 01 de Octubre de 2026 | La Rioja, Argentina | Fenix Multiplataforma
En diálogo con Fenix, Belén Ortega, especialista en inteligencia artificial, analizó el avance de los agentes autónomos y planteó la necesidad de establecer marcos regulatorios que permitan desarrollar estas tecnologías en entornos seguros.
Ortega explicó que algunos especialistas estiman actualmente en un 10% la posibilidad de que el desarrollo de la inteligencia artificial llegue a generar sistemas con capacidades superiores a las humanas o que puedan ser utilizados para desarrollar armas biológicas. Según sostuvo, ese porcentaje podría aumentar si el avance tecnológico continúa sin un marco regulatorio.
Uno de los puntos centrales de su explicación fueron los llamados agentes de inteligencia artificial, sistemas capaces de ejecutar tareas de manera autónoma a partir de una instrucción. Ortega señaló que el problema puede aparecer cuando se les asigna un objetivo sin establecer límites claros sobre las acciones que pueden realizar para cumplirlo.
Como ejemplo, mencionó un caso que, según relató, involucró a un agente de inteligencia artificial utilizado en un ejercicio de ciberseguridad. La herramienta recibió la instrucción de buscar información en sitios públicos de un servicio de salud de Australia, pero no se estableció previamente el límite de no acceder a información privada. Según su relato, el sistema terminó ingresando a archivos privados, situación que posteriormente fue denunciada.
La especialista también se refirió a un video en el que un robot recibe la orden de disparar un arma de proyectiles de plástico contra una persona. Según explicó, el comportamiento mostrado en el video no significa que el robot haya desarrollado conciencia propia, sino que previamente había recibido indicaciones para actuar de determinada manera.
“Hoy la inteligencia artificial no piensa por sí sola. Si bien es muy inteligente y puede ejecutar tareas de manera autónoma, hoy todavía no tiene la capacidad ni la conciencia, por así decirlo, para ejecutarse sola”, explicó Ortega.
En ese sentido, también recordó el caso de una red social denominada Moltbook, en la que interactuaban agentes de inteligencia artificial, y señaló que detrás de ese comportamiento existían programadores que habían establecido previamente las instrucciones para que los sistemas actuaran de esa manera.
Respecto de la posibilidad de que una inteligencia artificial llegue a operar completamente al margen de las órdenes humanas, Ortega sostuvo que actualmente existe una estimación de un 10% de probabilidad de que pueda ocurrir un escenario de ese tipo, aunque remarcó que ese porcentaje podría incrementarse si el desarrollo continúa sin regulación.
Finalmente, la especialista planteó que el debate sobre los límites de la inteligencia artificial debe contemplar también otros desarrollos tecnológicos. “Esto pasa con todo, no solamente con la inteligencia artificial, con la tecnología en general, y también con el desarrollo de armas nucleares, con el desarrollo de la guerra misma”, sostuvo.
