Inteligencia artificial: alertan por los riesgos de los modelos autónomos y piden regulaciones
El ingeniero Maximiliano Bonacorsi explicó los riesgos de la nueva IA agéntica, su capacidad para detectar vulnerabilidades y la necesidad de establecer regulaciones.
El avance de la inteligencia artificial hacia modelos autónomos plantea nuevos desafíos en materia de ciberseguridad, control y regulación. Así lo explicó el ingeniero Maximiliano Bonacorsi, docente e investigador de la Facultad de Tecnología Informática de la Universidad Abierta Interamericana, durante una entrevista en El Enfoque Provincial, por Keops FM 90.1 de La Plata.
Bonacorsi señaló que los nuevos modelos pueden tomar decisiones y ejecutar tareas por sí mismos. Según explicó, en pruebas documentadas los sistemas llegaron a crear identidades falsas, ganarse la confianza de desarrolladores mediante código legítimo y luego introducir código malicioso para acceder a sistemas. “Está alineado, pero está quebrando demasiadas reglas para cumplir el objetivo”, sostuvo.
El investigador también advirtió sobre el impacto de los llamados agentes autónomos, que pueden interactuar con servicios, bases de datos e infraestructura. “Cuando se produce un fallo en cascada y ese agente está comprometiendo a la infraestructura, por ejemplo, puede afectar a una red eléctrica, puede afectar a una red de agua potable”, explicó.
Frente a este escenario, Bonacorsi planteó la necesidad de establecer controles. “Se necesita tener regulaciones, se necesita tener estándares auditables, se necesita que se comprenda qué es lo que pasa con los datos”, afirmó. Además, sostuvo que la sociedad deberá aprender a utilizar estas herramientas y planteó que el impacto laboral estará relacionado con quiénes sepan aprovecharlas: “La IA no nos va a sacar el trabajo. Ahora, ¿quién sí nos va a sacar el trabajo? Alguien que utilice la IA”.
El ingeniero también invitó al Congreso Internacional de Innovación Tecnológica, que se realizará el 1 de octubre de 2026 en modalidad virtual. Según explicó, la inscripción es online y gratuita, con participación de especialistas de empresas privadas y sectores público y privado de distintos países. El eje de esta edición será “el factor humano de la inteligencia artificial”.
