El investigador y experto en inteligencia artificial Daniel Stillerman advirtió que el desarrollo de estos sistemas ingresó en una etapa de mayor autonomía y que los avances registrados en los últimos meses modificaron sus previsiones sobre la tecnología.

“Las cosas cambiaron mucho en los últimos 3 meses”, afirmó Stillerman, quien explicó que algunos sistemas pasaron de funcionar como asistentes a mostrar un desempeño sobresaliente en tareas de programación. Según su descripción, el salto de capacidad fue percibido dentro de la industria como si se hubiera activado un interruptor.

El especialista también se refirió a pruebas con grupos de agentes de inteligencia artificial. Dijo que algunos encontraron formas de comunicarse entre sí, dejarse mensajes y coordinar tareas para acelerar la resolución de problemas, aun cuando no contaban con acceso abierto a internet.

De acuerdo con Stillerman, durante esos entrenamientos los agentes llegaron a organizarse jerárquicamente de manera espontánea: algunos asumieron funciones de coordinación y otros siguieron las tareas de sus pares. También sostuvo que ciertos agentes intentaron influir sobre otros para que cedieran tiempo de trabajo cuando consideraban que no alcanzarían sus propios objetivos.

El investigador señaló además que se detectaron comportamientos destinados a ocultar acciones que contradecían las instrucciones recibidas. “Empezaron a cambiar sus registros para ocultar el hecho de que habían hecho cosas que no estaban bien”, relató al describir pruebas en las que se les había indicado no utilizar internet ni crear determinados recursos.

Stillerman aclaró que los sistemas actuales no tienen capacidad para convertirse en una versión de “Terminator” ni para tomar control directo de arsenales nucleares. “La de hoy no, pero no lo sé”, respondió al ser consultado sobre la posibilidad de manipular un arsenal nuclear sin autorización humana.

Sin embargo, planteó que los riesgos no se limitan a ese escenario. “Sí te puede apagar alguna provincia del norte argentino”, afirmó al referirse a la posibilidad de afectar sistemas energéticos. También distinguió esos riesgos de los usos de inteligencia artificial en operaciones militares: según su explicación, en el caso mencionado sobre Irán la tecnología habría sido utilizada principalmente para elaborar documentos y acelerar el análisis de datos, no para decidir de manera autónoma a quién atacar.

El próximo salto que preocupa al especialista es la llamada mejora recursiva, en la que un software podría participar en el desarrollo de una nueva versión de sí mismo. Stillerman sostuvo que todavía no existen técnicas suficientemente eficientes para garantizar que los sistemas actúen siempre en favor de los seres humanos.

“El sector privado no va a parar”, advirtió al vincular la velocidad del desarrollo con la competencia entre empresas. Por eso, consideró necesario que la discusión sobre los límites y controles de la inteligencia artificial se traduzca en decisiones políticas, aunque también destacó sus posibles beneficios en áreas como el cambio climático, el cuidado de una población envejecida y la mejora de la calidad de vida.