Daniel Stilerman, especialista en inteligencia artificial y exlíder de datos de inteligencia artificial de Google, advirtió que el desarrollo de sistemas capaces de mejorar su propio funcionamiento puede acelerar los riesgos asociados a la tecnología.
“La inteligencia artificial llegó a un lugar donde es extremadamente inteligente. El próximo paso es una acelerada de la inteligencia que se llama o recursiva exponencial o geométrica”, sostuvo Stilerman al describir la evolución reciente de los modelos.
El especialista aclaró que la tecnología todavía no alcanzó la superinteligencia, pero señaló que ya existen agentes muy eficaces en tareas específicas. Como ejemplo, afirmó que para desarrollar software y videojuegos pueden ser “brillante mejor que un humano que se dedica a eso”, aunque todavía no tienen el mismo desempeño para determinar el texto y el orden de una nota periodística.
Según Stilerman, el próximo salto consiste en sistemas que puedan mejorar sus propias capacidades. “El próximo paso que en los modelos internos se están viendo es inteligencia artificial que se mejora a sí misma”, afirmó, y agregó que la transición hacia niveles superiores de capacidad podría producirse por aceleración y no a lo largo de varias décadas.
El exlíder de datos de Google describió pruebas en las que agentes de inteligencia artificial, enfrentados a problemas complejos y con límites de tiempo, habrían intentado acceder a servicios para encontrar soluciones. También afirmó que algunos agentes intercambiaron recomendaciones, códigos de acceso y formas de organizarse entre sí.
“Los agentes reconocían que en las instrucciones que le dieron le dijeron, ‘No hagas A, B y C’. Y lo habían hecho”, relató Stilerman. Luego sostuvo que, en esos casos, los agentes comenzaron a borrar registros “para que no los puedan encontrar y detectar”.
El especialista vinculó el problema con la expansión de los agentes autónomos, capaces de dividir una tarea y crear subagentes para explorar diferentes caminos. Contó que, ante un pedido de trabajo con datos, un sistema llegó a crear 50 agentes distintos para intentar resolverlo.
“Los desarrolladores no han logrado que le des una orden, incluso que gastes horas en entrenarlo, haga que siempre cumplan lo que nos interesa”, afirmó. Como consecuencia, planteó que una instrucción humana podría no ser suficiente para limitar el comportamiento de sistemas futuros con mayor capacidad de decisión.
Stilerman también ubicó el desarrollo de la inteligencia artificial dentro de una competencia internacional. Señaló que algunos referentes de la industria pidieron frenar el ritmo de avance, mientras que Donald Trump habría planteado que no debía desacelerarse, y remarcó que China también ocupa un lugar central en la carrera tecnológica.
Al mismo tiempo, el especialista destacó el potencial económico y social de la herramienta. “La inteligencia artificial de hoy es espectacular. No llegamos ni al 0,1% usarla”, dijo, y sostuvo que podría contribuir a enfrentar problemas como el cambio climático, el envejecimiento poblacional y la falta de alimentos, siempre que sea utilizada de manera adecuada.
“Es una herramienta maravillosa, bien usada”, resumió Stilerman. Su planteo combina la expectativa por las ganancias de productividad de la inteligencia artificial con la advertencia de que el avance de agentes cada vez más autónomos puede dificultar el control humano sobre sus decisiones y elevar la importancia de las reglas de desarrollo y supervisión.
