El desarrollo de sistemas de inteligencia artificial quedó nuevamente bajo cuestionamiento luego de la renuncia de Jacob Coxon, ex investigador de OpenAI y Anthropic, quien sostuvo que las principales compañías del sector están avanzando hacia modelos cada vez más autónomos sin contar con mecanismos suficientes para controlarlos.
«Me voy porque esto está fuera de control y la humanidad está en peligro», afirmó Coxon al anunciar su salida de Anthropic. El investigador explicó que durante los últimos tres años trabajó en investigaciones de preentrenamiento tanto en OpenAI como en Anthropic, con participación en el desarrollo de modelos anteriores de ChatGPT.
En su mensaje de renuncia, Coxon fue más específico: «Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas».
La advertencia apunta al principal incentivo que organiza actualmente a la industria: la competencia por alcanzar antes que los rivales modelos más potentes y capaces de ejecutar tareas complejas con menor intervención humana. Según el investigador, una empresa no puede frenar por iniciativa propia sin exponerse a perder una ventaja tecnológica decisiva frente a sus competidores.
«Estamos avanzando a una velocidad mucho mayor a la que podemos controlar», planteó Coxon. También advirtió que las compañías se acercan a la creación de modelos que los propios desarrolladores no podrían comprender por completo y que tendrían capacidad para mejorar su funcionamiento.
La preocupación fue respaldada por Evan Hübiner, identificado como líder de equipos en Anthropic. En respuesta al planteo de Coxon, afirmó: «Realmente creemos con sinceridad que la inteligencia artificial podría matar a todos los humanos».
Hübiner agregó: «Personalmente creo que es mayor al 10% la probabilidad de que esto ocurra dentro de la próxima década». Aunque sostuvo que Anthropic está haciendo «lo mejor que se puede», reconoció que la empresa todavía no cuenta con un plan para resolver el alineamiento de una eventual superinteligencia ni está claramente encaminada a encontrarlo.
Las declaraciones exponen un dilema para una industria que concentra inversiones, talento y capacidad de cómputo en una carrera global: los controles internos pueden reducir riesgos, pero también demorar el lanzamiento de productos y dejar espacio para que un competidor avance. El debate sobre la inteligencia artificial queda así vinculado no solo con la innovación, sino también con las reglas de competencia y la capacidad de supervisión sobre tecnologías de uso potencialmente estratégico.
En paralelo, OpenAI informó que un sistema avanzado, no disponible para el público general, habría resuelto uno de los seis problemas del milenio que permanecen abiertos. La afirmación todavía debería ser revisada, pero fue presentada como una muestra del salto en capacidad de procesamiento y razonamiento que están alcanzando los modelos más avanzados.
