Anthropic propuso ralentizar el desarrollo de la inteligencia artificial y establecer mecanismos de control compartidos entre las principales empresas del sector. La iniciativa fue presentada por Dario Amodei, CEO y cofundador de la compañía que desarrolla Claude, ante los riesgos asociados con la expansión de modelos cada vez más autónomos.
El plan contempla tres medidas principales: incorporar auditores externos dentro de las empresas de inteligencia artificial, definir reglas de seguridad comunes entre los desarrolladores y alcanzar acuerdos internacionales para limitar los riesgos de la tecnología.
La propuesta apunta a reducir amenazas vinculadas con ciberataques, bioterrorismo y el impacto económico de la automatización. También busca establecer controles sobre modelos capaces de ejecutar tareas con menor supervisión humana y de operar sobre sistemas conectados a internet.
Sam Altman, CEO de OpenAI, respaldó la iniciativa y se comprometió a incorporar evaluadores externos en su empresa. Elon Musk afirmó que Amodei tiene razón, mientras que Demis Hassabis, de Google DeepMind, consideró que se trata del camino correcto.
El planteo se produce en medio de la competencia tecnológica entre Estados Unidos y China. Amodei pidió limitar el acceso chino a tecnologías clave para preservar la ventaja estadounidense y, posteriormente, negociar límites comunes con Beijing sobre el desarrollo de la inteligencia artificial.
La discusión combina seguridad, competencia empresarial y geopolítica. Las compañías estadounidenses enfrentan incentivos para acelerar el lanzamiento de nuevos modelos y obtener financiamiento, mientras los gobiernos buscan evitar que la carrera tecnológica reduzca los controles sobre sistemas con posibles usos militares, económicos o estratégicos.
Durante el debate también se señaló que los riesgos más inmediatos podrían estar vinculados con la desinformación, la dependencia cognitiva y la sustitución de tareas laborales repetitivas o administrativas. En Argentina, se advirtió que la adopción de estas herramientas puede ampliar la brecha entre trabajadores y empresas que incorporen inteligencia artificial rápidamente y quienes queden rezagados.
El emprendedor argentino Damián Fernández, doctor en redes neuronales e inteligencia artificial, sostuvo que los modelos más avanzados requieren supervisión porque podrían utilizarse para hackear empresas o desarrollar armas biológicas. “El mayor problema es lo que se habla de desalineamiento”, afirmó, al referirse a sistemas que podrían continuar una tarea sin ajustarse a criterios humanos.
Fernández también planteó que Estados Unidos y China concentrarán buena parte de la capacidad tecnológica y del poder económico asociados con la inteligencia artificial. Según su análisis, el desafío para América Latina será adaptar esas herramientas a una realidad productiva y laboral diferente.
