Empleados y directivos de algunas de las principales empresas tecnológicas firmaron una carta abierta para reclamar al Gobierno de Estados Unidos mayores controles sobre el desarrollo de los modelos de inteligencia artificial más avanzados.

Los firmantes advirtieron que esos sistemas podrían superar la capacidad humana de supervisión y plantearon la necesidad de desacelerar su evolución mientras se diseñan mecanismos de seguridad y gobernanza.

Más de 1.000 empleados de OpenAI, Anthropic y Google firmaron una carta abierta en la que solicitaron al Gobierno de Estados Unidos que impulse medidas para regular el ritmo de desarrollo de la inteligencia artificial. El objetivo, según plantearon, es evitar que los modelos más avanzados alcancen un nivel de complejidad que vuelva imposible comprenderlos, supervisarlos o controlarlos de manera adecuada.

El documento, titulado “Pacing the Frontier”, advierte que los sistemas de inteligencia artificial de frontera podrían desarrollar capacidades superiores a las herramientas disponibles actualmente para evaluar su comportamiento. Frente a ese escenario, los firmantes proponen reducir deliberadamente la velocidad de avance mientras se fortalecen las políticas de seguridad, los mecanismos de control y la cooperación internacional.

La carta reconoce que la inteligencia artificial puede aportar beneficios significativos para la sociedad, pero remarca que ese resultado no está garantizado. Sus autores sostienen que la automatización de la investigación podría acelerar todavía más el progreso tecnológico y generar riesgos difíciles de anticipar si no existen límites claros ni herramientas suficientes para intervenir.

Por ese motivo, reclaman que el Gobierno estadounidense respalde iniciativas destinadas a mejorar la supervisión de los modelos y promueva un esfuerzo internacional para desarrollar estándares técnicos y marcos de gobernanza. La propuesta apunta a que los Estados puedan influir sobre el ritmo de crecimiento de la tecnología y no queden relegados frente a las decisiones de las empresas privadas.

La carta ya reúne 1.178 adhesiones y cuenta con el respaldo de referentes de peso dentro de la industria. Entre ellos aparecen el cofundador y director científico de Anthropic, Jared Kaplan; el director ejecutivo de la compañía, Dario Amodei; el director de Investigación de OpenAI, Mark Chen; y la vicepresidenta de Seguridad y Alineación de Inteligencia Artificial de Google, Anca Dragan.

El director ejecutivo de OpenAI, Sam Altman, no firmó el documento. Sin embargo, en una entrevista reciente reconoció que podría ser necesario moderar el ritmo de desarrollo de la inteligencia artificial para permitir que la sociedad tenga tiempo de adaptarse a sus nuevas capacidades.

Altman advirtió, no obstante, que una regulación excesiva podría terminar concentrando el desarrollo tecnológico en manos de un grupo reducido de empresas. “Me aterra un mundo donde los temores reales sobre la IA se utilicen para decir: ‘Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa’”, afirmó.

Para el empresario, cualquier esquema regulatorio debería mejorar la seguridad sin transformarse en una barrera que limite la competencia o consolide el poder tecnológico de unas pocas organizaciones. La discusión, por lo tanto, no pasa únicamente por cuánto regular, sino también por quiénes podrán continuar desarrollando estas herramientas y bajo qué condiciones.

El debate sobre el ritmo de avance de la inteligencia artificial se profundizó durante los últimos años a medida que los modelos adquirieron mayores capacidades para producir texto, imágenes, código y análisis complejos. La carta busca llevar esa discusión al terreno político y plantea que la supervisión no puede quedar exclusivamente en manos de las compañías que lideran el sector.

Con información de Europa Press.

Este artículo fue escrito por una herramienta de inteligencia artificial. Un ser humano capacitado de nuestro equipo revisó el texto antes de su publicación.