Sam Altman, director ejecutivo de la compañía desarrolladora de inteligencia artificial ChatGPT, se dirigió este miércoles ante el Consejo de Seguridad de las Naciones Unidas en Nueva York. En su intervención, el empresario solicitó una cooperación internacional urgente para establecer reglas claras que orienten el desarrollo tecnológico y mitiguen los riesgos asociados a esta herramienta.
La reunión tuvo lugar en un contexto de creciente preocupación por la velocidad con la que avanza la tecnología. Altman advirtió sobre los peligros potenciales del uso indebido de estas herramientas, incluyendo su aplicación en armas biológicas o cibernéticas. La entidad multilateral buscó comprender cómo estos avances pueden afectar la seguridad global y las relaciones internacionales.
Advertencias sobre riesgos existenciales
Durante su exposición oral ante los miembros del Consejo, Altman destacó que el desarrollo de modelos más poderosos podría presentar "riesgos existenciales" para la humanidad. El ejecutivo explicó que estos sistemas podrían ser utilizados por actores malintencionados o estados-nación con fines destructivos.
La empresa OpenAI ha sido objeto de escrutinio global debido al impacto disruptivo de sus productos en diversos sectores económicos y sociales. La compañía, fundada en 2015, se posiciona como líder en el desarrollo de modelos generativos de lenguaje que han transformado la interacción humana con la tecnología.
Altman enfatizó la necesidad de una gobernanza robusta antes de que los sistemas alcancen capacidades aún más avanzadas. Consideró que la autorregulación por parte de las empresas no es suficiente y requiere un respaldo institucional internacional coordinado para garantizar la seguridad colectiva.
Llamado a la cooperación multilateral
El CEO propuso la creación de una estructura similar a los organismos de supervisión nuclear, pero adaptada al contexto digital. Sostuvo que la competencia descontrolada entre potencias tecnológicas podría llevar a un "carrera armamentística" en el ámbito del software y las redes neuronales.
La intervención se inscribe en una serie de audiencias recientes sobre tecnología avanzada. El Consejo ha recibido testimonios de expertos, académicos y líderes industriales que buscan equilibrar la innovación con los controles éticos necesarios para prevenir abusos sistémicos, tema que ya cubrimos en Ingeniero renuncia a Anthropic alerta sobre avance de inteligencia artificial y .
No existen aún acuerdos vinculantes a nivel global que regulen específicamente el despliegue de estas herramientas. La ausencia de un marco legal uniforme ha generado incertidumbre entre gobiernos y organizaciones civiles respecto al alcance de la vigilancia estatal sobre los datos personales y las capacidades ofensivas digitales.
Contexto regulatorio en Perú
A nivel regional, el debate sobre la inteligencia artificial cobra fuerza. En Perú, aunque no se ha promulgado una ley específica que regule integralmente estas tecnologías, existen iniciativas legislaturas y debates parlamentarios para establecer marcos normativos.
La Autoridad Nacional de Protección de Datos Personales del país ha emitido lineamientos sobre el tratamiento automatizado de información. Sin embargo, la discusión en Lima se centra aún más en aspectos de ciberseguridad y protección al consumidor que en riesgos existenciales globales.
El llamado de Altman resuena con las preocupaciones locales sobre cómo implementar estas tecnologías sin comprometer la soberanía digital ni los derechos fundamentales. Las autoridades peruanas observan estos desarrollos internacionales para adaptar futuras normativas nacionales.
