En un informe reciente, la compañía advierte que el avance acelerado de la IA podría tener consecuencias 'potencialmente catastróficas'.
OpenAI, la empresa detrás de algunos de los sistemas de inteligencia artificial más avanzados del mundo, advirtió que los riesgos asociados con el desarrollo de una posible “superinteligencia” podrían ser “potencialmente catastróficos”.
La compañía propone incluso considerar una desaceleración global del progreso en el campo, con el fin de estudiar mejor los mecanismos de control y alineación de estos sistemas.
Una advertencia sobre el ritmo del desarrollo
El documento plantea que, aunque los beneficios de la inteligencia artificial son enormes, la falta de control sobre sistemas altamente capaces representa un peligro que la sociedad no puede ignorar. “Obviamente, nadie debería desplegar sistemas superinteligentes sin poder alinearlos y controlarlos de manera robusta, y esto requiere más trabajo técnico”, señala el texto.
La declaración más contundente es la sugerencia de que el sector podría necesitar “ralentizar el desarrollo” de la inteligencia artificial para estudiar con más profundidad sus efectos y riesgos antes de alcanzar niveles de auto-mejora recursiva, es decir, cuando los propios sistemas puedan rediseñarse sin intervención humana.
OpenAI advierte que la competencia entre laboratorios y países podría generar una “carrera” tecnológica con incentivos contraproducentes para la seguridad.
Por ello, propone que los principales actores del sector acuerden principios comunes de investigación y protocolos de seguridad, comparables a los estándares históricos que rigen la construcción o la protección contra incendios.
La empresa sugiere que esta cooperación global debería incluir a gobiernos y agencias de varios países, para coordinar acciones especialmente en áreas sensibles, como la prevención del uso de la IA en bioterrorismo o la manipulación de información a gran escala.
Dos visiones sobre el futuro regulatorio
El informe identifica dos posibles escenarios: uno en el que la inteligencia artificial evoluciona de forma similar a otras innovaciones —como la imprenta o el internet— y otro en el que la superinteligencia emerge a un ritmo sin precedentes. En este último caso, advierte OpenAI, las regulaciones tradicionales podrían ser insuficientes.
A pesar del tono de cautela, la compañía reitera su compromiso con el desarrollo responsable de la tecnología y con lo que denomina “seguridad”: la práctica de permitir los beneficios de la IA mientras se reducen sus efectos negativos.
“La rendición de cuentas ante las instituciones públicas debe mantenerse, sin importar la velocidad del progreso tecnológico”, concluye el informe.
Fuente: El Tiempo – Noviembre 10 de 2025
