Menlo Park, Estados Unidos.- El director ejecutivo de Meta, Mark Zuckerberg, tomó distancia de las propuestas para establecer una desaceleración coordinada en el desarrollo de sistemas avanzados de inteligencia artificial (IA) y sostuvo que cada empresa debe asumir la responsabilidad de garantizar que sus tecnologías sean seguras.
Las declaraciones fueron publicadas por Zuckerberg en la red social X, días después de que Dario Amodei, director ejecutivo de Anthropic, planteara un plan de tres pasos para reforzar la seguridad de la IA, que incluyó un llamado a que empresas y gobiernos coordinen una posible reducción en el ritmo de desarrollo.
La propuesta también recibió respaldo de figuras de la industria tecnológica, entre ellas Sam Altman, director ejecutivo de OpenAI, y Elon Musk, de xAI.
¿Qué dijo Zuckerberg sobre frenar el desarrollo de la IA?
Sin mencionar directamente a Anthropic ni a otras compañías, Zuckerberg afirmó que cada laboratorio de IA tiene tanto la responsabilidad como los incentivos necesarios para desarrollar sus modelos de manera segura.
Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias medidas para garantizar que eso ocurra”, escribió el empresario.
Con esta postura, el director de Meta se desmarcó de la idea de establecer una pausa o desaceleración conjunta entre las empresas que desarrollan sistemas avanzados de inteligencia artificial.
El debate se ha intensificado debido a las advertencias de investigadores y especialistas sobre los posibles riesgos que podrían representar sistemas cada vez más capaces para la sociedad y el control humano.
¿Meta ha retrasado proyectos de inteligencia artificial?
Zuckerberg señaló que Meta ya ha tomado medidas para evaluar la seguridad de sus propios desarrollos antes de ponerlos a disposición de los usuarios.
Como ejemplo, explicó que la compañía retrasó durante varios meses el lanzamiento de Muse, su agente de inteligencia artificial, con el objetivo de garantizar condiciones adecuadas de seguridad y protección.
No pedimos que todos los demás hicieran esto antes de que nosotros lo hiciéramos”, manifestó Zuckerberg.
El comentario refleja su postura de que las compañías pueden adoptar medidas de seguridad de manera individual sin necesidad de esperar un acuerdo general de la industria.
¿Qué preocupa a los expertos sobre la IA avanzada?
Uno de los puntos centrales de la discusión es la posibilidad de que los sistemas de inteligencia artificial lleguen a desarrollar capacidades que permitan mejorar de manera autónoma sus propios modelos, proceso conocido como automejora recursiva.
Ante este escenario, Zuckerberg planteó que las empresas deberían concentrar sus recursos principalmente en desarrollar modelos seguros y en aplicaciones destinadas a servir a las personas.
Destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de correr hacia la automejora recursiva, es una de las mejores maneras de garantizar que desarrollemos esta tecnología de forma segura”, agregó.
Las declaraciones se producen en medio de un debate cada vez más amplio dentro de la industria tecnológica sobre cómo equilibrar el avance de la inteligencia artificial con las medidas necesarias para reducir sus posibles riesgos.
Fuente: Tribuna del Yaqui