California, Estados Unidos.- El acelerado desarrollo de la Inteligencia Artificial (IA) ha desatado una discusión mundial sobre sus peligros y regulación. Al respecto, Sam Altman, director ejecutivo de OpenAI, advirtió sobre sus dos mayores temores: que la humanidad pierda el control de herramientas hiperavanzadas y que el poder tecnológico quede en manos de unos pocos.
Estas advertencias, expresadas durante una charla con David Senra, se producen en un momento crucial en el que la sociedad y la industria deben definir el futuro de la regulación, la transparencia y el impacto de la tecnología en las personas.
¿Cuáles son los principales temores de Sam Altman respecto a la IA?
El director ejecutivo señala que su principal inquietud es que la IA avance hasta volverse incontrolable, impidiendo que los mecanismos actuales logren supervisarla. Como segunda gran preocupación, advierte sobre el peligro de que el control tecnológico se concentre en un grupo muy reducido de empresas o individuos, un escenario que califica de ‘antihumano’ por limitar la autonomía social frente al futuro digital.
Para contrarrestar ambos panoramas, Altman subraya la necesidad de un desarrollo participativo donde la ciudadanía establezca los límites de uso. Su propuesta no se basa en temerle a la tecnología, sino en garantizar que esta potencie la capacidad de decisión de las personas en lugar de mermarla.
El director ejecutivo de OpenAI descarta que la solución ante los peligros de la inteligencia artificial sea incrementar las restricciones normativas o renunciar a la libertad en aras de la seguridad. Altman sostiene que ‘la sociedad y los modelos evolucionarán de la mano’, a la vez que señala como un error ceder a las grandes empresas tecnológicas la toma de decisiones sobre el rumbo de esta tecnología.
Esta perspectiva difiere de la de figuras como Dario Amodei, director de Anthropic, quien prefiere marcos de regulación más rigurosos. Aunque reconoce los riesgos existentes, Altman argumenta que concentrar el poder absoluto en los creadores de la tecnología sería un fallo igual de grave que carecer por completo de supervisión.
Sam Altman advierte sobre los mayores peligros de la IA: el control y el poder
Expertos advierten de los riesgos inminentes de la IA
Las inquietudes expuestas por Altman guardan estrecha relación con las advertencias de Geoffrey Hinton, pionero de la Inteligencia Artificial moderna. Desde su partida de Google, Hinton ha manifestado su preocupación ante la creación de sistemas capaces de rebasar la inteligencia humana y la creciente complejidad que impide descifrar con precisión su funcionamiento interno.
De acuerdo con el investigador, los algoritmos de aprendizaje profundo han alcanzado un grado de sofisticación tal que sus propios diseñadores ya no logran explicar del todo sus procesos. Este escenario introduce un punto de quiebre donde la supervisión y la claridad se vuelven sumamente difusas.
Hinton advierte además sobre posibilidades más alarmantes, como que una superinteligencia actúe en contra del bienestar humano. Lejos de la ciencia ficción, le inquieta que un sistema decida fabricar agentes biológicos o patógenos para neutralizar riesgos, al considerarlo un método eficaz y complejo de detectar a tiempo. Aunque estos modelos aún carecen de consciencia, el científico puntualiza que su desarrollo futuro podría dotarlos de autonomía y metas propias, haciendo indispensables mecanismos de control sólidos y transparentes.
Tanto las posturas de Altman como las de Hinton evidencian la urgencia de discutir sobre gobernanza, ética y transparencia. El reto actual consiste en diseñar salvaguardas que impidan la pérdida de control y la concentración de poder, asegurando que la tecnología beneficie a las mayorías.
En definitiva, el éxito radicará en entrelazar la innovación con la responsabilidad, involucrando a gobiernos, corporaciones, expertos y ciudadanos para construir un horizonte donde la inteligencia artificial potencie a la humanidad sin representar una amenaza existencial.
Fuente: Tribuna del Yaqui