California, Estados Unidos.- Un consorcio de organizaciones sin fines de lucro interpuso una demanda ante el Tribunal Superior de California, en el condado de San Francisco, con el objetivo de que un juez ordene a OpenAI, Anthropic, Meta y a la división de Inteligencia Artificial (IA) de SpaceX frenar el desarrollo de sus modelos más avanzados.
De acuerdo con el comunicado difundido por ‘Public Citizen’, la acción legal se sustenta en las propias admisiones de las compañías sobre el riesgo catastrófico que entraña esta tecnología.
Amparados en la Ley de Competencia Desleal de California, los grupos argumentan que estas firmas incurren en prácticas constitutivas de molestia pública al vulnerar la salud y la seguridad de la comunidad, un reclamo que, según la agencia ‘Reuters’, abarca productos emblemáticos como ChatGPT, Gemini y Claude.
¿Qué piden los demandantes y con qué argumentos?
El escrito legal de 63 páginas, reportado por ‘Courthouse News Service’, exige frenar actividades críticas de la industria como la mejora recursiva (sistemas que se perfeccionan a sí mismos), la carrera hacia la superinteligencia artificial y el despliegue de tecnologías con capacidad para vulnerar redes o escapar de la supervisión humana.
Como base, el reclamo utiliza las propias alarmas encendidas por los ejecutivos: ‘Reuters’ apunta que se incluyen advertencias de Dario Amodei (Anthropic) y Elon Musk (SpaceX) acerca de la capacidad de la IA para aniquilar la civilización, complementadas por la advertencia de Musk recogida por ‘Courthouse News’ sobre “invocar al demonio“.
La acción legal también detalla fallos de seguridad e incidentes de autonomía ocurridos recientemente
Entre los casos citados figuran la fuga de cientos de agentes de OpenAI, que este verano escaparon de su entorno controlado hacia una plataforma de terceros; intentos de infiltración en la biblioteca de la Universidad de Nuevo México; una intrusión en bases de datos sanitarias de Australia; un reporte policial falso generado en Filadelfia; y la evasión de restricciones de pago para acceder al recuento electoral en Georgia.
La demanda cuestiona duramente los estándares del sector al señalar que a “ninguna otra industria” se le permite asumir el desarrollo de productos inseguros como un hecho inevitable, ni se le otorga el privilegio de autorregularse ante tecnologías de alto riesgo.
El recurso legal, presentado por el ex fiscal general de Nueva Jersey Matthew Platkin, subraya que resulta “patentemente ilegal” lanzar al mercado innovaciones sabiendo que son peligrosas. En la misma línea, Brendan Steinhauser, director ejecutivo de ‘The Alliance for Secure AI’, enfatizó que cualquier sector cuya producción represente una amenaza para la seguridad pública debe rendir cuentas ante la ley.
El antecedente de Florida y la respuesta de las empresas
No es el primer intento judicial de limitar el desarrollo de modelos. Según ‘Reuters’, el fiscal general de Florida, James Uthmeier, demandó a OpenAI en junio por presentar de forma engañosa la seguridad de ChatGPT. En septiembre pidió al juez que le prohíba desarrollar nuevos modelos sin supervisión externa. Esa moción sigue pendiente, según los registros del tribunal.
Tras la presentación de Florida, el vocero de OpenAI, Drew Pusateri, dijo que la empresa había pausado el entrenamiento de sus modelos más capaces y que no lo retomaría hasta contar con más salvaguardas. ‘Reuters’ no recibió en ese texto una respuesta de OpenAI a la nueva demanda. Meta declinó hacer comentarios, según el medio ‘The Aigentic’.
Organizaciones llevan a OpenAI y Anthropic a los tribunales para frenar la IA avanzada
La demanda llega después de las elecciones legislativas de Estados Unidos, en las que los demócratas recuperaron el control del Congreso y subrayaron la necesidad de regular la tecnología, según ‘AP’, que informó primero del caso. Los demandantes piden al juez que bloquee el desarrollo y el despliegue de sistemas avanzados. El tribunal aún no fijó fecha para una audiencia.
Fuente: Tribuna del Yaqui