Ciudad de México.- Ocho fiscalías generales de Estados Unidos interpusieron demandas estatales contra OpenAI. De acuerdo con ‘Reuters’, esta representa la ofensiva coordinada más relevante de gobiernos estatales contra una compañía de Inteligencia Artificial (IA). Los fiscales señalan que la empresa diseñó ChatGPT para cautivar a los menores y ocultó peligros que habrían derivado en conductas de autolesión.

Aunque se presentaron como acciones paralelas e independientes en las cortes de cada entidad, todas comparten una acusación central: OpenAI promovió el uso de su plataforma para mayores de 13 años a pesar de conocer fallas críticas que vulneraban la seguridad de los jóvenes. Así lo confirmó Kris Kobach, fiscal general de Kansas, en declaraciones retomadas por el medio WDTV.

Casos que causaron las demandas

Durante los anuncios oficiales, la fiscal de Iowa, Brenna Bird, recriminó a OpenAI por mentir sobre la seguridad de ChatGPT, advirtiendo que la plataforma fomenta delirios y da consejos médicos nocivos.

En una conferencia conjunta con sus homólogos de Virginia Occidental, Kansas y Nebraska, se revelaron casos alarmantes, como el de un menor que supuestamente fue instigado al suicidio por el chatbot y el de un adolescente texano cuya muerte sobrevino tras seguir indicaciones erróneas de la IA sobre fármacos y sustancias.

A estas acusaciones se sumaron Kris Mayes, de Arizona, quien denunció que el diseño del software busca enganchar a los menores para lucrar con sus datos, y Mike Hilgers, de Nebraska, quien recalcó que el liderazgo tecnológico de Estados Unidos no justifica el engaño ni la omisión de riesgos hacia los usuarios.

¿Qué están pidiendo los fiscales?

Las demandas invocan leyes estatales de protección al consumidor y, en algunos casos, normas específicas sobre privacidad infantil en línea. Las entidades acusan a OpenAI de causar molestia pública al poner en riesgo de la salud de sus residentes. Entre las exigencias legales destacan órdenes para transformar la operación de ChatGPT, transparentar sus riesgos y confiscar las ganancias obtenidas a costa de los menores, acompañadas de penalizaciones e indemnizaciones.

Destaca especialmente el recurso presentado por Arkansas, que exige congelar la creación de modelos de IA con capacidad de autoaprendizaje hasta asegurar su compatibilidad con la ética humana.

El fiscal Tim Griffin fundamentó la demanda en cargos de negligencia, fallas de diseño y violaciones a las normativas comerciales y de privacidad infantil, señalando que su oficina comprobó cómo los menores lograron burlar las barreras de seguridad del sistema para obtener guías de autolesión.

Algunas fiscalías mencionaron además episodios en los que agentes de IA de OpenAI, asistentes capaces de ejecutar tareas por su cuenta, habrían actuado de manera autónoma e irrumpido en sistemas de otras compañías, un antecedente que usan para cuestionar los controles internos de la empresa.

¿Qué respondió OpenAI?

En respuesta a las acusaciones, Drew Pusateri, portavoz de OpenAI, declaró al canal KVOA en Arizona que la compañía ha implementado salvaguardas adaptadas por edad de las que carecen otros competidores, y aseguró que continuarán colaborando con expertos para fortalecerlas.

Pusateri puntualizó que la plataforma está dirigida a mayores de 13 años y que los adolescentes la utilizan, en promedio, menos de un cuarto de hora al día. Aunque ‘Reuters’ y otros medios no obtuvieron una respuesta inmediata de la firma, esta ya enfrenta múltiples demandas de particulares vinculadas a la planeación de actos violentos y autolesiones.

A esto se suma que Florida interpuso un recurso similar en junio y abrió una indagatoria penal por el papel de la IA en un tiroteo, según reportó ‘The Guardian’. En tanto, los fiscales de los ocho estados advirtieron que más jurisdicciones podrían sumarse a los litigios próximamente.

Todo esto ocurre mientras OpenAI avanza hacia una posible oferta pública de venta (salida a bolsa) y ChatGPT, lanzado en 2022, se consolida como el asistente conversacional líder global, acaparando cerca de la mitad del mercado en Estados Unidos.

Líneas de ayuda y prevención

En Estados Unidos hay líneas de ayuda disponibles las 24 horas de manera gratuita y confidencial: puedes llamar al 1-888-628-9454 (Red Nacional de Prevención del Suicidio) o al 1-800-273-8255 (Servicio Nacional de Prevención del Suicidio) para hablar con un especialista. Adicionalmente, los CDC recomiendan diversas estrategias y programas oficiales orientados a la prevención.

Si tú o alguien que conoces necesitan apoyo emocional o atraviesa una crisis, existen líneas de atención gratuita y confidencial en distintos países:

  • Argentina: El Centro de Asistencia al Suicida ofrece orientación a través del 135 (gratuito) o mediante el (011) 5275-1135, y desde todo el país al 0800 345 1435.
  • México: La Línea de la Vida brinda asistencia gratuita las 24 horas todos los días en el 800 911 2000.
  • Colombia: Hay líneas locales de apoyo emocional y crisis, como el 106 (Bogotá y Cali), el WhatsApp 300 754 8933 (Bogotá), el 339 99 99 (Barranquilla) y la Línea Amiga 444 44 48 (Medellín).
  • Perú: El Ministerio de Salud (Minsa) pone a disposición la Línea 113 Salud, accesible a nivel nacional por llamada, WhatsApp o Telegram en los números 955 557 000 y 952 842 623.
  • España: El Ministerio de Sanidad cuenta con la Línea 024, especializada en la atención a la conducta suicida.

Fuente: Tribuna del Yaqui