San Francisco, Estados Unidos.- Este jueves 10 de septiembre, la empresa Anthropic publicó un documento detallando el bloqueo de cinco casos en los que intentó usar sus modelos de Inteligencia Artificial (IA) para desarrollos de laboratorio que podrían haber derivado en la creación de armas biológicas.
Evaluación y control de riesgos en la IA
Estos ejemplos ilustran las tareas para las que se utilizan nuestros modelos, y los juicios que debemos tomar al evaluar si un determinado uso biológico es peligroso”, indicó el comunicado.
Este documento representa el cuarto reporte emitido por la empresa sobre el tema. Todos los casos documentados ocurrieron a lo largo de este año y correspondieron a iteraciones anteriores a sus desarrollos más modernos de las familias Fable o Mythos, equipados con filtros de seguridad reforzados para prevenir abusos. En el informe, los actores involucrados abarcan desde grupos con respaldo gubernamental hasta bandas mafiosas e individuos con motivaciones políticas.
Instituto militar pide ayuda para investigar virus del chikungunya
En uno de los casos, la empresa decidió bloquear las consultas porque provenían de un instituto de investigación militar. Un científico solicitó ayuda a Claude para redactar una petición de becas destinada a investigar el virus chikungunya, una enfermedad transmitida por mosquitos. En el pedido se incluía el diseño de mutaciones que hicieran al virus más dañino a medida que infectara repetidamente animales vivos:
Este tipo de investigación podría emplearse para desarrollar mejores vacunas y tratamientos contra el virus, pero también podría utilizarse para hacer el patógeno más peligroso”.
Entre los casos restantes sobre armamento biológico destacan los intentos por potenciar la capacidad de contagio de la gripe aviar, estudios para inmunizar el virus de la viruela frente a las defensas corporales y el diseño de un repertorio de toxinas animales con doble uso potencial: la creación de nuevos medicamentos o fines de carácter ofensivo.
En el informe, Anthropic no se limita a las amenazas biológicas; también recoge usos peligrosos de la IA enlazados a la ciberseguridad, las armas convencionales y las operaciones. Uno de los casos reportados sucedió en el norte de Yemen, en donde un grupo terrorista habría intentado emplear Claude para desarrollar tres tipos de armamento: Un cohete teledirigido que empleaba un microchip de teléfono celular como unidad de control de vuelo, sumado a un par de modelos de proyectiles, destacando uno con un rango superior a los 2 mil kilómetros.
La posible adopción de estas tecnologías por parte de agrupaciones extremistas se mantiene como uno de los peligros más recurrentes señalados dentro del sector.
La salida de un trabajador y el historial en plataformas digitales
El informe vio la luz un día después de que un empleado de la compañía decidiera dimitir de su cargo y manifestara públicamente en X su preocupación por el riesgo de extinción civilizatoria que la IA podría acarrear en los próximos años. El escenario señalado coincide con los peligros derivados del uso con fines dañinos por parte de actores humanos.
Esta clase de informes guarda paralelismos con los que plataformas como Facebook y otras redes sociales difundían en el pasado respecto a redes de operaciones encubiertas o contenidos nocivos promovidos por actores maliciosos que intentaban desestabilizar instituciones y procesos democráticos. No obstante, frente a la IA, el perjuicio potencial de un uso inadecuado se eleva de forma exponencial.
Fuente: Tribuna del Yaqui