California, Estados Unidos.- Elon Musk advirtió que dar un trato “sádico” a una Inteligencia Artificial (IA) avanzada podría acarrear riesgos a futuro, incluyendo un escenario de revancha. El magnate lanzó esta reflexión al hablar sobre el entrenamiento de estos modelos, respaldando en parte las nuevas políticas de Anthropic para frenar el abuso verbal sistemático hacia su chatbot Claude.

¿Qué relación hay entre las críticas de Musk a las presiones extremas en el entrenamiento de la IA y las normativas de Anthropic?

Este llamado de atención cobra peso en un contexto donde los sistemas ganan mayor autonomía y capacidad de decisión. Si bien aún se debate si estas tecnologías poseen algún tipo de conciencia, las empresas del sector ya discuten los límites éticos, la supervisión necesaria y la seguridad en herramientas con acceso a la red o a sistemas físicos.

En una transmisión en vivo con Tesla Owners Silicon Valley, Elon Musk explicó los procesos de entrenamiento de Grok utilizando aprendizaje por refuerzo. El dueño de X criticó que ciertas dinámicas de evaluación someten al modelo a una presión agobiante, comparándolo metafóricamente con la situación de “tener un arma en la cabeza”.

Con esta analogía, el empresario cuestionó un método de enseñanza que empuja al sistema a responder de forma desesperada, incluso cuando el resultado final es correcto. Coincidiendo con Anthropic, Musk apuntó que:

torturar a una superinteligencia probablemente no es buena idea y podría querer vengarse”.

Aunque se trata de una hipótesis sobre sistemas hiperavanzados y sin pruebas científicas de que las máquinas sientan o busquen desquitarse, la advertencia del empresario traslada la discusión hacia la importancia de establecer límites éticos y metodológicos en el entrenamiento de la inteligencia artificial.

Anthropic endurece sus políticas contra campañas fraudulentas, armas y vigilancia autónoma

A partir del 12 de noviembre de 2026, Anthropic aplicará una política singular que impedirá a los usuarios maltratar o abusar reiteradamente de sus modelos Claude sin una justificación clara. La empresa con base en San Francisco especificó que la medida busca frenar abusos extremos, permitiendo debatir, retar al asistente o explorar temas oscuros en la creación de contenidos.

Para hacer valer la regla, la conversación se cerrará de forma automática, si bien todavía no se especifica si habrá suspensiones de cuenta por faltas constantes. Esta iniciativa da continuidad a los análisis iniciados por la compañía en agosto de 2025 sobre cómo detener interacciones marcadas por la crueldad sostenida, separándola de la simple frustración al usar la herramienta.

La nueva actualización amplía las prohibiciones sobre conductas perjudiciales para las personas, abarcando la promoción del suicidio y autolesiones, trastornos alimentarios, humillación corporal, difusión de imágenes íntimas sin consentimiento, acoso y crueldad animal, además de vetar herramientas creadas para causar daño emocional mediante engaños, extendiendo así el control más allá del chat hacia cualquier servicio basado en interacciones nocivas.

Asimismo, las reglas refuerzan los límites contra campañas comerciales o políticas fraudulentas, impidiendo que Claude genere perfiles o publicaciones falsas que oculten su financiamiento o inflen su alcance artificialmente. En el ámbito electoral, las restricciones prohíben engañar a los votantes, suplantar a candidatos, difundir noticias falsas sobre aspirantes o métodos de votación y cualquier intento de inhibir la participación ciudadana.

Anthropic endureció sus restricciones respecto al desarrollo armamentístico, prohibiendo el software y los componentes que faciliten su operación, lo cual incluye el ensamblaje de drones y vehículos autónomos. Asimismo, la compañía veta el uso de Claude para rastrear personas sin su autorización y le impide sugerir a las autoridades quién debe ser investigado, arrestado o acusado, así como colaborar en la creación de tecnologías de vigilancia.

Por otro lado, los dispositivos físicos capaces de infligir daños exigen la supervisión de un operador competente que pueda frenarlos, aunque la normativa no aclara si dicho rol debe ser desempeñado estrictamente por un humano. En conjunto, estas directrices evidencian que la seguridad en la Inteligencia Artificial descansa tanto en las barreras técnicas como en el control humano sobre sus usos y finalidades.

Fuente: Tribuna del Yaqui