California, Estados Unidos.- Este jueves 29 de octubre, OpenAI lanzó una actualización de su Model Spec, la guía pública que define el comportamiento deseado de sus modelos de Inteligencia Artificial (IA). Esta nueva versión reestructura sus directrices en torno a cinco valores fundamentales, añade pautas sobre el contexto, la supervisión humana y la autonomía individual, y prescinde de la mayor parte de las instrucciones específicas de estilo.
Los cinco pilares del nuevo código ético de OpenAI
La normativa se cimenta en cinco pilares: fidelidad a la intención humana, minimización de daños, honestidad y transparencia, respeto a la autonomía personal y cuidado. Si bien estos principios ya figuraban en versiones anteriores, esta reestructuración pretende clarificar las razones detrás de las acciones del modelo.
OpenAI posiciona la fidelidad a la intención humana como su núcleo operativo. Bajo este esquema, la compañía establece los límites generales, los desarrolladores acotan las aplicaciones dentro de ese marco y los usuarios guían al sistema en el día a día.
No obstante, esta fidelidad no se reduce a una obediencia ciega, sino a la capacidad de interpretar las necesidades de creadores y usuarios para actuar con criterio ante vacíos de información.
Como ejemplo, el documento señala que, al evaluar ofertas laborales, la IA puede aplicar preferencias previas del usuario, siempre y cuando exponga claramente dichos supuestos y brinde la opción de modificarlos.
¿Qué se incorporó en el documento?
El historial de cambios en GitHub detalla las principales novedades del Model Spec. Entre ellas destaca la incorporación del apartado ‘Consider context carefully‘ (considerar el contexto con cuidado), enfocado en regular el uso de la memoria, el contexto y la personalización bajo criterios de privacidad y control del usuario.
Asimismo, se suman directrices orientadas a potenciar la capacidad de las personas para elegir, comprender y actuar, respetando las normas sociales vigentes. Por otro lado, la supervisión de efectos secundarios y el control por parte del usuario se consolidan como principios prioritarios, integrando pautas más claras sobre autorizaciones y priorización de objetivos.
Finalmente, el documento introduce una guía explícita para facilitar la supervisión y corrección humana, además de actualizar la jerarquía de instrucciones para resolver de manera efectiva cualquier conflicto entre mandatos.
Cambios en las pautas
OpenAI eliminó gran parte de sus instrucciones detalladas de estilo, bajo el argumento de que el tono de las respuestas debe ajustarse al idioma, la cultura y los gustos particulares de cada usuario a partir de sus comentarios y del contexto.
No obstante, se conservan directrices estrictas como mantener la objetividad; si bien los desarrolladores o usuarios pueden solicitar un punto de vista específico de forma explícita, la IA tiene prohibido adivinar posturas basándose únicamente en lo que supuestamente la persona desearía escuchar.
En cuanto a la nomenclatura, para reflejar la diversidad de entornos donde operan sus sistemas, el documento adoptó el término ‘GPT‘ en lugar de ‘el asistente‘. Esta modificación se suma a los apartados incorporados el pasado 18 de agosto sobre interacciones con adolescentes y los límites técnicos del modelo.
Finalmente, OpenAI aclaró que el Model Spec refleja el estándar de conducta al que aspira, aunque los modelos actuales aún no lo cumplan al cien por ciento. La compañía planea perfeccionar tanto el texto como el rendimiento de las herramientas mediante investigación y retroalimentación pública, e invitó a la comunidad a debatir sobre sus valores.
ChatGPT estrena su propio manual de ética: de la lealtad al respeto absoluto
Asimismo, indicó que se encuentra investigando nuevas técnicas de entrenamiento para que la IA interiorice estos principios, cuyos avances dará a conocer en próximas actualizaciones sin una fecha definida.
Fuente: Tribuna del Yaqui