OpenAI crea manual de ética para ChatGPT como si fuera un humano
OpenAI presenta estos principios como la base para orientar las respuestas de ChatGPT. Pero no significa que la IA tenga conciencia.
OpenAI estrenó un manual de ética para ChatGPT. La compañía ha publicado un documento de valores, en el que establece cómo debe comportarse su inteligencia artificial y qué principios deben guiar sus respuestas.
La nueva guía recoge cinco valores: fidelidad a las personas, reducción del daño, honestidad, respeto y cuidado. Sin embargo, hay un detalle que llama la atención: la propia empresa reconoce que ChatGPT todavía no cumple plenamente con lo que recoge este manual.
OpenAI presenta estos principios como la base para orientar las respuestas de ChatGPT. Pero no significa que la IA tenga conciencia, sentimientos o una moral propia.
Los valores no nacen de la máquina, sino que los establece OpenAI para determinar cómo debe responder, qué límites respetar y cómo actuar ante determinadas situaciones.
También te puede interesar
Piden a OpenAI restringir ChatGPT a adolescentes tras fallas en la seguridad
Aquí aparece una de las cuestiones más controvertidas del documento. La empresa habla de fidelidad a la intención humana, pero deja claro que eso no significa obedecer todas las órdenes de los usuarios.
La empresa establece primero las reglas y los límites, después los desarrolladores pueden dirigir sus aplicaciones y, finalmente, los usuarios interactúan con ChatGPT dentro de esas condiciones. Por tanto, la voluntad del usuario no siempre está por encima de las instrucciones de la compañía.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
También hay una diferencia entre prometer honestidad y garantizar que ChatGPT siempre diga la verdad. Los modelos pueden equivocarse, ofrecer datos incorrectos o interpretar mal una pregunta.
ChatGPT no cumple los valores que OpenAI quiere imponerle
La propia OpenAI admite que todavía trabaja para acercar el comportamiento real de sus productos al que describe en el texto. Es decir, tener un manual no significa que la IA vaya a cumplir automáticamente todas sus directrices.
Pero hay otra cuestión importante: OpenAI es la que establece las normas que debe seguir ChatGPT. La empresa decide qué comportamientos considera aceptables y cuáles debe evitar la IA. Por tanto, no se trata de una ética propia de la máquina, sino de unos principios definidos por quienes la desarrollan.
Todo esto abre el debate sobre quién controla el comportamiento de estas herramientas y qué ocurre cuando las reglas de la compañía entran en conflicto con lo que pide una persona.
Además, OpenAI ha retirado buena parte de las antiguas instrucciones sobre el estilo de las respuestas. Ahora pretende que ChatGPT se adapte más al idioma, la cultura y las preferencias de cada usuario.
También incorpora nuevas pautas sobre privacidad, memoria, supervisión humana y capacidad de decisión.
¿Qué te pareció?
Vía: Infobae
