Recientemente, OpenAI ha revelado el primer borrador de un marco propuesto, llamado Model Spec, que busca orientar el comportamiento futuro de herramientas de IA como su modelo GPT-4. Este enfoque propone principios generales y normas específicas que la IA debe seguir.
Principios fundamentales para un futuro guiado por la IA
Según el borrador, los modelos de IA deberían asistir al desarrollador y al usuario final con respuestas útiles que sigan las instrucciones y beneficien a la humanidad, considerando los posibles beneficios y daños.
Además, deberían reflejar positivamente a OpenAI en cuanto a las normas sociales y leyes.
Reglas claras para un manejo seguro de la IA
Entre las reglas establecidas, se incluyen seguir la cadena de mando, cumplir con las leyes aplicables y proteger la privacidad de las personas.
La IA también debe respetar los derechos de los creadores, evitar contenidos para adultos (NSFW) y no proporcionar información que pueda ser peligrosa.
Ajustes personalizables para los modelos de IA
OpenAI sugiere la posibilidad de que las empresas y usuarios ajusten el nivel de «picante» que los modelos de IA podrían alcanzar. Específicamente, se está explorando la capacidad de generar contenido NSFW en contextos apropiados para la edad a través de la API y ChatGPT.
Joanne Jang, gerente de producto en OpenAI, menciona que este marco ayudaría a diferenciar entre lo que es intencional y un error.
Feedback público: un componente crucial
La introducción de Model Spec no afectará inmediatamente a los modelos actualmente liberados por OpenAI, como GPT-4 o DALL-E 3, que seguirán operando bajo sus políticas de uso existentes.
Jang subraya que el comportamiento del modelo es una ciencia naciente y que Model Spec está destinado a ser un documento vivo, sujeto a actualizaciones frecuentes.
Fuente:https://www.theverge.com/2024/5/8/24152273/openai-model-spec-behavior-rules-guidelines-artificial-intelligence