OpenAI ha dado un gran paso adelante al anunciar el inicio del entrenamiento de su nuevo modelo insignia y la implementación de nuevas medidas de seguridad. Según la fuente, la Junta Directiva de OpenAI ha formado un nuevo Comité de Seguridad, liderado por directores como Bret Taylor, Adam D’Angelo, Nicole Seligman y el CEO Sam Altman.
OpenAI comienza el entrenamiento de su próximo modelo revolucionario
En los próximos 90 días, el comité desarrollará recomendaciones sobre decisiones críticas de seguridad para todos los proyectos de OpenAI. La empresa ha informado que ha comenzado recientemente el entrenamiento de su próximo modelo, el cual se espera que lleve las capacidades al siguiente nivel en el camino hacia la inteligencia artificial general (AGI).
Una vez completadas las discusiones, OpenAI planea hacer públicas las recomendaciones del comité, en la medida que lo permitan los requisitos de seguridad. Este comité incluye expertos de OpenAI de las comunidades tecnológica y de políticas, como el ex Comisionado de Ciberseguridad Rob Joyce, y otros expertos externos en seguridad.
Respuesta a las críticas recientes
La formación de esta nueva unidad de seguridad y protección parece ser una respuesta a las críticas recibidas en las últimas dos semanas. Según la fuente, muchos investigadores de seguridad de AGI han criticado a OpenAI por supuestas prácticas de seguridad descuidadas. OpenAI ha disuelto el equipo responsable del desarrollo de la alineación de Super IA e integrado las medidas en los equipos de seguridad existentes.
Se rumorea que OpenAI podría lanzar un paso intermedio como GPT-4.5 este verano. Se espera que GPT-5 esté listo para finales de año. En la conferencia de desarrolladores Build de Microsoft, el CTO Kevin Scott mostró una diapositiva con un modelo de OpenAI que se lanzará en 2024, sugiriendo un gran salto en comparación con GPT-4.
GPT-5 y más allá
Un investigador de OpenAI mostró un gráfico similar en el festival tecnológico Viva Technology en París. Aquí, el modelo que se lanzará en 2024 se denominó «GPT-Next» y también se situó muy por encima de GPT-4 en términos de capacidades.
El término «recientemente» es bastante flexible, por lo que el nuevo modelo insignia podría incluso ser el sucesor de GPT-5. La fase de entrenamiento probablemente llevará varios meses, seguida de pruebas funcionales y de seguridad, que también podrían tomar meses. Un inicio «reciente» del entrenamiento apoya la idea de que es el sucesor de GPT-5.
Resumen de la situación
OpenAI ha establecido un Comité de Seguridad bajo la dirección de Bret Taylor, Adam D’Angelo, Nicole Seligman y el CEO Sam Altman. Este comité se encargará de recomendar a la Junta Directiva decisiones críticas de seguridad para los proyectos y operaciones de OpenAI.
Además, OpenAI está entrenando su próximo modelo revolucionario para llevar sus capacidades al «siguiente nivel en el camino hacia la AGI». El nuevo comité evaluará y perfeccionará los procesos y salvaguardas de OpenAI durante los próximos 90 días, y luego hará recomendaciones a la junta completa. Tras la revisión de la Junta, OpenAI publicará una actualización sobre las recomendaciones adoptadas en la medida que sea coherente con la seguridad.
En resumen, este desarrollo muestra el compromiso de OpenAI con la seguridad y la transparencia mientras continúa avanzando en el desarrollo de inteligencia artificial avanzada. Las próximas semanas serán cruciales para determinar cómo estas nuevas medidas impactarán en la evolución de los proyectos de OpenAI y su integración en el panorama de la IA.
Fuente: https://the-decoder.com/openai-begins-training-of-new-flagship-model/