OpenAI ha formado un Comité de Seguridad que será liderado por el CEO Sam Altman mientras comienza a entrenar su próximo modelo de inteligencia artificial, anunció la startup de IA esta semana. Los directores Bret Taylor, Adam D’Angelo y Nicole Seligman también liderarán el comité, según informó OpenAI en su blog corporativo.
Reestructuración y Nuevos Líderes
El ex Científico Jefe Ilya Sutskever y Jan Leike, quienes fueron líderes del equipo de Superalineación respaldado por Microsoft (MSFT.O) en OpenAI, dejaron la empresa a principios de este mes. OpenAI había disuelto el equipo de Superalineación a principios de mayo, menos de un año después de que la compañía lo creara, con algunos miembros del equipo siendo reasignados a otros grupos, informó CNBC días después de estas salidas de alto perfil.
El comité será responsable de hacer recomendaciones a la junta sobre decisiones de seguridad para los proyectos y operaciones de OpenAI. Su primera tarea será evaluar y desarrollar aún más las prácticas de seguridad existentes de OpenAI durante los próximos 90 días, tras lo cual compartirá recomendaciones con la junta.
Después de la revisión de la junta, OpenAI compartirá públicamente una actualización sobre las recomendaciones adoptadas, dijo la compañía.
Otros miembros del comité incluyen a los expertos técnicos y en políticas de la compañía Aleksander Madry, Lilian Weng y el jefe de ciencias de alineación John Schulman. El recién nombrado Científico Jefe Jakub Pachocki y el jefe de seguridad Matt Knight también formarán parte del comité.
