OpenAI сформировала Комитет по охране и безопасности, который будет возглавлять генеральный директор Сэм Альтман, поскольку компания начинает обучение своей следующей модели искусственного интеллекта, сообщила на этой неделе стартап-компания. Директора Брет Тейлор, Адам Д’Анджело и Николь Селигман также будут руководить комитетом, сообщила OpenAI в своем блоге.
Изменения в команде Superalignment
Бывший главный ученый Илья Суцкевер и Ян Лейке, которые были лидерами команды Superalignment, поддерживаемой Microsoft (MSFT.O), покинули компанию ранее в этом месяце. Команда Superalignment обеспечивала соответствие ИИ заявленным целям, но была расформирована в мае, менее чем через год после ее создания. Некоторые члены команды были перераспределены в другие группы, как сообщило CNBC через несколько дней после громких уходов.
Комитет будет отвечать за предоставление рекомендаций совету директоров по вопросам безопасности и охраны проектов и операций OpenAI. Его первой задачей будет оценка и дальнейшее развитие существующих практик безопасности OpenAI в течение следующих 90 дней, после чего он поделится рекомендациями с советом директоров. После рассмотрения рекомендаций советом директоров OpenAI публично поделится обновлением о принятых рекомендациях.
Другими членами комитета станут технические и политические эксперты компании Александр Мадри, Лилиан Венг и глава наук о выравнивании Джон Шульман. Недавно назначенный главный ученый Якуб Пахоцки и глава службы безопасности Мэтт Найт также войдут в состав комитета.
