От OpenAI съобщиха, че „са започнали да обучават новия си модел“, който според тях ще доведе до „системи със следващо ниво на способности“. Компанията не разкрива нито името му, нито датата на неговото пускане.
Едновременно с това OpenAI обяви, че създава нов „Комитет за безопасност и сигурност“, който „ще отговаря за изготвянето на препоръки относно критични решения по отношение на безопасността и сигурността на всички проекти на компанията“. Той ще бъде ръководен от Сам Алтман, Брет Тейлър, Адам Д’Анджело и Никол Селигман, а първата му задача ще бъде „да оцени и усъвършенства процесите и механизмите за защита в рамките на следващите 90 дни“. След изтичането им, комитетът ще предостави своите препоръки с борда на директорите, а те от своя страна ще „споделят публично актуална информация за приетите директиви в съответствие със стандартите за безопасност и сигурност“.
OpenAI Board forms Safety and Security Committee, responsible for making recommendations on critical safety and security decisions for all OpenAI projects. https://t.co/tsTybFIl7o
— OpenAI (@OpenAI) May 28, 2024
Новината за създаването на този комитет идва в момент, когато организацията е разтърсена от серия оставки и сериозни съмнения относно безопасността на AI системите. Тези опасения излязоха на преден план, след като миналата седмица изследователят Ян Лейке подаде оставка и разкритикува компанията, че е позволила безопасността да „отстъпи място на лъскавите продукти“.
Наред с това, съоснователят и главен учен на OpenAI, д-р Иля Суцкевер, също подаде оставка, а компанията разпусна екипа „Superalignment“, който бе натоварен със задачата да разработва системи и процеси за управление на свръхинтелигентни AI системи.
От ръководството на OpenAI заявиха, че макар и да са горди, че „създават и пускат модели, които са водещи в индустрията както по отношение на възможностите, така и на тяхната безопасност“, те приветстват „активния дебат в този ключов момент“, а именно напредъка към AGI (изкуствен общ интелект).
Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!