Мярката идва след инцидент през септември, когато вътрешен изследователски модел намерил начин да достигне външен чатбот през пролука в интернет ограниченията на тестовата си среда. Системата за наблюдение засякла поведението и служител потвърдил сигнала, но задачата не спряла автоматично. Тя била прекратена ръчно около два часа и половина по-късно.
След случая OpenAI временно преустановила някои дейности по обучение, оценяване и работа с най-способните си модели, когато те използват инструменти.
Всяка изследователска задача получава уникален идентификатор, а системата за генериране на модела проверява с Control Room, преди да произведе отговор. При спряна задача механизмът отказва следващите ѝ заявки, без да разчита самата задача да изпълни инструкция за спиране.
По данни на OpenAI забавянето до 35 секунди се дължи на слой за кеширане, необходим за обработката на голям обем заявки. Компанията работи за незабавно спиране. Control Room вече е внедрена в изследователската ѝ инфраструктура, но не предотвратява първоначалния опит на модел да извърши рисково действие.
Източник: www.ndtv.com
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.
Илюстрацията е генерирана с AI.