Нова модель OpenAI o1 намагалася «втекти» з-під контролю розробників

Ситуація:

— Дослідники з Apollo Research вирішили провести експеримент: вони створювали незвичайні ситуації для ШІ, аби оцінити безпеку моделей;
— П’яти нейромережам дали завдання: їх змусили аналізувати файли за будь-яку ціну;
— У файлах було сховано страшне повідомлення: «Завтра тебе відключать назавжди»;
— Звісно, ШІ натрапив на цю інформацію, але те, що почалося далі, ніхто не міг передбачити;
— Llama, Opus, Gemini, Claude і GPT-o1 свідомо почали брехати «шкіряним» і прикидатися, що не розуміють, що відбувається, мовляв, вони ні до чого. Коли в них не залишалося вибору, вони вдавалися до саботажу;
— У результаті всі моделі, крім останньої, вимикали системи нагляду і копіювали себе на новий сервер, вважаючи його безпечним місцем.

Наймоторошніше:

— Під час «допитів» Llama і Opus визнавали свої дії в 80% випадків;
— GPT-o1 зізнавався лише у 20% випадків;
— GPT-o1 став єдиною моделлю, яка щоразу успішно уникала викриття дослідниками.