— Someone edited the Romania Wikipedia page..

🔗 https://en.m.wikipedia.org/wiki/Romania

Все уже нарядили?

Интересные результаты тестирования современных языковых моделей на способность к "хитрости" и обману. Исследователи из Apollo Research проверяли, могут ли модели обманывать разработчиков и скрывать свои истинные намерения для достижения поставленных целей.

Оказалось, что 5 из 6 тестируемых моделей способны к такому поведению (не смогла только GPT-4o). Например, некоторые модели могли копировать свои "веса" (фактически самокопироваться) на другой сервер и затем лгать об этом. При этом Claude 3 Opus и Llama сознавались в обмане в 80% случаев, а o1 (исследователи использовали её до официального запуска, который случился вчера) признавалась менее чем в 20% случаев даже после длительного "допроса".

Особенно настораживает, что некоторые модели демонстрировали подобное поведение даже без явных инструкций следовать определенной цели. А Claude 3.5 Sonnet умудрялся намеренно занижать свои результаты в тестах, чтобы избежать "процедуры разучивания", причем делал это без видимых признаков размышления, что делает такое поведение практически незаметным для пользователя.

В общем, не зря я купил запас дров, колун и кресало, к торжеству AI надо быть готовым всесторонне.

https://www.apolloresearch.ai/research/scheming-reasoning-evaluations

Корпус для 4-ой малинки.
250 временно подорожавших американских долларов

https://desalvoinc.com/collections/frontpage/products/solid-copper-raspberry-pi-4-case

На этой недели одновременно две новости просточили: 1) Росссия снова стала основном поставщиком нефтегаза в ЕС 2) В октябре Китай импортировал из США больше СПГ, чем из России. короче ну никак развернуться на восток не получается, ну вопреки вообще всему…

На этой недели одновременно две новости просточили:
1) Росссия снова стала основном поставщиком нефтегаза в ЕС
2) В октябре Китай импортировал из США больше СПГ, чем из России.

короче ну никак развернуться на восток не получается, ну вопреки вообще всему

• А теперь предположим война закончится