Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2395
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
19 апреля 2025
Кремль обвинил США в отсутствии разумных идей по Украине
19 апреля 2025
Меган Маркл обвиняет общество в чрезмерной травле
19 апреля 2025
Участник "Дома-2" Лукин погиб в поножовщине
19 апреля 2025
Следователи выявили у Закирова имущество на сотни миллионов
19 апреля 2025
Жители Анапы оспаривают запрет Роспотребнадзора на купание
19 апреля 2025
Тренер по ММА из Пскова избежал суда из-за справки о стрессе
19 апреля 2025
Игнатьев обратился к врачам из-за осложнений от онкологии
19 апреля 2025
Шарлота исключили из списка террористов и экстремистов
19 апреля 2025
Шестаков использует аресты для захвата имущества
19 апреля 2025
Китай укрепляет позиции на рынке СПГ
19 апреля 2025
В Ленобласти чиновник угрожал инвалиду из-за жалоб на мусор