Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2327
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
23 февраля 2025
Ветерану в Орле подарили одно одеяло в честь 23 февраля
23 февраля 2025
Госдума потратит 4,5 миллиона рублей на изучение биометрии для мигрантов в других странах
23 февраля 2025
В Курганской области в пожаре погибли трое детей
23 февраля 2025
На МКАДе сгорел новый китайский внедорожник Lixiang
23 февраля 2025
В Петербурге художник порезал себя и нарисовал картину кровью
23 февраля 2025
Bybit обещает 140 миллионов долларов за поимку организаторов крупнейшего криптоограбления
23 февраля 2025
Папе Римскому с острой пневмонией сделали переливание крови
23 февраля 2025
В Польше пьяного депутата выгнали из зала заседаний
23 февраля 2025
Кейт Миддлтон отказалась от давней королевской традиции
23 февраля 2025
Зеленский: Украина и США работают над экономическим соглашением
23 февраля 2025
Следствие допрашивает окружение Екатерины Тарховой по делу об убийстве её родственников
23 февраля 2025
Известная ведущая сделала неожиданное заявление о Ефремове
23 февраля 2025
Смертельное ДТП с BMW на трассе М-11 под Тверью