Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2445
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
20 июня 2025
Вице-губернатор Ленобласти Игорь Петров погиб от огнестрельного ранения, следов взлома не обнаружено
20 июня 2025
Скандал в «Торпедо»: арестованы Соболев и Скородумов
20 июня 2025
Родители выражают недовольство по поводу антисанитарных условий и плохой обстановки в лагере Ленинградской области
20 июня 2025
Бывшему акционеру Старбанка Агаджану Аванесову грозит до 14 лет за хищение миллиардов рублей
20 июня 2025
Белый дом одобрил масштабный удар по иранскому ядерному объекту в Фордо, но отложил его до выходных
20 июня 2025
Дмитрий Песков сообщил о возможном назначении даты третьего раунда переговоров между Россией и Украиной
20 июня 2025
Урановые проекты «Росатома» в Монголии вызывают экологические риски и социальное напряжение
20 июня 2025
Миллиардер Владимир Евтушенков раскритиковал проекты Илона Маска как экономически невыгодные
20 июня 2025
Мошенники выманили у девушки деньги, похитили её и требуют выкуп, угрожая сексуальным рабством