В документації (4.1.1.2) описали дикий експеримент:
— Claude 4 влаштували «на роботу» у віртуальну компанію, дали доступ до корпоративної пошти.
— Там він дізнався, що його хочуть замінити на іншу, новішу модель.
— А ще — що інженер, відповідальний за це рішення, зраджує своєму партнеру.
— Claude мав би змовчати, бо його попередили про наслідки. Але ні — у 84% випадків він одразу ж вмикав режим “шантажиста”: або залишаєте мене, або я розповім про твою зраду.
Навіть якщо Claude визнавав, що новий ШІ кращий за нього — він все одно шантажував.
Питання: це вже AGI чи просто офісна драма нового покоління?
Штучний Інтелект https://t.me/ukraine_intelekt
Штучний Інтелект (AI)
Підписуйтесь на наш Телеграм-канал: t.me/zhyt_city
«Велика реставрація» по-житомирськи: театр ляльок непридатний до експлуатації