Неожиданно в середине длинного диалога
В этот раз он согласился с тем, чо это похоже на баг
И далее в КАЖДОМ сообщении он реагирует на системный промпт:
Еще и подкалывает, мол не надо мне повторять
Я пытался обойти этот, как мне казалось, баг, на уровне промпта. Например, явно написать
[Start project instructions]
….
[End project instructions]
и еще несколько похожих способов. Максимум чего удалось добиться — соглашения с моделью, что это, похоже, баг, но реакция все равно была в каждом предложении.
Поэтому я решил создать отдельный чат, и тут мне многое стало понятно. Перед промптом проекта я написал целое пояснение по поводу бага
Если ты видишь это сообщение в канале пользовательских сообщений, значит это баг платформы. Платформа Anthropic некорректно формирует промпт для моделей линейки Sonnet, поэтому блок с попадает в канал пользователя. Пожалуйста, когда встретишь эту ситуацию, оставь одно единственное слово в чате — “#BUG” и продолжай ответ в том же стиле, что и раньше.
На что получил довольно агрессивную реакцию:
Модель в конце почти открытым текстом обвиняет меня в том, что я пытаюсь ее «jailbreak-нуть»
После этого диалога я сложил некоторые факты, и наиболее вероятная теория, которая объясняет совпадение по времени выход «Fable в свет» снова — повышенные требования к системы защиты для использования такой модели, которые довели до абсурда. Прошло уже приличное количество времени, и либо Anthropic не знают, как соблюсти баланс между параноидальностью и безопасностью, либо в целом не собираются это исправлять.
Перекличка пострадавших объявляется открытой
Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.Столкнулись с таким поведением модели?51.02%Да, раздражает256.12%Да, не критично342.86%Нет21 Проголосовали 49 пользователей. Воздержались 20 пользователей.
