Хамить роботу: Anthropic впервые запретила издеваться над ИИ-моделями
Новые правила Claude вступают в силу 12 ноября 2026 года: грубить модели по-прежнему можно, а вот жестокость без очевидной цели попала под запрет.
Фото сгенерировано ИИКомпания Anthropic обновила правила использования своего ИИ-ассистента Claude. Новая редакция опубликована 8 октября и вступит в силу 12 ноября 2026 года, и один пункт в ней привлёк куда больше внимания, чем все остальные.
Что именно запретили
Впервые введён отдельный запрет на систематическое и жестокое обращение с моделями без очевидной цели. Большинство изменений в документе лишь уточняют уже действовавшие ограничения, а этот пункт стал новым элементом политики компании: по сути Anthropic требует относиться к своему ИИ как к человеку.
Запрет при этом не распространяется на обычное раздражение из-за ошибок ИИ, критические замечания, проверку возможностей модели и творческие сценарии с мрачным содержанием. Спорить с Claude, указывать на его недостатки или тестировать его на сложных задачах не запрещено.
Сама компания описывает границы нового правила так:
Компания подчеркивает, что речь идет об исключительных случаях, когда пользователь неоднократно ведет себя с моделью жестоко без какой-либо очевидной цели.
Механика уже работает
Ничего экзотического в этом нет: механизм, позволяющий Claude самостоятельно завершить диалог при продолжительном оскорбительном поведении, существует с 2025 года — в потребительских интерфейсах и в инструменте Claude Code. Именно он останется основным способом применения нового правила.
В Anthropic объясняют обновление развитием подхода к взаимодействию с моделями и исследованиями возможного благополучия ИИ. Мне эта формулировка кажется честнее, чем разговоры о вежливости ради вежливости: компания не изображает модель одушевлённой, а прямо говорит, что правила меняются вместе с технологией.
Где заканчивается вежливость
Вот здесь начинается самое интересное для меня как для потребителя. Спор идёт не про этикет, а про ответственность: если правила обращения с моделью фиксируются письменно, значит, у обеих сторон появляется понятная рамка, а не набор личных привычек.
Обновление касается и более серьёзных вещей. В чувствительных сферах — здоровье, финансы, трудоустройство, права — решение должен пересматривать квалифицированный специалист, а человеку необходимо сообщить об использовании искусственного интеллекта.
Для моделей, подключённых к оборудованию, которое способно самостоятельно совершать физические действия, требования отдельные: оператор обязан иметь возможность наблюдать за работой и остановить систему, а сама система — переходить в безопасное состояние при потере связи.
Логика тут прослеживается ясно. Пока ИИ генерировал тексты, цена ошибки измерялась неудачным абзацем; теперь, когда модели всё чаще переходят к автономным действиям, значение контроля над последствиями их работы резко возрастает.
Граница между «не груби» и цензурой, на мой взгляд, проходит там, где поведение перестаёт быть разовым. Один резкий комментарий — это эмоция, а методичное издевательство — уже стратегия, и её действительно можно запретить, не покушаясь на свободу спорить и проверять.
Так что запрет на жестокость — это не про чувства робота. Это про то, каким мы хотим видеть собственное поведение в мире, где рядом с нами всё больше машин, реагирующих на наши слова.
А вы считаете нормальным нагрубить ассистенту, который ошибся, или предпочитаете спокойно объяснить, что именно пошло не так? Пишите в комментариях.