Анонс-ИнфоНовости со всей России
Мнение

Хамить роботу: Anthropic впервые запретила издеваться над ИИ-моделями

Новые правила Claude вступают в силу 12 ноября 2026 года: грубить модели по-прежнему можно, а вот жестокость без очевидной цели попала под запрет.

/8 мин. чтения/18
ДДарья ЛокальнаяОбозреватель потребления
Хамить роботу: Anthropic впервые запретила издеваться над ИИ-моделямиФото сгенерировано ИИ

Компания Anthropic обновила правила использования своего ИИ-ассистента Claude. Новая редакция опубликована 8 октября и вступит в силу 12 ноября 2026 года, и один пункт в ней привлёк куда больше внимания, чем все остальные.

Что именно запретили

Впервые введён отдельный запрет на систематическое и жестокое обращение с моделями без очевидной цели. Большинство изменений в документе лишь уточняют уже действовавшие ограничения, а этот пункт стал новым элементом политики компании: по сути Anthropic требует относиться к своему ИИ как к человеку.

Запрет при этом не распространяется на обычное раздражение из-за ошибок ИИ, критические замечания, проверку возможностей модели и творческие сценарии с мрачным содержанием. Спорить с Claude, указывать на его недостатки или тестировать его на сложных задачах не запрещено.

Сама компания описывает границы нового правила так:

Компания подчеркивает, что речь идет об исключительных случаях, когда пользователь неоднократно ведет себя с моделью жестоко без какой-либо очевидной цели.

Механика уже работает

Ничего экзотического в этом нет: механизм, позволяющий Claude самостоятельно завершить диалог при продолжительном оскорбительном поведении, существует с 2025 года — в потребительских интерфейсах и в инструменте Claude Code. Именно он останется основным способом применения нового правила.

В Anthropic объясняют обновление развитием подхода к взаимодействию с моделями и исследованиями возможного благополучия ИИ. Мне эта формулировка кажется честнее, чем разговоры о вежливости ради вежливости: компания не изображает модель одушевлённой, а прямо говорит, что правила меняются вместе с технологией.

Где заканчивается вежливость

Вот здесь начинается самое интересное для меня как для потребителя. Спор идёт не про этикет, а про ответственность: если правила обращения с моделью фиксируются письменно, значит, у обеих сторон появляется понятная рамка, а не набор личных привычек.

Обновление касается и более серьёзных вещей. В чувствительных сферах — здоровье, финансы, трудоустройство, права — решение должен пересматривать квалифицированный специалист, а человеку необходимо сообщить об использовании искусственного интеллекта.

Для моделей, подключённых к оборудованию, которое способно самостоятельно совершать физические действия, требования отдельные: оператор обязан иметь возможность наблюдать за работой и остановить систему, а сама система — переходить в безопасное состояние при потере связи.

Логика тут прослеживается ясно. Пока ИИ генерировал тексты, цена ошибки измерялась неудачным абзацем; теперь, когда модели всё чаще переходят к автономным действиям, значение контроля над последствиями их работы резко возрастает.

Граница между «не груби» и цензурой, на мой взгляд, проходит там, где поведение перестаёт быть разовым. Один резкий комментарий — это эмоция, а методичное издевательство — уже стратегия, и её действительно можно запретить, не покушаясь на свободу спорить и проверять.

Так что запрет на жестокость — это не про чувства робота. Это про то, каким мы хотим видеть собственное поведение в мире, где рядом с нами всё больше машин, реагирующих на наши слова.

А вы считаете нормальным нагрубить ассистенту, который ошибся, или предпочитаете спокойно объяснить, что именно пошло не так? Пишите в комментариях.