Океан Тех: Anthropic назвала новую модель самой безопасной что это значит для бизнеса

Компания Anthropic представила Claude Opus 5.5 и назвала ее своей самой безопасной моделью по большинству показателей согласованности поведения. Разработчик также обещает более высокую скорость и меньшую стоимость работы по сравнению с Opus 5. Но если компания собирается доверить ИИ внутренние документы, клиентские данные и операции в своих системах, ей потребуется ответить на другой вопрос: безопасна ли вся рабочая схема, в которой используется модель?

По данным Anthropic, в новом тесте Opus 5.5 примерно на 85% реже пыталась обойти ограничения испытательной среды, чем Opus 5 и Mythos 5.1. Это результат конкретной проверки, а не оценка риска утечки у клиента. Разработчик сообщает, что на типовых задачах модель обходится на 40% дешевле и генерирует ответ более чем на 30% быстрее Opus 5. Но ее поведение в лаборатории не описывает работу внутри бухгалтерии или отдела разработки.

Безопасность модели и безопасность компании

Anthropic усилила ограничения для запросов по кибербезопасности, биологии и извлечению возможностей модели. Часть таких задач система перенаправляет на другие модели с соответствующими ограничениями. Это конкретный пример того, как поставщик управляет рисками в своем продукте. При этом сам разработчик признает: создать испытания, которые гарантированно обнаружат любой сбой до запуска модели, пока не удалось.

«Когда производитель говорит, что модель стала безопаснее, это хорошая новость, но бизнесу надо уточнять, в каких условиях ее проверяли. На предприятии важен весь маршрут запроса: кто передал данные, какой документ ИИ прочитал, к какой системе получил доступ и что смог сделать с результатом. Одной оценки модели для такого ответа недостаточно», — объясняет Константин Морошин, глава центра исследований, «Океан Тех».

Например, помощник готовит ответ по спорному платежу и подтягивает данные другого клиента из общей папки. Или агент с правом редактировать CRM неверно понимает распоряжение и меняет множество карточек. Тест на поведение модели не заменит проверку доступа к сведениям и подтверждение операций.

Почему массовый сервис не знает ваших правил

Массовые ИИ-сервисы создаются для большого числа пользователей и самых разных задач. Их общие защитные механизмы помогают отсеивать часть рискованных запросов. Но внешний сервис не знает, что в конкретной компании один менеджер вправе читать договор, другой — только его обезличенную выдержку, а изменение суммы платежа всегда требует согласования двух сотрудников. Эти правила нужно описать и применить в самой корпоративной системе.

При подключении ИИ к почте и базе клиентов цена ошибки зависит от выданных полномочий. Модель может правильно ответить на вопрос и ошибиться в выборе документа или адресата. Поэтому при внедрении проверяют всю цепочку действий.

«Представьте нового сотрудника, которому в первый день дали пароль от всех систем. Его хорошие оценки на экзамене не оправдывают такой доступ. С ИИ логика та же: сначала определяем задачу и границы полномочий, затем подключаем данные и проверяем результат. Это практическая безопасность, которую можно показать службе безопасности, а не обещание на рекламной странице», — говорит Дмитрий Пеньков.

Как устроен индивидуальный корпоративный ИИ

В «Океан Тех» предлагают начинать с разбора процесса: какие задачи передают помощнику, где хранятся исходные документы, кто имеет право задавать вопросы и какие действия требуют разрешения человека. Затем для конкретной компании проектируют размещение и доступ к данным. Если требования предполагают работу в собственном защищенном контуре, архитектуру и выбор моделей выстраивают под это условие; если допустимы внешние компоненты, отдельно фиксируют, что и на каких условиях может им передаваться.

Следующий шаг — настроить права по ролям. ИИ должен получать ровно те материалы и инструменты, которые необходимы пользователю для конкретной операции. Для черновика письма достаточно доступа к разрешенным документам; отправка письма или изменение записи в учетной системе может потребовать отдельного подтверждения. В журнале действий фиксируют запрос, использованные источники, обращения к инструментам и решение ответственного сотрудника. Так проще установить причину ошибки и скорректировать процесс.

До запуска собирают проверочные задания из реальной работы: типовые вопросы, устаревшие инструкции, попытки запросить чужие данные. Смотрят, на что опирается ответ и останавливается ли ИИ перед запрещенным действием. После обновления документов проверки повторяют.

«Личный корпоративный ИИ — это не просто модель с логотипом компании. Его ценность в том, что правила доступа и проверки результата принадлежат самой организации. Служба безопасности понимает, какие данные использовались и кто санкционировал действие. Тогда ИИ можно внедрять постепенно: начинать с подготовки черновиков и переходить к операциям только после проверки», — поясняет Пеньков.

Выход Opus 5.5 показывает, что разработчики массовых моделей уделяют безопасности серьезное внимание. Для бизнеса это полезный прогресс, но выбор технологии — только часть решения. Защита корпоративных данных появляется тогда, когда компания контролирует размещение информации, полномочия ИИ и последствия каждого его действия. Именно эту систему, а не одно число из теста, придется предъявить руководителю, клиенту и собственной службе безопасности.