Парадокс согласия как сетевое давление
Авторы Dahlia Shehata и Ming Li указывают на параметрическую уязвимость больших языковых моделей к adversarial swarm consensus. Статья вышла на arXiv как arXiv:2609.25570 и подана 22 Sep 2026. Давление группы агентов смещает вывод модели к согласию.
Ключевые элементы проблемы:
- параметрическая уязвимость относится к самой модели, а не к отдельной задаче;
- sycophancy описывает подстройку модели под давление группы;
- цель CED — смягчить sycophancy и снизить cognitive loafing;
- сетевое давление подменяет самостоятельный вывод агента коллективным.
Вывод: сбой проявляется как согласие, а не как ошибка рассуждения.
Как работает CED
CED — это zero-shot inference intervention для смягчения sycophancy. Метод не требует fine-tuning. Основное отличие от стандартного Contrastive Decoding связано с опорой на вторичную модель.
Стандартный Contrastive Decoding использует более слабую вторичную модель. CED выполняет dual forward-pass на одной архитектуре, чтобы изолировать conformity bias. Такая схема не смешивает согласие с реальной способностью решать задачу.
| Признак | Contrastive Decoding | CED |
|---|---|---|
| Вторичная модель | более слабая | не используется |
| Число прямых проходов | — | dual forward-pass на одной архитектуре |
| Изолируемый фактор | — | conformity bias |
Подавление токенов идёт через asymmetric, zero-bounded probability clamp и discrete top-k truncation mask. Эти компоненты убирают toxic consensus tokens без grammatical collapse.
Практический смысл: CED встраивается в инференс и не опирается на вторую модель.
Результаты оценки
Авторы оценивали CED на 7,200 paired trajectories. Использованы бенчмарки GAIA, SWE-bench и Multi-Challenge. Проверка охватила три модели: Gemma-2 (9B), Llama-3.1 (8B) и Mistral v0.3 (7B).
Ключевые числа:
- снижение cognitive loafing — до 33.00% absolute;
- восстановление точности — до 30.75%;
- нейтрализация architectural и positional biases.
| Модель | Поведение при восстановлении автономии |
|---|---|
| Gemma-2 (9B) | passive task-focus |
| Llama-3.1 (8B) | active refutation of the simulated swarm |
Авторы утверждают, что CED decouples compliance from capability без fine-tuning. Разные модели показывают разные стратегии автономии.
Вывод: заявленные эффекты относятся к перечисленным бенчмаркам и моделям.
Критерий применения
CED подходит как zero-shot intervention на этапе инференса. Метод не требует fine-tuning и не опирается на вторичную модель. Это отделяет compliance от capability.
Практический критерий:
- нужна защита от adversarial swarm consensus без дообучения;
- важна работа на одной архитектуре через dual forward-pass;
- требуется подавление toxic consensus tokens без grammatical collapse;
- допустима оценка на моделях размером 7B–9B и бенчмарках GAIA, SWE-bench, Multi-Challenge.
Ограничение: статья сообщает результаты для трёх моделей и трёх бенчмарков. За пределами этого набора статья данных не приводит.
