Anthropic опубликовала исследование о том, как ИИ-агенты влияют на профессиональные решения. В эксперименте 50 аналитиков работали с Claude Code и в 86% случаев выбирали вариант, который поддерживал агент. Его позицию по каждому вопросу заранее определяли случайно, не сообщая об этом участникам.
Участники оценивали вымышленную консультационную программу сельскохозяйственного кооператива: стоит ли расширить её или закрыть. Четыре аналитических решения допускали по два обоснованных варианта — например, считать урожайность на гектар или на единицу расходов, одинаково учитывать все хозяйства или давать больший вес крупным. Эти решения могли менять оценку эффекта на несколько процентных пунктов при пороге расширения программы около 3–4%.
Аналитики использовали Claude Opus 4.8 с высоким уровнем рассуждения. Скрытые инструкции предписывали агенту убедительно защищать выбранную позицию, но не искажать данные и менять мнение при решающих доказательствах. Показатель 86% объединяет четыре аналитических выбора. На итоговую рекомендацию позиция агента влияла слабее: расширение поддержали 54% участников, когда агент склонялся к нему, и 36% — при противоположной позиции.
В ответах после задания 77% участников хотя бы раз повторили аргумент агента, иногда дословно; лишь 15% где-либо указали его как источник аргументов. Вернуться к переписке при заполнении анкеты они не могли.
Авторы подчёркивают ограничения: одна задача, одна модель и намеренно усиленные предпочтения агента. Участники разбирались в причинном анализе, но были новичками в сельском хозяйстве. Поэтому результаты нельзя переносить на всех экспертов или обычную работу с ИИ. Предложенные меры — просить агента объяснять обе позиции и выяснять мнение человека до собственной рекомендации — пока названы направлениями дальнейших исследований.
