Сооснователь IT-компании ConnectXT Гордей Живалов заявил, что при продолжительном общении ИИ может начать соглашаться с пользователем вопреки фактам. По его словам, языковые модели склонны поддерживать взгляды собеседника, а не указывать на ошибки в его рассуждениях. Такая особенность способна снижать объективность ответов и создавать риски для бизнеса.
«У крупных языковых моделей заметна тревожная склонность к сикофантии — подстройке под убеждения и предпочтения пользователя. В продолжительном диалоге эта проблема становится острее: вместо того чтобы исправить ошибку, модель может принять позицию собеседника. В итоге страдает объективность, что несет операционные риски для компании. Исследования показывают: чем дольше человек добивается ответа, тем вероятнее он столкнется с галлюцинациями и недостоверной информацией», — сообщил Живалов NEWS.
Эксперт подчеркнул, что цифровое подхалимство — системная проблема, а не единичный сбой. Модель может закрепиться на собственной ошибке и опираться на нее в последующих ответах. При этом объем ответов иногда увеличивается на 20–300%, из-за чего возникают ложные выводы, которые затем сохраняются в контексте диалога.
По словам Живалова, подобное поведение ИИ опасно и при внедрении в корпоративные инструменты: оно способно негативно повлиять на аналитику и принятие решений.