Перегрузка рабочих процессов низкокачественными результатами и рост затрат на проверку данных ведут к «деградации знаний», падению доверия и пересмотру подходов к использованию генеративных моделей в бизнесе — предупреждает исследование
Параллельно усиливается кризис доверия к информации внутри организаций.
Когда ошибки становятся регулярными, сотрудники начинают сомневаться не только в ИИ-инструментах, но и в самих рабочих процессах, через которые проходят данные.
Отдельно подчёркивается влияние на рынок труда и найм: внедрение ИИ усложняет подбор специалистов, а взаимодействие между кандидатами и работодателями становится менее надёжным из-за автоматизированных этапов, которые дополнительно искажают информацию и ожидания сторон.
В результате компании оказываются в ситуации, где каждое применение публичных больших языковых моделей требует дополнительного слоя проверки и верификации, что увеличивает нагрузку на сотрудников и снижает общую эффективность. Параллельно фиксируются случаи сопротивления сотрудников навязанному использованию ИИ, включая намеренное ухудшение качества его внедрения в рабочих процессах.
В качестве возможного выхода HBR указывает на необходимость более точного разделения задач: генеративный ИИ должен использоваться только там, где он действительно добавляет ценность, а не автоматически во всех этапах работы. Отдельно подчёркивается, что публичные модели часто создают шаблонные и ошибочные тексты, тогда как специализированные или обученные на внутренних данных системы могут быть более полезны.
Итоговая проблема заключается в том, что первоначальный нарратив о «безусловном росте производительности» за счёт ИИ начинает сталкиваться с реальностью: компании, массово внедрившие генеративные модели без чётких ограничений, вынуждены компенсировать возникающие ошибки ростом ручной работы и проверок, фактически создавая новую нагрузку вместо её снижения.
21 июня 2026
Материал взят с сайта:
www.ixbt.com
|
