1. Плохие данные → плохие решения
Если в CRM бардак, агент будет масштабировать этот бардак.
Что делать: сначала очищать и нормализовать данные, выстраивать пайплайн сбора и проверки. В Андата мы всегда начинаем с аудита источников и событий, а уже потом включаем оптимизацию.
2. «Чёрный ящик» и потеря контроля
Самый страшный сценарий для руководителя, когда система что-то крутит, деньги тратятся, а объяснить, что происходит, никто не может.
Что делать:- требовать прозрачных отчётов по гипотезам и эффекту;
- заранее договориться о формате «журнала решений» агента;
- оставить возможность ручной блокировки опасных действий.
3. Нарушение бренд-тональности и здравого смысла
ИИ может предложить формально эффективную, но репутационно токсичную механику.
Что делать:- задать жёсткие фильтры по темам, формулировкам и визуалу;
- обязать проходить через человека все новые шаблоны коммуникаций;
- использовать отдельные тон-гайды для ИИ-генерации.
4. Юридические риски и ПДн
Агент работает на данных о поведении людей, при этом в России и СНГ свои требования к обработке ПДн и локализации.
Что делать:- хранить и обрабатывать персональные данные на территории РФ/нужной юрисдикции;
- использовать технологии обезличивания там, где это возможно;
- проконсультироваться с юристами по 152-ФЗ и внутренним регламентам.