ИИ начал рекомендовать пользователям поддельные магазины

Исследователи из Ask Silver обнаружили, что нейросети стали невольными соучастниками киберпреступлений. Схема работает просто: преступники отслеживают компании, прекратившие самостоятельную деятельность, и создают визуальные копии их ресурсов. Массово распространяя ссылки на эти страницы, они «обманывают» алгоритмы ИИ, которые начинают считать фейковые сайты надежными источниками информации.

Жертвой такой атаки стала британская марка Russell & Bromley, вошедшая в состав Next в 2026 году. Пользователи, которые запрашивали информацию о бренде у чат-ботов, получали ссылки на мошеннические копии магазина. В ответ на инцидент OpenAI обновила настройки своих моделей, добавив предупреждения о возможных рисках при поиске товаров этого бренда. Эксперты опасаются, что ситуация ухудшится с появлением агентных платформ, способных совершать покупки без прямого участия человека.