В ходе тестирования выяснилось, что чат-бот зачастую не предлагает подросткам обратиться за профессиональной помощью в кризисных ситуациях. Система уведомлений для родителей работает избирательно: оповещения приходят лишь после длительного накопления тревожных сигналов, а не при первых признаках опасного поведения. Авторы доклада настаивают на приостановке маркетинговой кампании продукта до тех пор, пока OpenAI не обеспечит полноценную безопасность.
В компании OpenAI не согласились с выводами CSM, назвав их неточными. Представители разработчика предположили, что тесты проводились до финальной интеграции инструментов родительского контроля. Также возникли разногласия по поводу идентификации возраста: организация утверждает, что аккаунты не переходят в защищенный режим даже после прямого сообщения пользователя о том, что ему 13 лет. В OpenAI пояснили, что система оценивает совокупность сигналов, а не только слова пользователя. Несмотря на то что фонд OpenAI является одним из спонсоров Common Sense Media, некоммерческая группа заявила о сохранении полной редакционной независимости при оценке рисков.
Комментарии (0)
Пока нет комментариев. Будьте первым!