Развитие генеративных видеотехнологий привело к возникновению нового вида цифрового мошенничества — созданию фальшивых медицинских специалистов для продвижения лекарств и биологически активных добавок в социальных сетях.
Журналистские расследования показывают, что всего за пару минут генеративные платформы способны создать реалистичный видеоролик, в котором вымышленный врач в белом халате или цифровой двойник известного профессора безапелляционно обещает исцеление от хронических недугов и уверяет, что лично проверил рекламируемое средство.
При этом некоторые сервисы позволяют без труда экспортировать готовые ролики без водяных знаков и опознавательных знаков искусственного интеллекта, перекладывая всю ответственность за маркировку на конечного пользователя.
Проведенные тесты на популярных платформах генерации выявили неоднородность систем внутренней модерации. Если одни сервисы мгновенно блокируют запросы на рекламу рецептурных препаратов с участием авторитетных медиков, ссылаясь на авторские права и законодательные запреты, то другие пропускают подобные задачи без каких-либо предупреждений.
Более того, фильтры нередко удается обойти путем многократного смягчения формулировок в диалоге, в результате чего система все равно генерирует убедительный образ врача, настойчиво рекомендующего конкретный препарат широкой аудитории.
Юристы подчеркивают, что использование виртуальных аватаров для навязывания медикаментов прямо нарушает рекламное и потребительское законодательство. Цифровой образ не обладает физическим телом и восприятием, поэтому заявления о личном опыте применения препарата представляют собой заведомый обман потребителя.
Применение атрибутики медицинского работника для манипуляции доверием влечет прямую юридическую ответственность, причем судебная практика возлагает вину не на алгоритм, а на реальных заказчиков рекламы, сценаристов и операторов каналов вещания.
Наличие крошечной приписки о генеративном происхождении ролика не освобождает организаторов схемы от ответственности за недобросовестную рекламу и введение граждан в заблуждение.
Основной мишенью подобных манипуляций становятся пожилые люди, которым трудно распознать синтетическую природу видеоряда. Специалисты в области цифровой безопасности отмечают, что отличить сгенерированного персонажа невооруженным глазом пока еще можно по неестественно гладкой коже с избыточной яркостью, рассинхронизации артикуляции губ с речью, странной механике мимики и искаженным фоновым надписям.
Для защиты уязвимых слоев населения эксперты призывают внедрять обязательные алгоритмические детекторы на платформах дистрибуции контента и проводить масштабную просветительскую работу, аналогичную кампаниям по борьбе с телефонным мошенничеством.