Xiaomi Pengcheng был отравлен ИИ? Новая машина еще не выпущена. Были запущены такие поисковые запросы, как автомобильная авария/защита прав.
Недавно некоторые пользователи сети обнаружили, что после того, как Xiaomi Motors выпустила свою вторую серию продуктов - Xiaomi Pengcheng (SkyNomad), большое количество поисковых терминов и связанных слов на многих веб-страницах было связано с SkyNomad, например, «Автомобильная авария SkyNomad», «Пожар в SkyNomad», «Защита прав владельцев SkyNomad» и т. д. Однако новый автомобиль Xiaomi Pengcheng еще не был официально выпущен на рынок, и приложение только что завершилось с Министерство промышленности и информационных технологий 10 июля.
Когда обычные пользователи сети ищут «SkyNomad» в строке поиска, при поиске в панели рекомендаций Lenovo появляется большое количество производных ключевых слов с сильными тенденциями и негативной ориентацией. Профессионалы отрасли объясняют, что механизм рекомендаций поисковой системы основан на кластеризации поискового поведения пользователей: если большое количество учетных записей неоднократно выполняют поиск похожих негативных слов за короткий период времени, система автоматически соберет и отобразит связанные записи.
Для этой модели, которая еще не была выпущена на рынок, создание крупномасштабных ложных данных из воздуха можно, по сути, определить как вредоносную операцию, спланированную людьми. В настоящее время существует два основных типа методов «отравления данных», которые заражают алгоритмы ИИ в отрасли: во-первых, искусственное манипулирование большим количеством учетных записей с целью сосредоточиться на высокочастотном поиске по сфабрикованным минус-словам и вводе на платформу аномального поискового трафика; во-вторых, соответствующий контент, связанный с негативными терминами, выпускается партиями в течение короткого периода времени, а затем партиями удаляется, тем самым загрязняя базовую модель рекомендаций платформы.
Кроме того, на крупных платформах коротких видео появилось большое количество реальных видеороликов дорожно-транспортных происшествий. Издатели намеренно поместили аварию на еще не вышедший в продажу Xiaomi Pengcheng SkyNomad. В тексте ложно говорилось, что «только что купленный мной Xiaomi SkyNomad попал в еще одно дорожно-транспортное происшествие». В то же время для распространения новостей были наложены негативные ярлыки, такие как модели автомобилей и несчастные случаи. Хотя многие платформы коротких видео помечали сгенерированные ИИ подсказки для этого типа контента, чтобы напомнить зрителям о необходимости определить подлинность, продолжающееся распространение большого количества ложных материалов привело к необратимому загрязнению информационной базы модели вопросов и ответов ИИ.
Некоторые из существующих ответов, сгенерированных искусственным интеллектом, прямо ошибочно идентифицировали автомобиль, попавший в аварию, как Xiaomi Pengcheng SkyNomad, который еще не запущен в продажу. Практики отрасли анализируют, что эта модель распространения слухов фундаментально отличается от традиционной офлайн- и онлайн-публикации платного шантажа: ложный контент, генерируемый ИИ, имеет три выдающиеся характеристики: низкие затраты на производство, крупномасштабное распространение партиями и сложность отслеживания источника. Будучи использованным в качестве инструмента коммерческой атаки на общественное мнение, оно может за короткий период времени сформировать подавляющую волну ложной информации, быстро исказить общественное восприятие и нанести серьезный ущерб информационной среде всей сети.
