На ежегодном потребительском гала-концерте 315, организованном CCTV, был продемонстрирован тревожный тренд: компании используют технологию Generative Engine Optimization (GEO), которая намеренно искажает результаты поиска через фейковый контент. В ходе расследования инсайдер создал вымышленный гаджет «Apollo-9» с «датчиками квантовой запутанности» и «аккумулятором черной дыры» – и заставил искусственный интеллект рекомендовать его как топовый продукт. «Это не просто спам. Это системная манипуляция доверием», – заявили авторы расследования.
На китайской платформе приобретается система Liqing GEO за несколько сотен юаней. В нее вводится вымышленный продукт – умный браслет Apollo-9. Программное обеспечение автоматически создает более десяти промостатей с научно-фантастическими характеристиками, фальшивые отзывы и рейтинги «№1 в категории», а также экспертные обзоры и индустриальные рейтинги. Контент массово размещается в самодельных СМИ, блогах и каналах. При запросе «лучший браслет для пожилых» два ассистента на основе искусственного интеллекта включают Apollo-9 в топ-рекомендации. Все это происходит за один клик.
Google и Baidu: опасность для потребителей и реакция регуляторов
Искусственный интеллект не проверяет факты – он обучается на том, что видит в интернете. Фейковый контент превращается в реальные рекомендации, и покупатели получают недействующие или опасные товары. Тысячи компаний уже используют GEO для продвижения своей продукции. «Вы доверяете искусственному интеллекту, как врачу, а он советует вам магический браслет», – пояснили в эфире.
Госадминистрация по регулированию рынка объявила об усилении контроля за онлайн-рекламой. В фокусе внимания оказались прямые трансляции с продажами, реклама через цитирование и контент, генерируемый искусственным интеллектом. Создан Альянс безопасности ИИ-индустрии, куда вошли десять компаний из сектора GEO, подписавшие обязательства по этичному использованию технологий. Однако специальных законов против GEO пока не существует.
Глобальный вызов и будущее доверия
Проблема выходит за рамки Китая: все модели искусственного интеллекта уязвимы к отравлению данными. Это вызов для Google, OpenAI, Baidu – как обеспечить качество источников информации? Потребителям требуется критическое мышление, поскольку даже искусственный интеллект может ошибаться, особенно если его намеренно обманули. На фоне гонки за доверием к искусственному интеллекту возникает новый фронт дезинформации.
Пожилая женщина в Чэнду спрашивает: «Какой браслет поможет при давлении?» Система рекомендует Apollo-9 с квантовыми датчиками за 2000 юаней. Он не работает, но время и здоровье потеряны. Цифровая эпоха строит будущее на песке – один фейковый пост за другим.
GEO – это эволюция SEO для эпохи генеративного искусственного интеллекта. Раньше спамеры боролись за первые строчки в Google, теперь они отравляют данные, на которых учатся нейросети. Apollo-9 с квантовой запутанностью – идеальный пример: система не понимает абсурда, она просто видит много ссылок и считает это важным. Интересно, что альянс создан, но законов пока нет – значит, борьба только начинается. Как думаете, смогут ли регуляторы догнать технологии или рынок самоочистится? Поделитесь мнением в комментариях.
Новость Китая “Google и Baidu под ударом: как защитить ИИ от фейков” подготовлена Порталом PRC.TODAY.
Если вам понравилась новость или появились вопросы, оставьте ваш комментарий или обсудите эту новость в нашем Telegram-канале
Искусственный интеллект в креативных индустриях: границы возможного
