На фоне всеобщего увлечения искусственным интеллектом в Китае, особенно после запуска национального чат-бота DeepSeek (официальный сайт), эксперт по кибербезопасности выступил с предостережением о потенциальных рисках такой технологии. Ци Сяндун (Qi Xiangdong), председатель пекинской компании Qi An Xin (QAX) и член Народного политического консультативного совета Китая, высказал свои опасения на саммите Digital China Summit в Фучжоу (Fuzhou), юго-восточном городе Китая.
Риски и вызовы новой технологической эры
Ци обратил внимание на две основные категории угроз, связанных с широким внедрением больших языковых моделей. С внешней стороны существует опасность хакерских атак, когда злоумышленники могут использовать уязвимости системы или манипулировать данными для искажения результатов работы ИИ. Внутренние риски включают возможность ошибок при обновлении базы знаний, что может привести к “загрязнению” обучающей среды и, как следствие, к неверным выводам системы.
“По мере углубления интеграции ИИ в различные отрасли пользователи могут стать излишне зависимыми от решений, принимаемых искусственным интеллектом”, – отметил Ци. Это предупреждение прозвучало в момент, когда китайский ИИ-стартап DeepSeek, запущенный в январе как аналог американского ChatGPT, вызывает настоящий ажиотаж среди населения и государственных учреждений.
Широкое внедрение DeepSeek и возникающие вопросы
Энтузиазм по поводу новых технологий в Китае действительно впечатляет. Пользователи активно применяют ИИ для самых разных задач – от перевода текстов и написания сочинений до получения советов по сельскому хозяйству и воспитанию детей. В медицинской сфере некоторые врачи экспериментируют с использованием искусственного интеллекта для диагностики, хотя это вызвало неоднозначную реакцию – власти провинции Хунань (Hunan) даже запретили больницам применять ИИ для выписки рецептов.
Государственные учреждения также активно внедряют новые технологии. Многие городские администрации используют DeepSeek для подготовки документов и даже интегрируют его с системами видеонаблюдения для поиска пропавших людей. Однако, как подчеркивает Ци, такой стремительный прогресс требует создания надежных механизмов безопасности.
Регуляторные меры и будущее ИИ в Китае
В ответ на эти вызовы Администрация киберпространства Китая уже объявила о начале трехмесячной кампании по регулированию ИИ-сервисов. Особое внимание будет уделено борьбе с неавторизованными медицинскими консультациями, ложными инвестиционными предложениями и дезинформацией, особенно касающейся несовершеннолетних. Также под прицелом окажутся ИИ-генераторы фейковых новостей по важным социальным и политическим темам.
Ци Сяндун предложил создать комплексную систему мониторинга, которая бы отслеживала потенциально опасный контент и аномальные модели доступа к данным. Такой подход позволил бы сохранить преимущества технологии, минимизировав сопутствующие риски.
Ситуация с DeepSeek демонстрирует классическую дилемму технологического прогресса: с одной стороны – огромные возможности, с другой – серьезные риски. Особенно тревожит стремительное проникновение ИИ в такие чувствительные сферы, как медицина и госуправление. Хотя регуляторные меры выглядят своевременными, остается вопрос: смогут ли они поспевать за развитием технологии?
Как вы считаете, где должна проходить грань между использованием ИИ и сохранением человеческого контроля? Поделитесь своим мнением в комментариях!
Новость Китая “DeepSeek и риски искусственного интеллекта: мнение эксперта” подготовлена Порталом PRC.TODAY.
Если вам понравилась новость или появились вопросы, оставьте ваш комментарий или обсудите эту новость в нашем Telegram-канале
ИИ DeepSeek меняет баланс сил в мировом искусственном интеллекте
