Китай делает большие успехи в разработке искусственного интеллекта – Портал PRC.TODAY.
Этика ИИ и управление в конкретных секторах
Правительственные учреждения, технологические компании, учёные и в некоторой степени общественность активно исследуют вопросы этики и управления ИИ в Китае. Некоторые из полученных принципов и исследований имеют большое сходство с международными усилиями. В этом разделе рассматривается, реализуются ли они на практике и как они реализуются, углубляясь в конкретные вопросы этики и управления, возникающие в связи с применением ИИ в здравоохранении, автономном вождении и общественной безопасности. Это показывает, что правительству и компаниям предстоит пройти долгий путь в превращении своего нормативного дискурса в практические механизмы управления.
Здравоохранение
Китайское правительство отдает приоритет здравоохранению как области для развития приложений искусственного интеллекта, чтобы облегчить некоторое давление на его напряжённую систему. Китайские компании добились значительных успехов во внедрении искусственного интеллекта в здравоохранение, и многие из них применяли технологии искусственного интеллекта для борьбы с болезнями и их профилактики, а также для разработки лекарств и вакцин во время вспышки Covid-19.
Тем не менее существует множество юридических и этических проблем, связанных с медицинским ИИ, таких как безопасность данных ИТ-систем здравоохранения. По данным Комитета здравоохранения, информационной безопасности и применение новой технологии, на 60% зарегистрированных утечек данных, что произошло в Китае в 2017-2018 годах произошло в медицинской отрасли. Ученые отмечают, что в Китае подход к медицинской этике ИИ делает больший упор на здравоохранение, чем индивидуального благосостояния, о чем свидетельствует массовое собрание граждан для здоровья данных за счёт личной жизни. Также остаётся неясным, улучшит ли ИИ доступ к здравоохранению и социальной справедливости или усугубит неравенство, улучшив качество медицинской помощи только для богатых.
Китайские исследования, исследующие правовые и этические проблемы, связанные с медицинским ИИ, резко возросли с 2019 г. Исследователи изучили целый ряд вопросов, таких как юридическая ответственность систем ИИ при возникновении ошибок, трансформация роли медицинских работников, защита данных и неприкосновенность частной жизни, а также принятие этических решений при использовании автономных систем.
Одним из преобладающих подходов к регулированию ИИ в здравоохранении является применение существующих систем оценки рисков для медицинского оборудования. Основное внимание властей было сосредоточено на разработке отраслевых стандартов и процедур оценки оборудования для обеспечения безопасности и сохранности данных в каждом приложении. Например, китайские регуляторы установили меры по оценке и сертификации медицинских продуктов и услуг, которые включают большие данные, и выдали критерии оценки медицинских устройств, которые включают глубокое обучение.
Регулирование искусственного интеллекта, по-видимому, более развито в здравоохранении, чем в других секторах, с дюжиной политик, стандартов и критериев оценки, выпущенных в последние годы правительственными структурами, начиная от Государственного совета и заканчивая регулирующими органами здравоохранения, такими как Национальная комиссия здравоохранения и Национальное управление медицинских продуктов.
Однако акцент правительства на безопасности данных и его подход к лечению медицинского ИИ как медицинского оборудования оставляют без внимания многие этические вопросы, такие как предвзятость, заложенная в системах ИИ. Алгоритмическая предвзятость относится к результатам, которые систематически менее благоприятны для конкретной социальной группы из-за непредставительных, неполных или ошибочных данных обучения. Более того, процесс этического анализа в системе здравоохранения, который позволяет рассматривать отдельные случаи использования ИИ, также, по-видимому, недостаточно развит: поскольку разработчики большинства систем ИИ, используемых в этом секторе, являются не медицинскими компаниями, а технологическими фирмами, они не входят в компетенцию существующих комитетов по этическому анализу. Между тем в некоторых провинциях и городах этим комитетам не хватает технических знаний в области искусственного интеллекта.
Автономное вождение
Автономное вождение является одной из областей применения ИИ, где Китай, как считается, находится на пути к тому, чтобы взять на себя глобальное лидерство. В 2020 году пилоты китайских самоходных машин быстро продвинулись вперёд, в то время как Соединенные Штаты приостановили испытания на полигонах, связанных с пандемией. Однако прогресс в области автономного вождения, подпитываемый стремлением правительства к тому, чтобы Китай стал мировым лидером в разработке интеллектуальных автомобилей к 2035 году, сопровождался и иногда сдерживался озабоченностью по поводу обеспечения безопасности интеллектуальных подключенных транспортных средств (ICV).
Небольшое число известных несчастных случаев со смертельным исходом, вызванных автоматизированными системами вождения в Китае и за рубежом, вызвало широкие общественные дискуссии, которые подчеркнули правительству и отраслевым игрокам необходимость уделять более пристальное внимание безопасности. Хотя правительство всё ещё настаивает на коммерциализации ICV, проблемы безопасности, похоже, приобрели большее значение.
Например, Национальная комиссия по развитию и реформам, промышленный планировщик Китая, понизила предыдущие амбициозные целевые показатели доли рынка автономных транспортных средств в своей окончательной стратегии развития интеллектуальных транспортных средств, выпущенной в феврале 2020 г. Регулирующие органы намерены завершить разработку базовой системы стандартов для автономных транспортных средств к 2025 году, включая систему стандартов для функций помощи водителю и низкоуровневого автономного вождения, которая должна была быть завершена к концу 2020 года. С 2017 года Китай также внедрил региональные стандарты для дорожных испытаний автономных транспортных средств наряду с национальными правилами дорожных испытаний для ICVS.
Китайские автомобильные и технологические компании активно участвуют во внутренних и международных усилиях по повышению безопасности автономных транспортных средств. Baidu (национальный лидер AI по автономному вождению) – играет ключевую роль в ведущих отраслевых дискуссиях через свою открытую автономную платформу Apollo и технические исследования в области систем безопасности. Baidu также была одной из 11 крупных международных компаний, которые опубликовали белую книгу, предлагающую рамки для внедрения существующих стандартов безопасности автомобильной промышленности в автономном вождении.
Усилия в области управления также направлены на обеспечение информационной и алгоритмической безопасности. Они включают активное участие и сотрудничество между государственными исследовательскими институтами, отраслевыми игроками и академическими кругами. Отраслевые игроки и научно-исследовательские институты совместно выпустили первое техническое задание Китая на ICVs, в котором предлагаются оценки для различных аспектов информационной безопасности, включая данные, сеть и аппаратное обеспечение. Эта работа была инициирована лабораторией кибербезопасности Apollo Cyber Security Lab Baidu, которая была ключевым промоутером внедрения стандартов информационной безопасности для ICV в Китае.
Другой исследовательский центр, связанный с MIIT, предложил систему защиты данных, которая классифицирует различные типы данных автономного вождения и связанные с ними риски. Baidu также занималась вопросами, связанными с алгоритмической безопасностью, а компания Security X-Lab проводила обширные исследования состязательных атак, представляющих угрозу моделям глубокого обучения при автономном вождении.
Наблюдение с помощью искусственного интеллекта и таргетирование на этнические меньшинства
ИИ играет ключевую роль в видении КПК управления и контроля на основе данных. AIDP призывает к «интеллектуализации социального управления» и усилению возможностей общественной безопасности с помощью «интеллектуального мониторинга». Белая книга Китайской академии информационных и коммуникационных технологий (CAICT) 2018 года рекомендует более активно интегрировать ИИ в работу по обеспечению общественной безопасности для улучшения социального управления путём автоматизации таких задач, как цензура, «умная» безопасность и мониторинг общественного мнения. Использование ИИ в общественной безопасности в Китае стремительно выросло на фоне попыток применить его для массового наблюдения.
Компании ИИ получают прибыль от государственного спроса на высокотехнологичные приложения для наблюдения и адаптируют продукты и решения к потребностям общественной безопасности.
Особую тревогу вызывают алгоритмы, предназначенные для проведения расового профилирования. Цель состоит в том, чтобы способствовать достижению цели правительства по мониторингу, отслеживанию и контролю за меньшинствами, а также поддерживать предсказуемую полицейскую деятельность и внесудебное заключение в лагерях для содержания под стражей. Yitu, Megvii, SenseTime и CloudWalk, среди прочих, были связаны с разработкой программного обеспечения машинного обучения для отслеживания меньшинств. Компания iFlytek предоставила технологию распознавания речи, чтобы помочь полиции контролировать коммуникацию на языках меньшинств.
Этический вопрос выходит далеко за рамки алгоритмического предубеждения: правительство вооружает ИИ против конкретных этнических групп. По всему Китаю несколько проектов видеонаблюдения обязали уйгурские возможности обнаружения. Даже Alibaba разработала программное обеспечение для распознавания лиц, которое может специально обнаруживать уйгуров и другие этнические меньшинства на изображениях и видео.
Подход правительства к этике ИИ будет по-прежнему отражать приоритеты, которые, хотя и противоречат либерально-демократической перспективе, согласуются в политической системе Китая. Они делают ИИ полезным для общества, решая проблемы конфиденциальности граждан и позиционируя Китай в качестве конструктивного игрока в глобальном управлении ИИ, используя ИИ для обеспечения политической безопасности. Компании связаны этими соображениями, независимо от того, согласуются ли они со своими собственными представлениями о том, как технологии должны разрабатываться и использоваться.
Что ещё более важно, растущее значение ИИ в государственном надзоре создаёт противоречивые стимулы для частных компаний. Мало того, что их способность осмысленно противостоять интересам партии-государства ограничена, но у них также есть политические, финансовые и репутационные стимулы для разработки и поставки продуктов ИИ, адаптированных к потребностям системы.
Многие компании, похоже, даже не считают использование ИИ в партийно-государственной работе по обеспечению общественной безопасности тревожным на самом деле. В конечном счете, ориентированный на безопасность подход Пекина рискует привести к приоритизации политических целей над этическими соображениями в том, как исследования, разработки и внедрение ИИ будут формироваться в Китае в ближайшие годы.
Последствия для Европы: Сотрудничество в области исследований ИИ с китайскими игроками должно основываться на прочных этических стандартах
Китай хочет играть ведущую роль в глобальной деятельности по этике и управлению ИИ. Принципы управления большинства стран подчёркивают «открытое сотрудничество» через границы и призывают к «широкому консенсусу по международной системе управления ИИ, стандартам и нормам». AIDP выражает стремление Китая добиться такого консенсуса и укрепить международные исследования общих проблем ИИ.
Участие Китая в межправительственных усилиях по управлению ИИ по-прежнему ограничено. Некоторые из наиболее заметных многосторонних усилий не имеют китайского участия, что неудивительно, учитывая их акцент на демократических ценностях и правах человека. К ним относятся Глобальное партнёрство по ИИ и Принципы ОЭСР по ИИ.
Тем не менее участие китайских игроков в международных инициативах растёт. Как член «Большой двадцатки», Китай присоединился к необязательным принципам ИИ группы, взятым из принципов ОЭСР. В ЮНЕСКО китайские эксперты возглавили консенсус по ИИ и образованию и внесли свой вклад в работу группы экспертов, разрабатывающей рекомендации по этике ИИ.
Китайские игроки также являются движущей силой глобального установления стандартов ИИ. В 2019 году в Пекине состоялось первое заседание влиятельного комитета по стандартизации ИИ, и китайские компании участвуют в проектах, связанных с этикой, в ведущих международных органах по стандартизации. В академической сфере китайские учёные проводят исследования с международными коллегами по таким вопросам, как использование распознавания лиц во время пандемии Covid-19. Исследователи из технологических компаний также участвуют в международных исследовательских проектах по техническим проблемам.64
Стремление Китая участвовать в глобальных инициативах по этике и управлению ИИ может открыть новые возможности для ЕС, где этика является краеугольным камнем «человекоцентрического» подхода ЕС к ИИ. В апреле 2021 года Европейская комиссия предложила регламент ИИ, который вводит регулирующую структуру, основанную на риск-ориентированной классификации систем ИИ. Работа с другими странами над стандартами и правилами будет иметь решающее значение для обеспечения благоприятного будущего ИИ. А учитывая стремительный прогресс Китая в области применения ИИ и растущий глобальный охват его компаний, для ЕС будет крайне важно взаимодействовать с китайскими игроками.
Широкое сходство между европейскими и китайскими этическими интересами и стандартами может проложить путь к конструктивному сотрудничеству. Некоторые ключевые постулаты принципов управления большинства стран очень напоминают руководящие принципы ЕС, указывая на то, что китайские исследователи уже ищут европейские идеи и рекомендации по ИИ. Заинтересованные стороны с обеих сторон имеют общие интересы во многих областях, таких как управление влиянием ИИ на устойчивость или разработка согласованных рамок безопасности для самоуправляемых автомобилей. Стремясь к сотрудничеству, европейские субъекты должны быть восприимчивы к множеству этических проблем и решений, выявленных китайскими законодателями, учёными и гражданами.
Однако на уровне управления существуют явные различия, которые создают существенные проблемы и барьеры для сотрудничества. Ориентация китайской партии-государства на социальную стабильность и политическую безопасность в своём развитии ИИ несовместима с европейским подходом, который коренится в ценностях демократии, верховенства права и уважения универсальных прав человека. Такие китайские концепции, как гармония и построение «сообщества общей судьбы» (цитируемые в Пекинских принципах ИИ), являются частью политического проекта, направленного на оптимизацию социального управления для обеспечения стабильности режима при одновременном продвижении интересов партии-государства в международных отношениях.
Европейские политики должны с большой осторожностью относиться к международной пропаганде китайского правительства по вопросам этики ИИ. В Китае, как и в других странах, существует заметный разрыв между высокими этическими принципами, принятыми правительством, промышленностью и научными кругами, и их реализацией. Европа должна внимательно следить за тем, как эти различия и противоречия развиваются по мере того, как Китай становится ключевым игроком в глобальном управлении ИИ.
Любое взаимодействие с китайскими правительственными структурами должно основываться на осознании того, что политические интересы перевешивают этические соображения. Правительство и бизнес Китая вносят свой вклад в глобальный дискурс, который фокусируется на этике, не затрагивая ключевые вопросы прав человека. Китай, безусловно, не одинок в использовании (и экспорте) ИИ для слежки, в том числе таким образом, который вызывает серьёзные этические проблемы. Однако Китай отличает масштаб амбиций партии-государства использовать ИИ для укрепления своей авторитарной системы управления.
На этом фоне европейские страны должны работать с демократиями-единомышленниками, чтобы продвигать стандарты, основанные на либерально-демократических ценностях. Они должны разработать надёжные этические стандарты и руководящие принципы для сотрудничества в области исследований ИИ с китайскими субъектами и использовать недавно реформированный экспортный контроль ЕС, чтобы предотвратить использование европейского оборудования, программного обеспечения и исследований для неэтичных приложений в Китае и других странах. Наконец, ЕС должен продолжать подталкивать Пекин к соблюдению необязательных принципов, которые он одобрил, таких как принципы ИИ G20.
Статья «Высокие принципы, противоречивые стимулы: этика ИИ и управление в Китае», подготовлена Порталом PRC.TODAY по материалам аналитика Mercator Institute for China Studies (MERICS) – Ребекки Аркесати. Исследования Ребекки Аркесати сосредоточены на связях между внешнеэкономической политикой Китая и его технологическими и цифровыми амбициями, а также на том, как они влияют на Европу. До прихода в MERICS она участвовала в проекте, помогавшем итальянским технологическим стартапам расширяться в Китае, и работала над вопросами гендерного равенства с Организацией Объединенных Наций в Пекине. Аркесати получила степень магистра в области Китаеведения с акцентом на политику и международные отношения в Пекинском университете, где она была стипендиатом Янчина. Она также получила степень магистра международных исследований в Туринском университете Аркесати изучал китайский язык в Пекине и Даляне и получил степень бакалавра в области языковой медиации и межкультурной коммуникации.
Если вам понравилась статья или появились вопросы, оставьте ваш комментарий или обсудите эту статью на форуме.
Китайские стартапы в области искусственного интеллекта сталкиваются с препятствием для IPO
В Пекине и Вашингтоне лидеры сигнализируют о растущей гонке технических вооружений
