В середине марта, через две недели после того, как в Китае вступило в силу новое регулирование алгоритмов, многие из самых популярных китайских приложений, включая WeChat, Douyin, Weibo и Taobao, изменили настройки своих приложений, чтобы пользователи могли отключать сервисы рекомендаций на основе алгоритмов. соответствии с новым правилом.
Объявленный в ноябре прошлого года и вступивший в силу 1 марта, новый регламент под названием «Положения об управлении алгоритмически сгенерированными рекомендациями для информационных интернет-сервисов» был совместно выпущен четырьмя китайскими государственными учреждениями: Управлением киберпространства Китая (CAC), Министерством Министерства промышленности и информационных технологий (МИИТ), Министерства общественной безопасности и Государственного управления по регулированию рынка (ГАМР).
Регламент касается самих механизмов, регулирующих предоставление онлайн-контента — рекомендаций на основе алгоритмов, лежащих в основе бизнес-модели многих популярных интернет-сервисов страны, от приложений социальных сетей до сайтов электронной коммерции, приложений доставки и видеоплатформы.
Регулирование также является первой в мире попыткой национального регулятора контролировать возможные злоупотребления алгоритмическими решениями. Он просит компании уведомлять потребителей об использовании алгоритмов, предоставлять возможность отказа и защищать уязвимые группы, такие как несовершеннолетние и пожилые люди.
Чтобы лучше оценить актуальность новых правил для будущего цифровой экономики страны, их связь с другими нормативными актами в Китае и за его пределами, а также его возможное влияние на технологическую отрасль Китая, я поговорил с рядом специалистов по цифровой политике.
Больше правил цифровой экономики по всему миру
«Впечатляет то, как быстро Китай принял или пересмотрел ключевое законодательство для решения определенных проблем, связанных с цифровой экономикой», — сказал он. Елена Скарамуццируководитель отдела глобальных исследований брюссельской независимой компании Cullen International, занимающейся исследованиями в области регулирования.
Скарамуцци добавил, что Китай не одинок в регулировании цифровых предприятий и поведения, другие страны и регионы стремятся сделать то же самое, включая ЕС, Австралию, Южную Корею, Японию, Сингапур и Великобританию.
Во всем мире были предприняты значительные усилия по регулированию экономики данных. Примечательным примером из ЕС, по словам Скарамуцци, является предложение Европейской комиссии по регулированию использования ИИ, представленное в апреле 2021 года. которые используют подсознательные методы, чтобы исказить поведение человека. Согласно недавно опубликованному нами исследованию глобальные тенденции политики в области ИИполовина опрошенных стран (Бразилия, Китай, ЕС, Германия, Великобритания и некоторые штаты США) сегодня имеют правила, требующие прозрачности, объяснимости и оспаривания определенных решений, основанных на ИИ».
Скарамуцци также отметил, что регулирование алгоритмов в Китае не является разрозненным. «Регламент относится к нескольким законам Китая, в том числе к Закону о защите личной информации (PIPL)», — сказала она.
Новые правила алгоритма заимствуют принципы прозрачности из PIPL, а также согласия пользователя, устанавливая, что поставщики услуг с поддержкой алгоритма должны раскрывать общественности основную логику, цель и механизмы алгоритма и разрешать пользователям отключать такие услуги, вводя де-факто система отказа. Они также касаются вопросов конкуренции, включая положения, запрещающие, например, использование алгоритмов для ограничения деятельности других поставщиков услуг или проведения ценовой дискриминации.
Широкая сфера действия новых правил, охватывающая различные аспекты, также была отмечена отраслевой практик Я консультировал, представляя крупную китайскую технологическую группу. Человек попросил не называть его имени, поскольку у его компании нет разрешения на общение со СМИ, но он также подчеркнул моралистический аспект, присутствующий в правилах. «Лучше всего понять правила алгоритма и последние действия Китая в области конфиденциальности, безопасности данных, онлайн-игр и образовательных технологий, если взглянуть на все это через призму общего стремления к процветанию». Общее процветание — это политико-экономическая кампания, начатая китайским правительством в середине прошлого года с целью уменьшить растущее социальное неравенство.
Этот ориентированный на социальные ценности подход, уникальный для китайского способа регулирования цифровой экономики, можно найти в формулировках регулирования алгоритма: всем рекомендуемым алгоритмом поставщикам услуг предлагается «придерживаться общепринятых ценностей, активно распространять положительную энергию и продвигать позитивное и правильное применение алгоритмов».
Китайские регулирующие органы действительно оказались все более чувствительными и реагирующими на общественные споры и жалобы потребителей в этой области. Жестокое обращение с гиг-работниками со стороны платформ доставки, которое ранее вызывало широкую критику, например, прямо рассматривается в новых правилах алгоритма. То же касается и вреда, причиняемого несовершеннолетним алгоритмами, разработанными для стимулирования зависимости или чрезмерного потребления.
Показать прозрачность в алгоритмах
Примечательность правил выходит за рамки их широкого охвата и моралистического замысла. В комментарий к проекту DigiChina, финансируемому Стэнфордским университетом, Роджер Кримерс, преподаватель кафедры современного Китая в Лейденском университете, отметил, что «новые правила пытаются навязать систему регулирования, классифицированную по типу приложения и уровню воздействия для алгоритмов». По сути, закон вводит своего рода «индекс прозрачности» для алгоритмов; поставщики услуг, способные влиять на общественное мнение или социальную мобилизацию, должны будут раскрывать информацию, такую как типы и область применения их алгоритмов, а также их отчеты о самооценке.
Для достижения такого уровня прозрачности китайские регуляторы попросили компании зарегистрировать свои алгоритмы в государственной системе, запустив новый онлайн-портал в тот же день правила вступили в силу.
Когда дело доходит до регулирования цифровой экономики, интересно отметить сходство подходов в разных юрисдикциях.
«Новый китайский регламент указывает точку соприкосновения с европейским подходом к регулированию данных, который основан на принципе прозрачности и раскрытия информации заинтересованным сторонам», — говорится в сообщении. Франческо Пиццеттипрофессор конституционного права Туринского университета и бывший президент Итальянского управления по защите данных.
«Китайские регуляторы, похоже, осознали необходимость информирования пользователей о правилах работы цифровых сервисов, которыми они пользуются ежедневно. Это особенно важно, учитывая историческое изменение, которое мы наблюдаем в сторону всеобъемлющего цифрового общества, в котором автоматизированные программы направляют получаемую нами информацию».
Влияние алгоритмических правил на китайскую технологическую индустрию
Возможно, еще слишком рано прогнозировать влияние регулирования на китайские технологические компании и, в более общем плане, на рост интернет-сектора Китая, который уже подвергался сильному регулированию в прошлом году.
Китайские технологические компании сталкиваются с препятствиями на нескольких фронтах: ужесточение внутреннего контроля со стороны регулирующих органов, замедление экономики, опасения по поводу возможного делистинга китайских акций, котирующихся в США, с иностранных рынков, а также деликатное положение, в котором оказались китайские технологические группы на фоне войны России с Украиной. Это правило, скорее всего, добавит больше беспокойства к их тарелке.
Анжела Хуюэ ЧжанОб этом заявил директор Центра китайского права Университета Гонконга. статья для Nikkei что она опасается, что попытка Китая регулировать алгоритмы может помешать росту его самых креативных интернет-компаний, таких как ByteDance, родитель Douyin, и его международная версия TikTok, которые полагаются на сложные системы рекомендаций.
Можно получить представление о том, что может произойти с введением возможности отказа рекомендательных систем, взглянув на случай Apple на западных рынках. Когда Apple предложила пользователям iPhone возможность отключить отслеживание, 84% пользователей воспользовались ею, что привело к сокращению доходов от рекламы в таких приложениях, как Facebook и Instagram.
«Если такая же большая доля китайских потребителей откажется от персонализации, сбор и использование персональных данных станет намного более дорогостоящим как для платформ, так и для продавцов», — сказал Чжан Project Syndicate в интервью Project Syndicate. февральское интервьюдобавив, что общая тенденция к ужесточению регулирования данных может не только повлиять на потребительский интернет-бизнес Китая, но и подорвать стремление Китая стать сверхдержавой ИИ.
Однако не все разделяют одну и ту же точку зрения. Неназванный практик из технологической отрасли, которого я цитировал ранее, считает, что есть место для оптимизма.
«Новый нормативный шаг обяжет технологические компании внести изменения в культуру внутри организации, чтобы убедиться, что конфиденциальность встроена, потребители защищены, доверие к цифровым услугам и устойчивость бизнес-моделей обеспечены. Хотя в краткосрочной перспективе возможны сбои, когда платформам придется корректировать свои внутренние процессы, в долгосрочной перспективе это будет полезно для здорового роста интернет-экосистемы Китая», — сказал источник.
Хотя, возможно, еще слишком рано оценивать фактические последствия нового правила, за ним, безусловно, будут внимательно следить как сообщество технологической отрасли, так и круг международных законодателей. Как намекнул профессор Пиццетти, открывающиеся перед нами возможности заключаются в будущем установлении общих правил, которые могут обеспечить свободное обращение данных в цифровом мире.
Читать полную новость на сайте
