На фоне бума ИИ законодатели ЕС спорят о новых правилах

Быстрые технологические достижения, такие как приложение для генеративного искусственного интеллекта (ИИ) ChatGPT, усложняют усилия законодателей Европейского Союза по согласованию важных законов об искусственном интеллекте, сообщили Reuters источники, непосредственно знакомые с этим вопросом.

Европейская комиссия предложила проект правил почти два года назад, чтобы защитить граждан от опасностей новых технологий, которые в последние месяцы пережили бум инвестиций и потребительской популярности.

Прежде чем правила станут законом, проект должен быть обсужден между странами ЕС и законодателями ЕС, что называется трилогом.

Несколько законодателей рассчитывали прийти к консенсусу по 108-страничному законопроекту в прошлом месяце на встрече в Страсбурге, Франция, и приступить к рассмотрению трилога в следующие несколько месяцев.

Но пятичасовая встреча 13 февраля не привела к решению, и законодатели расходятся во мнениях по различным аспектам закона, согласно трем источникам, знакомым с обсуждениями.

Хотя отрасль ожидает соглашения к концу года, есть опасения, что сложность и отсутствие прогресса могут отсрочить принятие законодательства до следующего года, а на европейских выборах к власти могут прийти депутаты Европарламента с совершенно другим набором приоритетов.

«Скорость, с которой выпускаются новые системы, делает регулирование реальной проблемой», — сказал Дэниел Лойфер, старший политический аналитик правозащитной группы Access Now.

«Это быстро движущаяся цель, но есть меры, которые остаются актуальными, несмотря на скорость разработки: прозрачность, контроль качества и меры по отстаиванию своих основных прав».

3000 внесенных поправок для проработки

Законодатели работают над внесением более 3000 поправок, охватывающих все, от создания нового офиса ИИ до сферы применения правил Закона.

«Переговоры довольно сложны, потому что в них участвует много разных комитетов», — сказал Брандо Бенифей, итальянский депутат Европарламента и один из двух законодателей, ведущих переговоры о долгожданном блоке. Закон об ИИ.

«Обсуждения могут быть довольно долгими. Каждый раз приходится разговаривать примерно с 20 депутатами Европарламента».

Законодатели стремились найти баланс между поощрением инноваций и защитой основных прав граждан.

Это привело к тому, что различные инструменты ИИ были классифицированы в соответствии с предполагаемым уровнем риска: от минимального до ограниченного, высокого и неприемлемого. Инструменты высокого риска не будут запрещены, но потребуют от компаний высокой прозрачности в своих операциях.

Но эти дебаты оставили мало места для решения агрессивно расширяющихся технологий генеративного ИИ, таких как ChatGPT и Stable Diffusion, которые прокатились по всему миру, вызывая как восхищение пользователей, так и споры.

К февралю ChatGPT, созданный OpenAI при поддержке Microsoft, установил рекорд по самой быстрорастущей пользовательской базе среди всех потребительских приложений в истории.

Почти все крупные технологические игроки имеют доли в этом секторе, включая Microsoft, Alphabet и Meta.

Проблемы конкуренции

Дискуссии в ЕС вызвали обеспокоенность у компаний — от небольших стартапов до крупных технологических компаний — о том, как регулирование может повлиять на их бизнес и окажутся ли они в невыгодном положении по сравнению с конкурентами с других континентов.

За кулисами крупные технологические компании, вложившие миллиарды долларов в новую технологию, активно лоббировали свои инновации за рамками пояснений с высокой степенью риска, которые означали бы большее соответствие требованиям, большие затраты и большую ответственность в отношении их продуктов. сообщили источники.

Недавний опрос, проведенный отраслевой организацией applyAI, показал, что 51 процент респондентов ожидают замедления деятельности по разработке ИИ в результате пандемии. Закон об ИИ.

Для таких инструментов, как ChatGPT, у которых, казалось бы, бесконечное количество приложений, законодатели ввели еще одну категорию — «Системы искусственного интеллекта общего назначения» (GPAIS) — для описания инструментов, которые можно адаптировать для выполнения ряда функций. Остается неясным, будут ли все GPAIS считаться высокорисковыми.

Представители технологических компаний выступили против таких шагов, настаивая на том, что их собственные внутренние правила достаточно надежны, чтобы гарантировать безопасное развертывание технологии, и даже предлагая, чтобы в законе был пункт о согласии, в соответствии с которым фирмы могут сами решать, следует ли действуют правила.

Необходимо инклюзивное управление

Компания DeepMind, принадлежащая Google, занимающаяся искусственным интеллектом, в настоящее время тестирует собственный чат-бот с искусственным интеллектом Sparrow. Рейтер регулирование многоцелевых систем было сложным.

«Мы считаем, что создание структуры управления вокруг GPAIS должно быть инклюзивным процессом, а это означает, что должны быть вовлечены все затронутые сообщества и гражданское общество», — сказала Александра Белиас, глава отдела международной государственной политики фирмы.

Она добавила: «Вопрос здесь в том, как нам убедиться, что структура управления рисками, которую мы создаем сегодня, будет адекватной завтра?»

Даниэль Эк, исполнительный директор платформы потокового аудио Spotify, которая недавно запустила собственного «AI DJ», способного создавать персонализированные плейлисты, рассказал Рейтер технология была «палкой о двух концах».

«Есть много вещей, которые мы должны учитывать», — сказал он. «Наша команда очень активно работает с регулирующими органами, пытаясь сделать так, чтобы эта технология приносила пользу как можно большему количеству людей и была максимально безопасной».

Члены Европарламента говорят, что закон будет регулярно пересматриваться, что позволит обновлять его по мере появления новых проблем с ИИ.

Но с учетом того, что в 2024 году на горизонте должны состояться европейские выборы, они вынуждены сделать что-то существенное с первого раза.

«В обсуждениях нельзя торопиться, и нельзя идти на компромиссы только для того, чтобы дело можно было закрыть до конца года», — сказал Лойфер. «На карту поставлены права людей».