Бретонские летучие мыши ЕС выступают за ужесточение правил искусственного интеллекта

218

Глава отрасли ЕС Тьерри Бретон заявил, что новые предлагаемые правила искусственного интеллекта будут направлены на устранение опасений по поводу рисков, связанных с чат-ботом ChatGPT и технологией искусственного интеллекта, в первых комментариях к приложению высокопоставленного чиновника Брюсселя.

Всего через два месяца после запуска ChatGPT, который может генерировать статьи, эссе, шутки и даже стихи в ответ на запросы, был признан самым быстрорастущим потребительским приложением в истории.

Некоторые эксперты высказывают опасения, что системы, используемые такими приложениями, могут быть использованы для плагиата, мошенничества и распространения дезинформации, даже несмотря на то, что сторонники искусственного интеллекта приветствуют это как технологический скачок.

Бретон сказал, что риски, связанные с ChatGPT — детищем OpenAI, частной компании, поддерживаемой Microsoft, — и системы искусственного интеллекта подчеркивают острую необходимость в правилах, которые он предложил в прошлом году в попытке установить глобальный стандарт для этой технологии. В настоящее время правила обсуждаются в Брюсселе.

«Как показал ChatGPT, решения ИИ могут предлагать большие возможности для бизнеса и граждан, но также могут создавать риски. Вот почему нам нужна надежная нормативно-правовая база для обеспечения надежного ИИ на основе высококачественных данных», — сказал он в письменном комментарии Reuters. .

Microsoft отказалась комментировать заявление Бретона. OpenAI, чье приложение использует технологию, называемую генеративным ИИ, не сразу ответила на запрос о комментариях.

OpenAI заявила на своем веб-сайте, что стремится создать искусственный интеллект, который «принесет пользу всему человечеству», пытаясь создать безопасный и полезный ИИ.

В соответствии с проектом правил ЕС ChatGPT считается системой искусственного интеллекта общего назначения, которую можно использовать для различных целей, включая задачи с высоким риском, такие как отбор кандидатов на работу и оценка кредитоспособности.

Бретон хочет, чтобы OpenAI тесно сотрудничал с нижестоящими разработчиками систем искусственного интеллекта с высоким уровнем риска, чтобы они могли соблюдать предложенные Закон об ИИ.

«Тот факт, что генеративный ИИ был недавно включен в определение, показывает скорость, с которой развиваются технологии, и то, что регулирующие органы изо всех сил стараются не отставать от этого темпа», — сказал партнер американской юридической фирмы.

Более жесткое соответствие для «высокого риска» ИИ

По словам руководителей нескольких компаний, занимающихся разработкой искусственного интеллекта, компании обеспокоены тем, что их технологии будут отнесены к категории ИИ с «высоким риском», что приведет к ужесточению требований соответствия и увеличению затрат.

Опрос, проведенный отраслевой организацией applyAI, показал, что 51 процент респондентов ожидают замедления своей деятельности по разработке ИИ в результате пандемии. Закон об ИИ.

Эффективное регулирование ИИ должно быть сосредоточено на приложениях с наивысшим риском, написал президент Microsoft Брэд Смит в своем блоге в среду.

«Бывают дни, когда я настроен оптимистично, и моменты, когда я настроен пессимистично в отношении того, как человечество будет использовать ИИ», — сказал он.

Бретон сказал, что Европейская комиссия тесно сотрудничает с Советом ЕС и Европейским парламентом для дальнейшего уточнения правил в Закон об ИИ для систем ИИ общего назначения.

«Люди должны быть проинформированы о том, что они имеют дело с чат-ботом, а не с человеком. Прозрачность также важна в отношении риска предвзятости и ложной информации», — сказал он.

Генеративные модели искусственного интеллекта необходимо обучать на огромном количестве текста или изображений для создания правильного ответа, ведущего к обвинениям в нарушении авторских прав.

Бретон сказал, что предстоящие обсуждения с законодателями правил ИИ будут охватывать эти аспекты.

Опасения по поводу плагиата со стороны студентов побудили некоторые государственные школы США и французский университет Sciences Po запретить использование ChatGPT.

Читать полную новость на сайте