Правительства и компании должны увеличить расходы на безопасность искусственного интеллекта, заявляют ведущие исследователи

Ведущие исследователи в области искусственного интеллекта заявили в документе, что компании и правительства должны выделять не менее трети своих средств на исследования и разработки в области искусственного интеллекта для обеспечения безопасного и этичного использования систем. Документ содержит рекомендации по мерам, которые должны быть предприняты правительствами и компаниями для решения проблем, связанных с рисками искусственного интеллекта. В документе, написанном тремя лауреатами Премии Тьюринга, лауреатом Нобелевской премии и более дюжиной выдающихся ученых в области искусственного интеллекта, говорится, что правительства также должны требовать, чтобы компании несли юридическую ответственность за вред, причиненный их передовыми системами искусственного интеллекта, если такой вред можно было предвидеть и предотвратить. Сейчас нет широкомасштабных законов, регулирующих безопасность искусственного интеллекта, и первый пакет законодательства Европейского союза еще не стал законом, так как законодатели не смогли согласовать несколько вопросов. Говорится, что современные модели искусственного интеллекта слишком мощны и значимы, чтобы их развивали без демократического контроля. Одним из авторов документа является Йошуа Бенджио, один из трех известных как “отцы-основатели” искусственного интеллекта. В документе также упоминаются другие выдающиеся исследователи в области искусственного интеллекта. В связи с запуском генеративных моделей искусственного интеллекта OpenAI ведущие ученые и высокопоставленные главы компаний, такие как Илон Маск, предупреждают о рисках искусственного интеллекта и требуют приостановки на шесть месяцев разработки мощных систем искусственного интеллекта. Некоторые компании возражают против этого, говоря, что им придется нести высокие затраты на соблюдение требований и несоизмеримые риски. Британский компьютерный ученый Стюарт Рассел заявил, что компании будут жаловаться на то, что им трудно удовлетворить регулятивные требования, и называет это “подавлением инноваций”. В документе отмечается, что на компании по искусственному интеллекту налагается больше регуляций, чем на сэндвич-магазины.

Оригинальная новость на сайте