США запускают собственный институт по безопасности ИИ – сенсационная новость!

США создадут институт по безопасности искусственного интеллекта (ИИ), который будет оценивать известные и новые риски так называемых “фронтовых” моделей искусственного интеллекта. Глава министерства коммерции США Джина Раймондо заявила об этом на AI Safety Summit в Великобритании. Она также пообещала, что институт создаст официальное партнерство с Институтом по безопасности Великобритании. Инициатива будет входить в состав Национального института стандартов и технологии (NIST) и будет возглавлять усилия правительства США по обеспечению безопасности ИИ, в частности, по обзору передовых моделей. Институт “будет способствовать разработке стандартов для безопасности, защиты и тестирования моделей ИИ, созданию стандартов для аутентификации контента, созданного с помощью ИИ, и предоставлять условия для исследователей для оценки новых рисков, связанных с ИИ, и устранения известных последствий”, – говорится в заявлении департамента. Президент США Джо Байден подписал распоряжение по искусственному интеллекту, требующее, чтобы разработчики ИИ-систем, создающих риски для национальной безопасности, экономики, общественного здоровья или безопасности, делились результатами испытаний на безопасность с правительством США в соответствии с Законом о производстве обороны до их публикации. Распоряжение также обязывает агентства устанавливать стандарты для такого тестирования и решать связанные с ним химические, биологические, радиологические, ядерные и кибербезопасности.

Читать полную новость на сайте