Amazon внедряет инновационные меры безопасности для корпоративных клиентов.

Amazon (AMZN.O) пытается переманить крупных корпоративных клиентов к своему сервису облачных вычислений AWS, предлагая защитить их от юридического и репутационного ущерба, который может быть нанесен результатами искусственного интеллекта.

Генеральный директор AWS Адам Селипски на ежегодной конференции Amazon по облачным вычислениям в Лас-Вегасе объявил о новой защите от нежелательного контента в генеративных приложениях искусственного интеллекта под названием Guardrails for Bedrock. По его словам, сервис позволяет пользователям фильтровать вредоносный контент.

Поскольку генеративный ИИ обучается на общедоступном контенте, оскорбительные слова или другой нежелательный контент могут попасть в результаты из подсказок пользователей. Это особенно проблематично для молодых пользователей во время глобальных конфликтов или во время выборов, когда результаты генеративного ИИ в результатах поиска могут повлиять на мнение.

Сторонники безопасности предупреждают, что генеративный ИИ может действовать вне контроля своих создателей и выкачивать все более опасный контент или управлять целыми системами без надзора. В частности, они обеспокоены тем, что программное обеспечение размещает влиятельный и убедительный контент на сайтах социальных сетей, таких как X и Facebook (META.O).

Селипски сказал, что новая услуга важна для клиентов, поскольку они позволяют наложить ограничения на используемый ими генеративный искусственный интеллект.

«Например, банк может настроить онлайн-помощника, чтобы он воздерживался от предоставления инвестиционных советов», — сказал Селипский. «Или, чтобы предотвратить нежелательный контент, сайт электронной коммерции мог бы гарантировать, что его онлайн-помощник не будет использовать разжигание ненависти или оскорбления».

Также на конференции Amazon объявила, что защитит своих клиентов от судебных исков, связанных с неправомерным использованием материалов, защищенных авторским правом. Компания Getty Images, занимающаяся стоковой фотографией, например, в начале этого года подала в суд на Stability AI, утверждая, что она без разрешения удалила изображения со своего сайта.

По словам Amazon, сегодня Guardrails for Bedrock находится в ограниченной предварительной версии. Компания из Сиэтла не предоставила дополнительных подробностей о своей политике возмещения убытков.
Оригинальная новость на сайте