Австралийские организации больше обеспокоены предвзятостью данных: опрос

опрос из более чем 640 респондентов (200 из них в регионе APAC, включая Австралию) обнаружили, что 78% считают, что предвзятость данных станет более серьезной проблемой по мере увеличения использования ИИ и МО, по сравнению с 86% респондентов в Австралии.

А 84 процента респондентов из Австралии считают, что им нужно больше делать для устранения предвзятости данных в своих организациях, что является самым высоким показателем среди опрошенных стран.

Эти различия не отражались в опасениях по поводу текущей предвзятости данных: 65 процентов всех респондентов считают, что она существует в их организациях, по сравнению с 66 процентами среди австралийцев.

Типы предвзятости, влияющие на использование систем AI/ML, включают предвзятые наборы данных; систематическая ошибка модели, алгоритма или обучения; и бессознательные предубеждения людей.

Основными предполагаемыми препятствиями для устранения предвзятости данных в австралийских организациях были:

• Отсутствие осведомленности и понимания возможных предубеждений (62 процента)

• Непонимание того, как лучше всего определить предвзятость данных (50 процентов)

• Непонимание того, как лучше всего избежать или устранить предвзятость данных (48 процентов)

• Отсутствие сопричастности/ответственности (42 процента)

• Отсутствие инструментов для выявления и устранения систематической ошибки в данных (34 процента).

Прогресс Вице-президент APJ Джон Янг сказал: «Предвзятость ИИ вызывает растущую озабоченность австралийских организаций. Но хотя лица, принимающие решения в сфере бизнеса и ИТ, осознают проблемы, которые он поднимает, кажется, что существует много путаницы и непонимания способов решения проблемы. это.”

Тем не менее, австралийские организации работают над устранением предвзятости различными способами, включая обеспечение полноты наборов данных (72 процента), обучение программистов и пользователей вопросам предвзятости данных (50 процентов), оценку своих поставщиков и поставщиков на предмет предвзятости данных, которая может повлиять организация (48 процентов) и тратят больше времени на обучение моделей ИИ (44 процента).

Проблемы, сдерживающие эти усилия, включают отсутствие технологий (70 процентов), навыков и обучения (56 процентов), политики и управления (44 процента), а также стратегии и видения (42 процента).

Также широко распространено мнение, что с предвзятостью данных нужно бороться централизованно (78%), и больше респондентов считают, что ответственность за это должен нести ИТ-директор или технический директор (38%), а не директор по данным (16%).

Что касается рисков, связанных с предвзятостью данных, респондентов больше всего беспокоили:

• Плохой клиентский опыт (88%).

• Негативное влияние на разнообразие и инклюзивность сотрудников (86 процентов)

• Несправедливые стереотипы (82 процента)

• Юридическое воздействие (82 процента)

«Борьба с предвзятостью ИИ требует обучения тому, почему и как создается и распространяется предвзятость. Затем вам потребуются правильные инструменты и технологии для ее устранения в сочетании с правильными человеческими навыками. внедрить общеорганизационные процессы, в которых участвуют разработчики, часто лежащие в основе создания программного обеспечения, приложений и цифровых продуктов организации», — сказал Ян.

Он добавил: «86% опрошенных австралийских руководителей, принимающих решения в сфере бизнеса и технологий, заявили, что организации несут социальную ответственность за понимание и устранение предвзятости данных. Это осознание очень позитивно, но теперь необходимо предпринять дополнительные действия, если мы хотим избежать более широких социальных последствий. от предприятий, которые не решают должным образом проблемы смещения данных».

Исполнительный вице-президент Progress и генеральный менеджер платформы приложений и данных Джон Эйнсворт сказал: «Каждый день предвзятость может негативно сказаться на бизнес-операциях и принятии решений — от управления и утраты доверия клиентов до финансовых последствий и потенциального юридического и этического воздействия». «Мы ставим наших клиентов в центр всего, что мы делаем, и, изучая все, что может сделать AI/ML, мы хотим, чтобы наши клиенты были вооружены правильной информацией, чтобы принимать наилучшие решения для развития своего бизнеса».

Опрос был проведен для Progress британской компанией Insight Avenue, в ходе которой были опрошены бизнес- и ИТ-специалисты из стран Америки, Европы и Азии из организаций, в которых работает более 500 человек.