Ответственный ИИ: что это такое и почему это важно?

Тем не менее, все еще существуют некоторые неправильные представления об этичном ИИ, в том числе о том, что он на самом деле означает и почему он важен.

Доктор Алекс Антик

Австралийский лидер в области данных и аналитики CDO и соучредитель Healices Health, а также соучредитель Аналитика двух ветокs, д-р Алекс Антик, уважаемый лидер в области данных и аналитики, признанный IAPA одним из пяти ведущих лидеров аналитики в Австралии. Антик любит, чтобы ответ был простым говоря«Этика ИИ гарантирует, что человек находится в центре решения.

«Если вы разрабатываете систему, в которой используются технологии, важно понимать, какое влияние она может оказать на конечного пользователя. Вы должны помнить, что эту технологию можно легко масштабировать, поэтому решение, которое затрагивает небольшую группу людей, принимает не один человек — это может быть одно решение, затрагивающее тысячи или миллионы людей. Как убедиться, что это делается этично, честно и справедливо?»

Опасности доверия технологиям для принятия бизнес-решений

Опасность доверять технологии, позволяющей делать правильные вещи и собирать данные правильным образом, в наши дни слишком велика для всех ролей, но особенно для HR. Антик считает, что иметь определенный уровень прозрачности и понимания того, как принимаются решения, жизненно важно.

Он говорит, что следующие вопросы могут помочь убедиться, что вы используете ИИ этично и ответственно:

• Почему вы собираете данные в первую очередь?
• Какие данные вам нужны?
• Для чего вы будете использовать эти данные немедленно?
• Если бы вы были на другом конце, как бы вы отнеслись к тому, что эти данные используются для этой цели? Вас бы это устраивало?
• Есть ли у вас потенциальные проблемы или вопросы?

«Не собирайте данные просто так, не только с этической точки зрения, вам также нужны качественные данные, которые соответствуют целям вашей организации», — подчеркивает Антик. «Вы не можете взять никаких данных, и вдруг это магия. Вы не просто бросаете это в черный ящик и получаете осмысленное решение.

«Скорее, важно сосредоточиться на безопасном и надежном сборе и хранении данных с соблюдением всеобъемлющих четких этических принципов в отношении того, что можно собирать и почему они собираются и используются. Кроме того, использование данных может определяться конкретными рекомендациями и структурами, но в зависимости от желаемого результата это может быть сопоставление данных и деидентификация для обмена данными. Но все должно быть сделано в рамках правил и законодательства и только то, что правильно».

Он добавляет: «Организациям необходимо подумать о сквозном конвейере и жизненном цикле данных. Им нужно подумать о том, что они собирают, как они их хранят, для чего они используются, когда данные удаляются, как кто-то может удалить данные, какие метаданные были собраны вокруг них и сохранены, и какие процессы управления данными.

«Это все важные аспекты, а не просто собирать данные, получать результат и не беспокоиться обо всех серых битах по бокам. Я имею в виду, что когда дело доходит до этичного и ответственного использования ИИ, они становятся абсолютно первостепенными для принятия ответственных решений в конце».

Преодоление предубеждений с помощью ИИ

В настоящее время ответственный и этичный ИИ используется для защиты от предвзятости и поощрения разнообразия. Так как же это возможно?

«Прежде всего, для организации важно понимать бизнес-контекст, в котором она работает, и что для нее означает предвзятость. Как правило, предвзятость связана с областями, которые могут проявляться и приводить к несправедливым результатам», — объясняет Антик.

«Но часто многие организации не понимают, как это происходит на самом деле. Первоначально речь идет о понимании того, как может закрасться предвзятость. Как вы определяете предвзятость? Вы, скорее всего, никогда не удалите его, но как его идентифицировать и попытаться с ним работать? И тогда как вы определяете предвзятость в вашей организации и как вы можете попытаться решить ее?

«Некоторые люди повернутся ко мне и скажут: «Послушайте, люди предвзяты. Если ИИ просто отражает человеческие предубеждения, то почему это вызывает беспокойство?» И я думаю, что есть две действительно важные части, которые люди должны понять.

«Одно из них — масштаб. Как мы упоминали ранее, модели могут иметь далеко идущие последствия. Они могут усилить и увековечить предвзятость так, как ни один предвзятый человек никогда не смог бы сделать с точки зрения того, как мы используем эту технологию. Но они также могут позволить нам спрятаться за нашими моральными обязательствами и оправдать аморальные суждения».

Антик утверждает, что предвзятость нельзя полностью устранить. Поэтому лучшее, что могут сделать организации, — это работать над тем, чтобы понять это, идентифицировать его, а затем уменьшить в масштабируемых системах.

Что касается трех вещей, которые можно сделать на высоком уровне, он советует думать о «трех D». «Все дело в данных, открытиях и разнообразии», — говорит он. «Что касается данных, важно понимать их как с технической точки зрения, так и с точки зрения предметной области. Это имеет решающее значение для понимания того, как предвзятость заложена в данных.

«Тогда следующее D — это открытие. Как на самом деле определяются справедливость и предвзятость? Если вы поговорите с тремя разными компаниями, вы можете получить три совершенно разных определения. То, что объяснимо мне, будет сильно отличаться от того, что объяснимо вам. Таким образом, всегда существует компромисс между справедливостью и точностью, особенно при разработке моделей машинного обучения, которые необходимо манипулировать и принимать. И это нюанс, который, я думаю, упускают некоторые люди на высоких уровнях. Это может быть довольно сложно».

В конечном счете, по его словам, системы ИИ должны помогать организациям принимать более обоснованные решения. Что касается разнообразия (третий D), организация должна определить справедливость, мораль, конфиденциальность, прозрачность и объяснимость. «Будущее заключается в совместной работе людей и машин для развития общества, а не только в том, чтобы мы зависели от машин с ИИ», — говорит Антик. «На самом деле речь идет об интеграции и работе в этих отношениях человека и машины, которые, я думаю, являются ядром».

Чтобы послушать, что доктор Алекс говорит в этом полном выпуске подкаста «Максимизация преимуществ данных и ИИ», перейдите по ссылке связь.

О SnapLogic

SnapLogic поддерживает автоматизированное предприятие. Интеграционная платформа самообслуживания компании на базе искусственного интеллекта помогает организациям подключать приложения и источники данных, автоматизировать общие рабочие процессы и бизнес-процессы, а также предоставлять клиентам, партнерам и сотрудникам исключительный опыт. Тысячи предприятий по всему миру используют платформу SnapLogic для интеграции, автоматизации и преобразования своего бизнеса. Узнайте больше на snaplogic.com.