США следят за ИИ в компаниях, чтобы убедиться, что он не нарушает гражданские права

25 апреля (Рейтер) — Официальные лица США во вторник предупредили финансовые компании и другие организации, что использование искусственного интеллекта (ИИ) может повысить риск предвзятости и нарушений гражданских прав, и дали понять, что они контролируют рынки за такую ​​дискриминацию.

По словам руководителей Бюро финансовой защиты потребителей, отдела гражданских прав Министерства юстиции, Федеральной торговой комиссии и других, рост зависимости от автоматизированных систем в таких секторах, как кредитование, трудоустройство и жилье, угрожает усугубить дискриминацию по признаку расы, инвалидности и других факторов.

Растущая популярность инструментов искусственного интеллекта, в том числе поддерживаемого Microsoft Corp (MSFT.O) Open AI ChatGPT, побудила регулирующие органы США и Европы усилить контроль за их использованием и побудила принять новые законы, чтобы обуздать эту технологию.

«Заявления об инновациях не должны служить прикрытием для нарушения закона», — заявила журналистам Лина Хан, председатель Федеральной торговой комиссии.

Бюро финансовой защиты потребителей пытается связаться с информаторами из технологического сектора, чтобы определить, где новые технологии противоречат законам о гражданских правах, сказал директор Бюро финансовой защиты потребителей Рохит Чопра.

В сфере финансов фирмы по закону обязаны объяснять неблагоприятные кредитные решения. По словам Чопры, если компании даже не понимают причин решений, которые принимает их ИИ, они не могут использовать его на законных основаниях.

«То, о чем мы здесь говорим, часто связано с использованием обширных объемов данных и разработкой корреляций и других видов анализа для создания контента и принятия решений», — сказал Чопра. «Мы говорим здесь о том, что вы несете ответственность за эти решения».