Автоматическая оценка соответствия требованиям получателей поддержки по инвалидности и определение того, сколько средств они должны получать, будут продолжаться, но не заменят ручное утверждение и не предотвратят модификации.
Совместный министр Национальной системы страхования по инвалидности (NDIS) и государственных служб Билл Шортен заявил вчера, что проблема с применением алгоритмов предыдущим правительством для оценки потребностей пользователей NDIS и финансовой поддержки заключалась в том, что они убрали из этого «человеческий элемент». ».
Отмечая предстоящую «перезагрузку NDIS», Шортен сказал, что вопросы о сокращениях или ассигнованиях на финансирование схемы в размере 35,8 миллиардов долларов должны быть отложены до федерального бюджета в следующем месяце, но он обязался использовать автоматизацию, не узурпируя ручное планирование.
Но он также сообщил Национальному пресс-клубу, что автоматический анализ данных получателей и поставщиков NDIS может улучшить финансовую устойчивость схемы, устойчивость к мошенничеству и персонализацию.
НДИС “РобоПланирование”
Каждый год более 550 000 участников NDIS должны пройти проверку на предмет того, соответствуют ли их «планы» относительно суммы денег, которую они получают за предварительно утвержденные продукты и услуги. «разумно и необходимо».
Правительство Моррисона провело испытание «независимой оценки» и наняло смежных медицинских работников использовать непрозрачный инструмент для оценки пользователей NDIS как одного из 400 «личностей» и соответственно распределять их «персонализированные бюджеты».
Планировалось, что «независимые оценки» заменят оценки, основанные на материалах специалистов или врачей получателей.
В противоположность этому Шортен назвал системы независимой оценки «RoboPlanning» и сказал, что оно основано на некорректных математических формулах..
«Он был построен в черном ящике. И сообщество инвалидов боится и ненавидит его на законных основаниях», — сказал он.
Исходный код инструмента никогда не публиковался. Представитель Национального агентства по страхованию инвалидности (NDIA) сообщил сенату, что оценки были основаны на «типе инвалидности, возрасте и ряде других факторов».
Возражение со стороны сектора инвалидности, который утверждал, что система 400 человек не учитывает разнообразие потребностей пользователей NDIS и не обеспечивает достаточную персонализацию, привел к тому, что Коалиция в конечном итоге отказалась от плана в июле 2021 г..
Однако использование автоматизированных актуарных и прогностических инструментов в определениях NDIS предшествовало испытанию Коалицией «независимых оценок»; как и критика отсутствия прозрачности инструментов или способности распознавать конкретные потребности людей.
Но Шортен вчера сказал, что правительство не собирается от них избавляться.
Шортен сказал, что не было проблем с использованием технологий автоматизации и анализа данных в операциях NDIS, если они использовались этично и прозрачно.
«Мы всегда будем использовать автоматизацию и обработку данных», — сказал он.
«В мире инвалидности так много данных… Мы недостаточно используем данные.
«Автоматизация и использование данных превосходны, но это цель, для которой они используются, и то, как они являются этической основой для этого».
Сочетание автоматизированных и ручных оценок
Индивидуальные планы NDIS автоматически генерировались алгоритмами, которые предсказывали их потребности и требуемый уровень финансовой поддержки задолго до «независимых оценок» коалиции.
пользователя «типичный пакет поддержки» основан на их возрасте, инвалидности и уровне функционирования и средние потребности людей в этих категориях.
Однако некоторые этапы процесса все еще требуют вмешательства человека. Пакет поддержки можно изменить, если окажется, что он не соответствует конкретным потребностям пользователей, и представитель NDIA должен подписать план.
Шортен сказал, что гибридный подход не похож на «Robodebt», который автоматизирует весь цикл от сопоставления данных до выдачи уведомления о долге, требующего выплаты пособия.
«Robodebt заключался в том, чтобы полагаться на один факт», — сказал Шортен. «Если доход, который вы задекларировали в социальные службы, отличался от вашего среднего годового дохода по данным налоговой инспекции, то правительство снимает с себя бремя доказывания, и человек должен был доказать свою невиновность».
Оценки NDIS больше похожи на то, чем была Online Compliance Intervention до того, как она стала Robodebt.
Отчетный доход получателей социальных пособий сравнивался с их усредненными годовыми налоговыми отчетами для автоматического выявления расхождений с 2001 года. Расхождения оценивались вручную, пока в 2016 году не был запущен Robodebt.
Сторонники комбинированного подхода говорят, что он позволяет NDIS быть последовательным в том, какая поддержка, которую он определяет, необходима людям аналогичного возраста, инвалидности и функций, сохраняя при этом определенную степень человеческого надзора.
Критики утверждают, что использование алгоритмов по-прежнему распределяет людей по широким категориям, игнорируя при этом их индивидуальные потребности, лишая их прозрачности в отношении процесса принятия решений.
«Все участники и семьи могут видеть конечные результаты автоматических корректировок в виде, казалось бы, произвольного сокращения финансирования людей, когда они подают заявку или проходят проверку», отчет UNSW сказал в прошлом году.
В отчете содержится призыв к пересмотру NDIS, которую Shorten запустил в октябре, чтобы полностью избавиться от автоматических оценок.
Алгоритмическая прозрачность
Вчера Шортен сказал, что «всегда должны существовать этические рамки использования ИИ», а также прозрачность того, как он кодируется и реализуется.
«Я считаю, что в идеале, где это возможно, исходный код должен быть открытым, чтобы люди могли видеть, что происходит», — сказал Шортен.
«И лучшая защита данных — это совместное производство с гражданами… чем больше граждане чувствуют, что могут контролировать свои собственные данные, тем больше они доверяют правительству».
Тем не менее, пользователи и заявители NDIS остаются в неведении относительно того, как алгоритмы оценивают их право на участие или анализируют уровень поддержки, которую они получают.
Запрос свободы информации [pdf] для документов, содержащих «дату начала использования алгоритмов NDIA для оценки финансирования плана участников NDIS» и «документ, в котором излагаются этические рамки для использования алгоритмов при оценке финансирования плана NDIS участников», не было найдено никаких результатов.
В письме с решением, опубликованном в прошлом году, агентство заявило, что «это связано с тем, что NDIA не использует алгоритмы для оценки финансирования плана».
Возможно, отказ был основан на семантике, когда агентство считает, что алгоритмы используются для «наведения», а не для «оценки» финансирования плана.
Читать полную новость на сайте
