Киберпреступники используют искусственный интеллект для обмана пользователей на сайтах знакомств

Киберпреступники используют genAI для мошенничества пользователей в приложениях знакомств и на сайтах

Согласно 9News, боты общаются с людьми, которые считают, что разговаривают с настоящим человеком, и развивают связь в течение длительного периода. Затем они пытаются убедить пользователя приложения перевести деньги.

Этот вид мошенничества был назван “LoveGPT”, в отсылке к инструменту genAI ChatGPT.

В отчете также отмечается, что мошенники используют клонирование голоса, чтобы выдавать себя за людей и убедить жертв, что они настоящие, когда они таковыми не являются.

В отчете приводится комментарий эксперта по кибербезопасности Эвана Вудварда, который объяснил, что эти боты ИИ были обучены развивать определенную личность или быть привлекательными.

Вудвард даже сказал публикации, что как только мошенники узнают, что пользователи приложений для знакомств находятся в уязвимой ситуации, они начнут “общаться” с ними и строить отношения.

Рост использования искусственного интеллекта привел к созданию правительствами по всему миру законодательства о его регулировании.

В июне Европейский союз принял самый полный в мире закон об искусственном интеллекте. Австралия пытается догнать это развитие.

В сентябре Австралийский комиссар по интернет-безопасности одобрил отраслевой кодекс, который будет регулировать поисковики, чтобы обеспечить защиту от рисков, связанных с искусственным интеллектом.

В августе также были изложены шаги, которые техническая индустрия может предпринять, чтобы защитить детей от опасностей, связанных с genAI, поскольку было отмечено увеличение материалов сексуального насилия над детьми, созданных с использованием ИИ и deepfakes, которые поступали в агентство на жалобы.

Австралийская комиссия по конкуренции и защите прав потребителей сообщила, что австралийцы потеряли рекордные 3,1 миллиарда долларов от мошенничества в 2022 году.

Если пользователи столкнулись со мошенничеством, они могут сообщить о случившемся в Scamwatch, который дает полезные советы, как избежать онлайн-мошенничества.
Оригинальная новость на сайте