Nvidia выпускает программные инструменты для чат-ботов с искусственным интеллектом, чтобы обуздать нежелательные ответы и опасную информацию

415

Nvidia, крупный поставщик чипов и вычислительных систем для искусственного интеллекта, во вторник выпустила набор программных инструментов, призванных помочь чат-ботам следить за своим языком.

Чипы Nvidia помогли таким компаниям, как Microsoft, добавить функции человеческого чата в поисковые системы, такие как Bing. Но чат-боты по-прежнему могут быть непредсказуемыми и говорить то, чего их создатели не хотели бы.

Microsoft в феврале ограничила пользователей пятью вопросами за сеанс с помощью своей поисковой системы Bing после того, как New York Times сообщила, что система давала тревожные ответы во время долгих разговоров.

Программные инструменты Nvidia, предоставляемые бесплатно, призваны помочь компаниям защититься от нежелательных ответов от чат-ботов. Некоторые из этих применений просты: создатель чат-бота для обслуживания клиентов может не захотеть, чтобы система упоминала продукты его конкурентов.

Но инструменты Nvidia также предназначены для того, чтобы помочь создателям систем искусственного интеллекта принять важные меры безопасности, такие как обеспечение того, чтобы чат-боты не передавали потенциально опасную информацию, например, о том, как создавать оружие, или отправлять пользователей по неизвестным ссылкам, которые могут содержать компьютерные вирусы.

Законодатели США призвали к регулированию систем искусственного интеллекта, поскольку популярность таких приложений, как ChatGPT, резко возросла. Существует несколько юридических правил или отраслевых стандартов о том, как сделать системы ИИ безопасными.

Джонатан Коэн, вице-президент по прикладным исследованиям в Nvidia, сказал, что компания стремится предоставить инструменты для включения этих стандартов в программный код, если и когда они появятся, будь то благодаря отраслевому консенсусу или регулированию.

«Я думаю, что трудно говорить о стандартах, если у вас нет способа их реализовать», — сказал он. «Если появятся стандарты, тогда будет хорошее место для их размещения».


Читать полную новость на сайте