Шокирующая новость! Китайские ученые разработали инструмент ИИ для исправления галлюцинаций

Команда исследователей из Университета науки и технологии Китая (USTC) и YouTu лаборатории Tencent разработала инструмент Woodpecker, предназначенный для исправления галлюцинаций в многомодальных моделях естественного языка (MLLM).

Галлюцинация – это одна из нарастающих проблем генеративного искусственного интеллекта (AI), когда большая языковая модель (LLM), такая как ChatGPT от OpenAI или Bard от Google, генерирует неточную или ложную информацию, не основанную на реальных данных или событиях.

Согласно исследовательской статье, Woodpecker предлагает новый подход с помощью “метода обучения без тренировки”, который исправляет галлюцинации в сгенерированном тексте.

Для обнаружения и исправления галлюцинаций используются три предварительно обученных AI-модели, такие как GPT-3.5 Turbo, Grounding DINO и BLIP-2-FlanT5.

Предложенная структура выполняет исправление в пять этапов – извлечение ключевых концепций, формулировка вопросов, проверка визуальных знаний, генерация визуальных утверждений и исправление галлюцинаций.

Исследователи отмечают, что каждый шаг в пайплайне является понятным и прозрачным, что обеспечивает его хорошую интерпретируемость.

Они также утверждают, что эти техники показали многообещающие результаты на контрольных тестах, демонстрируя улучшения в точности, точности, полноте и f1-мере по сравнению с базовыми моделями.

Утверждается, что Woodpecker “эффективно” решает как галлюцинации на уровне объекта, так и на уровне атрибута, предоставляя структурированное визуальное знание в качестве ссылки в процессе коррекции.

“Woodpecker улучшает надежность ответов, генерируемых MLLM, и уменьшает галлюцинации. Он может достигнуть точности 79,2 процента с низкими показателями пропуска и неправильной коррекции”, – заявили исследователи.

Фреймворк легко интегрируется с различными MLLM, служа как общий модуль “подключи и играй”. Исследователи в настоящее время предоставили открытый доступ к инструменту с интерактивной демонстрацией для дальнейшего изучения.

Читать полную новость на сайте