«Яндекс» обучил нейросеть проверять тексты на наличие галлюцинаций

Новый навык уже применяется для более точных описаний локаций в «Картах»

«Яндекс» обучил нейросеть, разработанную на базе YandexGPT, самостоятельно проверять сгенерированные тексты на наличие галлюцинаций. Как пояснил Sostav представитель компании, за счет нового подхода удалось в шесть раз сократить число неточностей в созданных нейросетью кратких описаниях мест и достопримечательностей в «Яндекс Картах».

Кроме того, по словам собеседника, переход на обновленную модель позволил использовать меньше вычислительных мощностей и удешевить ее работу.

Ранее за создание кратких описаний в «Картах» отвечали пять различных моделей — каждая из них выполняла определенную функцию, например, расставляла запятые или фильтровала отзывы по полезности. Теперь все задачи решает одна обновленная модель.

«Яндекс» повысил качество работы нейросети в том числе благодаря дообучению. Разработчики расширили датасет эталонными примерами генераций предыдущих моделей. Так, модель на базе YandexGPT научилась создавать «более полезные описания».

Посмотреть краткие описания достопримечательностей и заведений можно в карточке организации в блоке «Коротко о месте» и в разделе «Поток» режима персональных рекомендаций «Идеи». Сейчас в «Картах» доступно несколько сотен тысяч карточек с кратким описанием.

Ранее в рамках бета-тестирования к «Поиску» и «Рекламной сети» «Яндекса» добавилось еще одно место показа — в «Картах». Ежемесячно в них ищут организации 43 млн пользователей.

Источник: sostav.ru