Галлюцинации в LLM: что это и как с ними бороться?

Сейчас использование LLM — крайне горячая тема. Кто же не знает про ChatGPT? Но языковые модели все еще имеют особенности применения. Одна из таких особенностей — они «выдумывают». Это не плохо, скорее, особенность их работы. Но для применения в реальных проектах это может быть критично. Это значит, что нам нужны методы для детекции «галлюцинаций» LLM и методы борьбы с этим явлением. Об этом и будет доклад.