Про важность промптов при работе с ИИ
Тестил RAG-цепочку. Всё вроде работает: чанки подбираются корректные, запросы проходят, но модель отвечает:
«У меня нет информации по данному вопросу.»
Хотя нужная инфа точно была в контексте. Вроде бы баг... но на самом деле — нет.
Проблема оказалась в промпте.
А точнее — в этой строчке:
«Не нужно от себя что-то придумывать.»
И, видимо, модель решила: «Ну раз нельзя — то я лучше вообще ничего не скажу». Испугалась, условно говоря 😅
Удалил эту фразу — и всё сразу заработало. Ответы пошли, логика восстановилась, цепочка ожила.
Вывод: даже одна лишняя фраза в системном промпте может "запугать" LLM и сломать всю магию. Будьте аккуратны.