Что такое системный промпт?

пробовал в одном конструкторе ботов сам системный промпт прописать, реально работает, бот потом всю переписку держит заданный стиль пока не сменишь настройку

Системный промпт — это инструкции, которые задают модели правила поведения на весь разговор, а не на одно сообщение. Их обычно прописывает разработчик сервиса ещё до того, как пользователь начинает переписку: какой тон использовать, какие темы избегать, в каком формате отвечать, иногда даже какую роль или персонажа играть. Пользователь такой промпт, как правило, не видит и не может его полностью отменить обычным сообщением в чате. При этом в некоторых инструментах есть возможность задать похожие правила самому — например, в начале диалога попросить модель придерживаться определённого стиля до конца разговора. Разница в приоритете: системные инструкции разработчика обычно имеют больший вес, чем то, что пишет пользователь, поэтому полностью «переубедить» бота одной фразой обычно не получается.

Системный промпт — это набор инструкций, который задаёт модели правила поведения на весь разговор, а не только на одно сообщение. Обычно его пишет разработчик сервиса ещё до того, как пользователь откроет чат: тон общения, границы допустимых тем, формат ответов, иногда даже персонаж бота. Пользователь такой промпт чаще всего не видит, он работает «под капотом». При этом в части интерфейсов есть возможность и самому задать похожие правила: например, в кастомных ассистентах или в начале диалога можно написать «дальше отвечай кратко и только по-русски», и модель будет держать это правило до конца переписки, пока вы его не смените. Разница в основном в уровне доступа: системный промпт разработчика имеет приоритет и обычно не может быть полностью переписан обычным сообщением пользователя.

у некоторых ботов реально видно что есть системный промпт, спрашиваешь одно и то же а тон разный от сервиса к сервису

• системный промпт — правила игры, которые задаёт модели тот, кто её настраивает, а не тот, кто с ней болтает
• это не одно сообщение, а фон, который держится весь разговор: тон, границы тем, формат ответов, иногда легенда персонажа
• обычный пользователь его не видит, он просто ощущает результат: бот вежливый, или сухой, или отказывается говорить о конкретных темах
• в готовых сервисах вроде чат-ботов на сайтах системный промпт прописывает разработчик, и юзер повлиять на него напрямую не может
• в кастомных инструментах и части приложений можно задать что-то похожее самому: правило вроде «отвечай только списком» держится, пока его явно не отменят
• путать системный промпт с обычным сообщением не стоит: обычное сообщение — это разовая просьба, системный промпт — это как бы должностная инструкция для модели на весь диалог
• иногда пользователи пытаются обойти системный промпт хитрыми формулировками, это как раз и называют промпт-инъекцией, и разработчики стараются от такого защищаться
• на практике для рядового пользователя чата разница ощущается так: с одним ботом можно грубить и он отвечает жёстко, с другим — та же фраза встретит вежливый отказ, и дело именно в системном промпте, а не в настроении модели