Senior
Guardrails
Суть в одном предложении:
Правила безопасности ИИ.
Развернутое определение
Ограничения, встроенные в модель для предотвращения вредных или опасных ответов.
Пример из практики
Модель отказывается объяснять как сделать бомбу из-за guardrails.
Как говорят в чатах вайбкодеров
«Гуардрейлы не дают агенту удалить весь проект»