Старший

Guardrails

💡 Правила безопасности ИИ.

Определение

Ограничения, встроенные в модель для предотвращения вредных или опасных ответов.

Пример

Модель отказывается объяснять как сделать бомбу из-за guardrails.

Как говорят вайбкодеры

««Гуардрейлы не дают агенту удалить весь проект»»