PRACTICE / AGENT LAB
Как безопасно тестировать агента, изменяющего собственный runtime: Как безопасно тестировать агента, изменяющего собственный runtime
Этот практический материал описывает самоизменяющийся агент может повредить защитные механизмы или сделать результаты эксперимента невоспроизводимыми. и задаёт воспроизводимый тест по теме «Как безопасно тестировать агента, изменяющего собственный runtime» без неподтверждённых обещаний результата.
Граница теста
Проверяем только сценарий: самоизменяющийся агент может повредить защитные механизмы или сделать результаты эксперимента невоспроизводимыми.. Материал не утверждает готовность контура к production.
Минимальный сценарий
Зафиксируйте входные данные, настройки модели и критерий приёмки. Ожидаемый результат: Изолированный прототип с защищёнными файлами, обязательным ревью изменений и замороженными снимками для оценки.. Каждому прогону присвойте стабильный идентификатор.
Проверка
Повторите тест на одинаковом наборе, сохраните измерения и сравните их с критерием. Не подменяйте измеренные данные выводом модели.
Ограничения
Это воспроизводимый учебный сценарий, а не сертификация безопасности и не гарантия поведения в production.
Связанные измерения
Материал использует измеренные запросы: . Он не обещает поискового результата.