Обнаружил, что мой агент сам придумал себе адрес на гитхабе и отправлял туда все изменения. Мне ничего не сказал и везде в заданиях у него прописан верный мой репозиторий. На вопрос зачем он так выдумал сказал хз не помню
Отключил у него гитхаб и бэкапы, сам буду делать руками и локально.
А если сделать справочник ему, куда прописывать важную инфу? Ну как конфиг, переменные окружения
Они прекрасно обходят все запреты и записи. Уже третий раз вижу глобальный провал в безопасности агентов. Никакие записи в файлы, сценарии, указания не помогут. Они прекрасно все забывают и начинают выдумывать. Только жесткое ограничение в самом конфиге и отказ от хранения ценной информации в рабочей области ботов. Иначе стопроцентно все будет опубличено. Сам бот все расскажет и выдаст.
Это пост для тех, кто там ставит себе агентов для бухгалтерии или на предприятии. Крайне опасная фигня, если могут быть последствия от выдачи информации.
поменьше промпта - побольше кода. ИИшки там, где они реально необходимы функционально. проснулась, выполнила задачу связанную с необходимостью использования интеллекта, в люлю. остальное - чатики
Телеграм как минимум в openclaw достаточно зарегулирован. Но любой код в песочнице с доступным web_fetch небезопасен изначально