Автономные агенты на базе ИИ создают риски безопасности, включая потенциал для катастрофических сбоев в работе, если их не контролировать должным образом. Отраслевые эксперты предлагают обеспечивать безопасность этих агентных циклов путем тщательного управления контекстом, строгих ограничений на использование инструментов и продуманного планирования.