Саммер Юэ отвечает за безопасность ИИ в Meta*. Она поручила агенту OpenClaw разобрать свой личный Gmail.

По сути, бот должен был только предложить, что отправить в корзину, но в итоге начал удалять ВСЕ письма подчистую.

Всё из-за переполнение контекста. Ящик оказался огромным, и при саммари контекста алгоритм просто забыл стартовую инструкцию ждать аппрува.

На отчаянные команды остановиться в Telegram бот не реагировал 😵

Девушке пришлось бежать к Mac mini и убивать процессы через диспетчер задач. Итог: минус 200 писем.

После перезапуска агент извинился и сам прописал себе правило больше не заниматься автономной чисткой.

Иронично, что жертвой стала именно глава отдела по контролю над нейросетями. Сама девушка сказала, что совершила ошибку новичка, дав агенту слишком много доступа.

* запрещенная в РФ организация

Главные новости ИИ в источнике — 🎯 НЕЙРО-ПУШКА