я не хотел агента ИИ с доступом ко всей моей жизни.


я хотел агента, с которым команда в конечном итоге сможет напрямую общаться.
но я не хотел, чтобы "поговорить с агентом ABALLE" тайно означало "дать команде боковой вход в мой личный Obsidian-кошелек."
поэтому я настроил Olivia: @NousResearch агент Hermes для ABALLE, работающего на VPS, живущего в Discord, с разрешительной политикой, подписанной @Ledger.
полный кошелек остается локальным.
VPS получает курируемый пакет контекста ABALLE.
Olivia может читать заметки ABALLE, встречи, операционные документы и материалы репозитория.
цель не только удобство.
цель — сегрегация.
контекст ABALLE должен быть доступен Olivia.
мои торговые заметки, контакты, личные проекты и несвязанный материал кошелька не должны быть.
она может писать в работу + исходящее.
она не может тихо редактировать мой Obsidian-кошелек.
у нее нет sudo, доступа к торговле, личных контактов, широкого .env и ключей Shopify/Omnisend/Meta в реальном времени.
затем я подписал манифест разрешений с моим Ledger.
мой Ledger одобрил политику.
Unix-разрешения, конфигурация Hermes, systemd и ограниченные обертки обеспечивают её выполнение.
эта сегрегация — то, что делает возможной командную версию позже.
другие люди могут взаимодействовать с Olivia в Discord и вносить сигналы обратно в систему.
но Olivia имеет только ту часть контекста, которую ей дали.
не все, что я знаю.
не все, над чем я работаю.
не все в кошельке.
это кажется правильным примитивом.
безопасность агента не должна быть "промпт сказал быть осторожным."
она должна быть:
1. явная политика
2. подписанный авторитет
3. ограниченное время выполнения
4. проверенный исходящий ящик
5. новая подпись для новых полномочий
следующее: Omnisend.
Olivia должна иметь возможность читать метрики списка/приветственного потока и создавать черновики кампаний.
но не отправлять.
не планировать.
не изменять контакты.
не менять теги.
не трогать автоматизации.
ограниченная автономия > один бог-агент.
модель важна.
архитектура разрешений важнее.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено