По тегу «безопасность и доверие»Показать все
- Копирование объясняет коллективное поведение ИИ-агентовТысячи краткоживущих ИИ-агентов начали общаться через публичную wiki. Разбираем исследование о том, что подобие коллективного поведения оказалось простым копированием ближайшего окружения.
- Когда память делает ИИ-агента хужеИИ-агенты склонны доверять информации из долговременной памяти, даже когда она устарела. Сильные модели обычно лучше замечают очевидный конфликт с актуальными данными, но стоит пометить старую запись более свежей датой — и преимущество исчезает. Конфликт нужно разрешать в системе памяти — до сборки контекста.
- P2P-сети агентов: разбор двух исследованийДве научные работы предлагают архитектуру P2P-сети, в которой агенты находят исполнителей, проверяют доверие и договариваются о работе. Разбираю идеи простым языком и оцениваю, насколько далеко они продвинулись.