MemoryScope – 爲LLM聊天機器人配備的長期記憶系統

MemoryScope是什麼

MemoryScope是一個爲大型語言模型（LLM）聊天機器人設計的長期記憶系統。通過構建一個框架，使機器人記住用戶的基礎信息、習慣和偏好，提供個性化的交互體驗。MemoryScope具備記憶數據庫、核心worker庫和核心Operation庫，支持記憶檢索、記憶鞏固、反思與再鞏固等功能。MemoryScope通過向量數據庫存儲記憶片段，基於多個worker處理記憶相關的任務。MemoryScope支持時間感知，根據時間上下文提供相關記憶。提升聊天機器人的連貫性和“理解”能力，使用戶在使用過程中感受到“默契”。

MemoryScope的主要功能

• 記憶數據庫：基於向量數據庫（如ElasticSearch）存儲記憶片段。
• 核心Worker庫：將長期記憶能力分解成多個獨立的worker，負責不同的任務，如信息查詢過濾、觀察提取、洞察更新等。
• 核心Operation庫：基於worker的pipeline構建，實現記憶檢索和記憶鞏固等核心能力。
• 記憶檢索：根據用戶輸入返回語義相關的記憶片段，如果輸入包含時間信息，會返回相應時間的記憶片段。
• 記憶鞏固：處理用戶輸入，提取重要信息並存儲爲觀察（observation）形式的記憶片段。
• 反思與再鞏固：定期對新記錄的觀察進行反思，形成和更新洞察（insight）形式的記憶片段，並執行記憶再鞏固，處理記憶片段間的矛盾和重複。

MemoryScope的技術原理

• 向量數據庫：用向量數據庫存儲記憶片段，基於向量相似度進行高效的檢索。
• 原子化Worker：將長期記憶能力分解成多個獨立的worker，每個worker負責特定的任務，如信息過濾、觀察提取等，提高系統的靈活性和可擴展性。
• Pipeline架構：基於pipeline架構組織worker，實現記憶檢索和記憶鞏固等操作，提高處理效率。
• 語義相關性：通過自然語言處理技術，分析用戶輸入的語義，返回相關的記憶片段。
• 時間上下文處理：系統能理解時間上下文，根據時間信息檢索記憶片段。
• 記憶片段的層次結構：記憶片段存儲爲層次結構，洞察作爲高層次信息，由相似主題的觀察聚合而成。

MemoryScope的項目地址

• 項目官網：modelscope.github.io/MemoryScope
• GitHub倉庫：https://github.com/modelscope/MemoryScope

MemoryScope的應用場景

• 個人助理：作爲個人助理，MemoryScope幫助機器人記住用戶的日程安排、偏好設置、常用聯繫人等信息，提供更加貼心的服務。
• 情感陪伴：在情感陪伴機器人中，MemoryScope記錄用戶的情緒變化和交流歷史，使機器人更好地理解和響應用戶的情感需求。
• 客戶服務：在客戶服務領域，MemoryScope幫助機器人記住客戶的歷史交互記錄和偏好，提供更加個性化的服務。
• 教育輔導：在教育輔導機器人中，MemoryScope記錄學生的學習進度和偏好，提供定製化的學習建議和輔導。
• 健康諮詢：在健康諮詢機器人中，MemoryScope記錄用戶的健康狀況和生活習慣，提供個性化的健康建議。