联系我们  |  加入学会  |  登录会员系统  |  English
【CSIG挑战赛】Agent Memory Challenge Agent记忆公开挑战赛即将启动

时间:2026-08-22

CSIG图像图形技术挑战赛是由中国图像图形学会(CSIG)主办的系列赛事,旨在促进图像图形技术及相关产业的发展和应用,扩大企业产品开源技术的推广,帮助企业吸引更多的优秀人才。

Agent Memory ChallengeAgent记忆公开挑战赛即将启动


01 目的与意义

随着大模型智能体(Agent)技术快速发展,长期记忆已经成为下一代智能系统的重要基础能力。在真实应用场景中,高质量的记忆系统能够帮助 Agent 实现更加稳定、连续和个性化的任务执行能力。然而,目前各系统在评测数据和评分方法上差异较大,公开成绩难以横向比较。

为推动智能体记忆技术发展,建立开放、公平、可复现的 Agent Memory Benchmark,我们发起新一期 Agent Memory Challenge,并以 Agent Memory Leaderboard(AML)作为统一评测平台。参赛系统仅需提供标准化的 Add(记忆写入) 与 Search(记忆检索) 接口,即可参与公开评测。平台将统一完成任务调度、答案生成、自动评分、人工复核以及排行榜发布。

本期比赛从 2026 年 9 月 20 日持续至 10 月 31 日,共42天。


02 组织机构

主办单位:中国图像图形学会(CSIG)

承办单位:南京大学、浙江大学、Datawhale、CSIG企业联络与标准化工作委员会


03 赛事概览

比赛时间  2026 年 9 月 20 日 00:00 至 10 月 31 日 23:59(UTC+8)。

比赛期间,参赛者可自行安排报名,提交后可在官网查看任务进度与结果。

1. 参赛费用:本次比赛不收报名费。最终问题的回答以及评测编排由平台承担;参赛记忆系统使用的API、数据库、带宽及算力等由参赛方自行准备。

2. 参赛对象:面向全球高等院校、科研院所、企事业单位、开源社区及独立研究团队/个人开放。支持个人参赛或团队参赛,允许跨单位自由组队。

3. 报名与提交:参赛者按官网指引填写报名信息、申请评测密钥(Key);平台审核通过后以邮件形式下发评测密钥;参赛者使用密钥登录AML系统,配置Add和Search接口、测试通过即可提交正式评测,全程无需寄送纸质材料。

4. 成绩发布:评测和复核按提交顺序滚动进行,通过人工审核的成绩将进入对应赛道榜单。


04 竞赛赛道与参赛组别

竞赛赛道

1. 文本赛道:重点考查长期多轮对话中的事实精准召回、多跳逻辑关联、时间序列推理、用户画像个性化对齐以及记忆安全边界。

2. 代码赛道:面向软件工程场景,考查记忆系统能否从历史任务中找回有用的调试过程、开发经验和项目上下文,并用于解决后续问题。

3. 多模态赛道:考查系统对图像、音频、视频和文本信息的记忆能力,包括跨模态关联、线索检索和上下文衔接。

参赛组别

1. 开源方法榜:高校、科研机构、个人研究者及开源团队均可报名。参赛者需提供记忆系统的Add/Search API。同时,参赛者还需提供可公开核验的 GitHub 仓库,并说明方法来源、作者。

2. 商业产品榜:适用于商业闭源产品和企业内部系统。内部实现无需公开,但须提供固定产品版本,以及稳定可用的 Add / Search API。

同一个参赛者可以同时参与多个赛道,但只能选择一种参赛组别。三个赛道单独排名,开源方法和商业产品也分别展示,便于同类系统之间比较。

05 赛程安排

09.20  赛事开放

官网开启参赛入口,开始接收报名。

09.20 - 10.31  滚动接入与评测

参赛者可随到随提,并按照官网的指引进入测评队列,平台按找先进入先服务的原则开展测评。评测完成后,平台将复核结果与版本、运行记录和合规情况。遇到异常任务,按官网流程处理。

10.31  23:59  本期截止

关闭本期提交入口,已经提交报名且尚未完成评测任务的提交仍可以继续开启评测任务。

11.4  23:59  评测队列运行终止

关闭本期评测队列。鉴于评测周期大约在0.5-2天,请参赛者尽早提交稳定API开始测试。

11月中旬

成绩发布

06 提交流程

提交说明:本次比赛不设线下报名点,所有操作都在官网完成。主办方只在资格、版本、合规和成绩发布前进行必要复核。

1. 进入官网  打开 Agent Memory Leaderboard,先阅读参赛说明和 API 接入指南。

2. 选择赛道  在文本、代码、多模态中选择一个赛道,再选择学术方法或商业产品组别。

3. 固定版本  确定本次参赛版本,填写系统名称、联系人、提交路径及可公开信息,并备好运行说明。

4. 提交申请  按页面表单提交 GitHub 仓库或 Add / Search API,同时提供鉴权、容量和运行所需材料。

5. 完成接入  获得评测密钥后按页面指引提交正式API信息,完成接入。

6. 运行冒烟测试与全量测评 运行 Smoke 测试,确认接口返回结构完全匹配协议。确认无误后再发起 Full 进行正式评测,进度可在页面实时查看。

7. 查看结果  任务状态和个人成绩可在 官网Evaluation 页面查看,满足公榜条件的结果会进入复核,复核通过的将在公榜进行展示。

07 提交路径与材料

学术方法 

提交材料包含:

(1)参赛代码,需放在公开的 GitHub 仓库中,并固定 commit 或版本;

(2)Add / Search 接口信息,包括公网可访问到的API地址、鉴权方式和运行说明,并说明容量、超时和限流设置。接口由参赛方自行部署,评测期间保持可用;

(3)代码实现说明文档。

商业产品 

(1)Add / Search 接口信息,包括公网可访问到的API地址、鉴权方式、专用凭证(如有)、和运行说明,并说明容量、超时和限流设置。接口由参赛方自行部署,评测期间保持可用;

(2)方案简要说明文档,请勿披露任何涉及商业机密的信息。

共同材料清单

1. 系统名称、版本、联系人、机构或团队、参赛赛道、参赛组别和提交路径。

2. 方法或产品说明,方法来源与本次改动,运行环境、启动方式及必要配置。

3. 可公开展示的系统信息,以及复核时需要的版本、日志和运行材料。

4. 自行部署的接口须在提交后至2026年11月4日期间保持公网可访问,期间请勿更改 API 契约、鉴权方式或容量设置。

08 统一评测机制

为保证同一赛道的成绩可以比较,平台会在评测周期内固定数据版本、接口协议。公开子集用于接入检查和复现,私有题目与答案不会向参赛者开放。

接口说明如下:参赛者需严格遵循接口规范进行开发,确保请求格式、参数类型及返回值结构符合定义。评测系统将自动调用接口执行测试用例,依据响应时间、准确率及资源消耗等指标进行综合打分。任何偏离协议的实现都将导致评测失败或成绩无效。建议在正式提交前,利用平台提供的公开子集数据进行充分自测与调试,以验证系统的稳定性与兼容性,避免因环境差异或配置错误影响最终排名。

1. Add:接收评测记忆,完成存储、组织、索引和更新。

2. Search:根据问题返回相关记忆或证据,不负责生成最终答案。

09 提交与公榜规则

1. 小型测试数据集(Smoke)用于检查 Add/Search、鉴权及端到端链路,可按照官网给出的频率限制自助运行。

2. 全量评测数据集(Full)为正式计分评测。任务成功或部分完成后,同赛道下该参赛者进入 30 天冷却期,冷却期内无法再次主动发起提交测评;若运行失败或取消,则可以按页面提示重新处理。在完整的赛事周期内,最多执行2次Full评测。

3. 每次全量评测任务受理后,参赛版本即被冻结。代码、镜像、API 及鉴权信息须与申报内容保持一致。

4. 成绩进入榜单须通过材料、小型测试、全量评测、版本及复核五项检查。

5. 评测结果将先显示在参赛者账户中,通过资格与合规复核后,再进入对应的公开榜单。

10 合规与数据安全

1. 每个 user_id、任务和样本都要独立处理,评测记忆不得跨用户、跨任务、跨团队或跨运行共享。

2. 严禁硬编码、基准泄漏、提示词注入、人工实时答题、结果操纵、恶意刷榜和未披露的代码复用。

3. 使用他人论文、仓库或代码时,请注明原作者、技术报告和许可证,并写清本次做了哪些改动。

4. 评测数据及派生副本仅用于完成当前任务,不得用于训练、微调、产品分析、数据集重建或对外传播。

11 奖金与参赛权益

本期比赛设置总奖金池人民币 150,000元,覆盖文本、代码和多模态三个赛道(仅开源方法榜),具体设置如下:

【榜单排名奖项】

一等奖(每个赛道各1名):奖金人民币 20,000元

二等奖(每个赛道各2名):奖金人民币 8,000元

三等奖(每个赛道各3名):奖金人民币 3,000元

【方法贡献特别奖项】

最佳技术创新奖(每个赛道各1名):奖金人民币 5,000元

12 报名入口与联系

报名提示  2026 年 9 月 20 日起,参赛者可进入 Evaluation 页面提交。首次接入前,请先读完参赛说明和 API 接入指南。

报名入口(申请评测Key):https://agentmemoryleaderboard.ai/evaluation

参赛说明:https://agentmemoryleaderboard.ai/rules

API 指南:https://agentmemoryleaderboard.ai/api-guide

赛事仓库:https://github.com/AML-memory/agent-memory-leaderboard

咨询邮箱:contactus@agentmemoryleaderboard.ai

扫码了解赛事

1787203866693900.png

如赛程、规则或评测配置有调整,以官网最新公告为准。

Copyright © 2026 中国图像图形学会

京公网安备 11010802035643号 京ICP备12009057号-1

地址:北京市海淀区中关村东路95号 邮编:100190

技术支持:中科服