1.6 KiB
1.6 KiB
Pretor 是一款基于 Ray 构建的下一代分布式多 Agent 协作系统。项目采用“中心监管 + 边缘执行”的异构集群模式,通过大参数 MoE 模型进行高层逻辑推理,并协同微调后的轻量化模型高效完成具体任务。借助 Pydantic-AI 提供的强类型约束与 FastAPI 异步网关,Pretor 实现了任务从需求拆解、资源调度到自动化执行的全链路闭环,为个人提供可靠的人工智能助手服务。
特别之处?
- 本项目通过 Ray 和 vllm 实现个人个性化助手的创建,你可以通过收集符合你自己偏好的数据,构建独属于自己的风格的人工智能助手。
- 本项目通过多 Agent 协作,实现比起单 Agent 系统更强的性能,从而完成更复杂的任务。
- 本项目通过调用本地模型,从而减少对于昂贵的API使用和一定程度上的安全保护。如果你是创作者,可以通过用自己的作品去训练属于自己的模型,提高工作效率。
- (暂未实现)本项目适配多种消息平台,实现在外可通过多种方式给 Pretor 下达指令完成工作。
- (暂未实现)本项目内置 growth_node(生长节点) ,实现傻瓜式微调模型操作,让你的 Pretor 自己学会一些独特的技能。
快速开始
本项目正在开发中...