UFO² 是微软发布的新一代桌面智能体操作系统,支持自然语言操控Windows多应用,集成图像识别与原生API调用,提升办公自动化与用户交互智能化。

UFO²

下一代Windows智能代理的世界——UFO²(The Desktop AgentOS)。这是微软最新发布的跨应用任务调度平台,一款从“助手”进化为“操作系统”的AI框架,彻底改变了我们与桌面系统的交互方式。

🚀 UFO² 是什么?

UFO² 是由微软研发的“桌面智能体操作系统”(Desktop AgentOS),也是其原始项目 UFO(UI-Focused Agent) 的全新升级。它能够跨多个 Windows 应用自动执行任务,结合自然语言理解、操作系统控制、知识检索、视觉识别等技术,打造出无需编程即可操控多软件工作流的智能化代理平台

相比传统的 UI 自动化工具,UFO² 具备更强的“意图解析 + 多模态控制 + 动态学习能力”。

🧩 UFO² 的主要功能

功能 描述
深度系统集成 集成 Windows UIA、Win32 和 WinCOM 接口,全面感知并控制桌面环境。
混合控制机制 结合 GUI 控制与原生 API 调用,实现更稳定、更快的任务执行。
虚拟桌面运行(即将上线) 在隔离桌面环境中运行Agent,不打扰用户正常操作。
多步任务预测执行 利用“推测性执行器”,批量预测并验证操作,减少调用次数达 51%。
持续知识基底 融合文档、搜索结果、用户演示与历史记录形成 RAG 知识库。
图像与结构化识别结合 同时支持标准控件与自定义UI的视觉识别。

🏗️ 技术原理解析

🔄 多智能体架构

  • HostAgent解析自然语言目标,协调任务拆分、跨App通信与状态管理。
  • AppAgent为每个应用创建专属Agent,结合ReAct模式与图形+API控制。
  • Puppeteer执行器智能选择GUI操作或API调用。
  • 推测性执行在一次推理中完成多个操作预测与验证,减少交互延迟。
  • RAG知识体系支持智能体从文档、搜索和用户演示中动态学习。

🧠 UFO² 的应用场景

  • 办公自动化自动处理 Word/Excel/PPT 任务。
  • 跨软件操作流如在 Excel 中筛选客户数据,自动填入 Outlook 邮件。
  • 企业级RPA替代方案取代传统机器人流程自动化,降低维护成本。
  • 智能客服系统通过自然语言快速完成用户请求响应。
  • 教育与教学辅助自动展示软件操作流程,生成教学记录。

📚 官方文献与资源

📦 快速上手指南

请参考官方 Quick Start Guide 快速运行 UFO² 桌面智能体,体验自然语言如何驱动 Windows 桌面操作。

📍 UFO² 开发进度(Roadmap)

  • ✅ Picture-in-Picture 模式(下版本上线)
  • ✅ AgentOS-as-a-Service(即将支持服务器部署)
  • ✅ 自动调试工具(Auto-Debugger)
  • 🔄 Agent 间通信(Agent2Agent)正在开发中
  • 🔄 集成 Microsoft Copilot 平台(MCP)

🤖 相关项目推荐

🧭 AI工具网点评

UFO² 是目前最接近“操作系统级别AI管家”的项目之一。 它不仅具备传统UI自动化无法企及的灵活性与稳定性,更通过 Agent 分层设计,实现跨应用协同与语义级别的任务理解。其推测性多动作执行与持续学习能力,将为未来所有“智能办公”“自动工作站”“AI PC”类场景奠定基础。

对于企业自动化、个人效率工具甚至教育培训平台,UFO² 都可能成为革命性的核心组件。

蛙蛙写作