人工智能 · 2024年3月7日 0

AI Agent迅速进入移动终端,手机智能体开创新的跨端跨应用业务连接场景

AI Agent涌向移动终端,手机智能体势不可挡

还没搞清楚什么是AI Agent,手机Agent就已经横空出世

AIGC为何涌向移动端?背后有哪些逻辑?什么是手机智能体?一文看明白

科技大厂、手机厂商、企服领域都在发力,手机智能体成AI Agent新趋势

AI Agent迎来移动端大爆发,手机智能体将成企业AIGC新标配

AI Agent移动应用大升级,手机智能体开启跨端跨应用业务连接新场景

文/王吉伟

春节期间OpenAI推出的AI视频模型Sora火出天际,到处都是文生视频模型如何厉害如何改变真实世界的信息,以至于OpenAI在AI Agent方面的最新动向都被掩盖了。

春节前的2月8日,科技媒体The Information报道OpenAI正开发两款革命性的Agent软件,其中一款能够有效接管客户的设备来自动执行复杂的任务。

据说,这个Agent能够自动执行点击、光标移动、文本输入等操作,与人类操作软件无异。例如,把文档中的数据传输到电子表格中进行分析,或者自动填写费用报告并将其输入会计软件,或者根据一定的预算制定行程或预订机票。

这个能够直接操纵个人电脑自动完成各种任务的智能体,现在被更多媒体称作AI Agent 2.0。

这些报道没有具体说明这款Agent所接管的设备是PC还是手机,不过ChatGPT有移动端,能够在手机或者平板上调用这个Agent是迟早的事。

想要在移动端构建AI Agent的大语言模型(LLM,Large Language Models)厂商,远不止OpenAI这一家。

去年12月,腾讯与德州大学达拉斯分校合作推出了一个名为AppAgent的项目。该项目可以通过自主学习和模仿人类的点击和滑动手势,在手机上执行各种任务。

项目地址:

https://github.com/mnotgod96/AppAgent

论文地址:

https://arxiv.org/abs/2312.13771

包括在社交媒体上发帖、帮助用户撰写和发送邮件、使用地图、在线购物,甚至进行复杂的图像编辑。AppAgent在50个任务上进行了广泛测试,涵盖了10种不同的应用程序。

2月初,阿里巴巴与北京交通大学联合推出了一款全新的手机操作智能体框架Mobile-Agent。该框架的核心优势在于其纯视觉解决方案。传统的手机操作方式往往需要依赖XML等标记语言以及系统元数据,而Mobile-Agent则完全摒弃了这些需求。

项目地址:

https://github.com/X-PLUG/MobileAgent

论文地址:

https://arxiv.org/abs/2401.16158v1

这意味着,用户无需进行复杂的设置或修改,只需通过直观的视觉指示即可完成操作。

AI Agent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景 -

除了科技大厂,LLM创业团队也推出了相应的Agent项目。比如在去年12月,清华&智谱AI团队推出的CogAgent-Chat。CogAgent是一个基于180亿参数规模的视觉语言模型(VLM)的图形用户界面(GUI)智能体,专注于GUI图形交互界面的理解和导航。

CogAgent使用屏幕截图作为输入,在PC和Android GUI导航任务上超越了基于语言模型的方法,如Mind2Web和AITW,引领了GUI理解领域的最新技术发展。

论文:

https://arxiv.org/abs/2312.08914

代码:

https://github.com/THUDM/CogVLM

Demo:http://36.103.203.44:7861/

如今的大语言模型在具体应用方面都是多端通用,MAS和SaaS模式使得LLM厂商推出的AI Agent构建平台及个体能够应用于手机端也是必然。

AI智能体涌向移动端,已经成为AIGC行业发展的必然趋势。

AI Agent趋势:涌向移动端

系统厂商与终端厂商的步子,甚至比大模型厂商迈得还要大。毕竟他们更贴近用户,了解市场需要什么,也知道自己在哪里突破。

这些厂商对于AI Agent的探索比我们预想得要早很多,且已经拿出初步成果。

也是在春节前夕,微软推出了名为UFO的Windows Agent。这是一款用于构建用户界面(UI)交互智能体的 Agent 框架,能够快速理解和执行用户的自然语言请求。

项目地址:

https://github.com/microsoft/UFO

技术报告:

https://arxiv.org/abs/2402.07939

UFO可以在Windows内自主回答用户查询,可在单个或者跨多个App中无缝导航和操作来满足Windows 操作系统上的用户请求。可以更加智能地理解用户的意图,不用人工干预,自动执行相应的操作。

AI Agent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景 -

如果你想从一份Word文档中提取文本、对照片应用程序中的图像进行观察、以及总结 PowerPoint中的内容,利用所有这些信息撰写一封深度的电子邮件内容并完全自主发送时,你只需要借助一个UFO框架就可以完成。

这意味着,以前需要大量手动工作的跨应用程序工作流程,现在可以直接简化为针对 UFO 的简单自然语言指令。

UFO,或许会成为下一代Windows系统的核心。以后搭载windows系统的笔记本电脑等移动终端,将会因UFO而开启全新用户体验。

重点在于,其他系统也会效仿Windows,AI Agent将会成为各个系统的标配。

把LLM以及AI Agent装入PC或者移动终端,硬件厂商将其称作AI PC或者AI 手机。

自从LLM能够在端侧部署之后,硬件厂商们就开启了狂飙模式,而LLM的落地应用主要途径的AI Agent模式也首先进入其法眼。

在2024 CES上,联想首次提出“智能终端AI OS”,即在AI技术驱动下,智能终端将内嵌个人Agent(智能体)、个人大模型、本地知识库、应用接口,形成下一代AI OS。并认为,AI技术的突破将在PC、手机、AIoT等所有智能终端产品领域掀起第三次技术革命浪潮,重塑终端体验及产业生态。

据悉,联想个人Agent或将在4月份与用户见面。

面对新生代AI硬件设备AI pin和Rabbit R1 所展现的“准AI Agent”属性,手机厂商们早已经坐不住,强势展开了对AI智能体的角逐。

1月份,小米、华为、vivo、理想等几家公司联合清华大学智能产业研究院(AIR)共同发布了一篇个人LLM智能体综述论文(也是一个标准),该论文梳理了个人LLM智能体所需的能力、效率和安全问题,收集并整理了领域专家的见解,还开创性地提出了个人LLM智能体的5级(L1—L5)智能水平分级法。

论文地址:

https://arxiv.org/abs/2401.05459

文献库:

https://github.com/MobileLLM/Personal_LLM_Agents_Survey

今后各家的智能体处于什么水平,参照这个标准便会一目了然,也为移动终端的Agent构建提供了更多参考方向。当然,这个标准的推出也意味着厂商们对于移动终端智能体的积极探索与更大的市场需求。

AI Agent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景 -

OPPO等推出的AI手机,用户实测后的感触是越来越像Agent,至少已经能够达到上述标准的L2级。

OPPO与IDC在联合发布的《AI手机白皮书》中,还给AI手机下了一个明确的定义。

OPPO还公布1+N智能体生态战略,核心包括OPPO AI超级智能体和AI Pro智能体开发平台。

其中1指的是AI手机的智能OS,扮演AI时代操作系统的角色,具备传统智能手机不支持的自学习感知能力、长期记忆能力和工具调用能力。它可以与用户专属的智能体、第三方智能体的交互和信息统筹。N指的就是前面所述的用户智能体和第三方智能体等构成的全新智能体生态。

AI Agent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景 -

理想汽车参与这份标准的研究,则映射的是AI Agent适配人车交互场景的广阔市场。国盛证券在一篇报告中指出,AI Agent面向复杂任务处理,充分适合人车交互场景,是数字人的核心演进方向。

座舱智能化时代,用户在驾乘中会有各种个性化需求,数字人被赋予更多的施展能力的空间,其使命是通过AI Agent实现AGI向汽车座舱渗透,实现三屏互动(手机屏、车载屏和家用屏)。

而Meta与雷朋合作推出的第二代智能眼镜,接入多模态AI后,也开始向AI Agent”靠拢。不必再为不同任务选用不同应用程序,只需用日常用语告诉设备需求,眼镜就能基于软件获取的信息,为用户作出量身回应。

企服的爆发:Agent渐成标配

科技巨头公司及企业服务厂商,也早在AI Agent移动终端的应用方面下足了功夫。

字节跳动在2月初正式推出了「Coze 扣子」AI Bot 开发平台。任何用户都可以快速、低门槛地搭建自己的 Chatbot,且平台支持用户将其一键发布到飞书、微信公众号、豆包等渠道。

除了可以创建自己的Chatbot,Coze官方还提供了Bots 商店和插件。插件的使用,可以让用户构建的机器人更