当前位置:首页>AI工具>AI大模型>AndesGPT-OPPO旗下AI大模型

AndesGPT-OPPO旗下AI大模型

OPPO AndesGPT是什么?

11 月 16 日,在2023 OPPO开发者大会上,OPPO 正式推出了自主训练的大模型 AndesGPT。AndesGPT有三大类规格:AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan,可涵盖十亿至千亿以上多种不同参数规模的模型规格,根据不同场景智能调度。

据介绍,AndesGPT 拥有对话增强、个性专属和端云协同三大技术特征,对于大模型带来的变革,OPPO 认为体现在四个方面:知识、 记忆、工具和创作

  • 在知识能力方面,AndesGPT 融合了知识图谱及通用搜索能力,为用户提供更专业的问答。通过知识增强技术,将外部知识与模型融合生成结果,降低幻觉。
  • 在记忆能力方面,AndesGPT 实现长期记忆机制,以支持无限长度的上下文和有状态服务。而长期记忆带来首字推理延迟这个技术挑战。为了解决该难题,OPPO 研发了一种注意力算 法命名为 SwappedAttention。SwappedAttention 能够在多轮长上下文对话中,有效降低每个 query 的首字推理时长。其核心技术原理是,通过外部存储和 KV 压缩的方式实现会话级 KV 缓存。结合 PagedAttention 算法一起使用,能够带来 50%的首字延迟降低,以及 30%的推理吞吐提升。
  • 工具使用也是 AndesGPT 一项核心能力,更好的理解设备控制与服务 API,端到端生成可执行指令。 目前 AndesGPT 已支持使用系统设置、一方应用、三方服务、代码解释器等各类工具。
  • 在创作方面,AndesGPT 已全面支持文生图与图生图场景。

AndesGPT模型在SuperCLUE测评基准的排行榜上表现出色,特别是在“知识与百科”能力测试中,得分高达98.33,仅次于GPT4,排名国内第一。

OPPO AndesGPT可以做什么?

OPPO AndesGPT的主要功能是提升对话能力,尤其是在与智能助理核心应用场景的结合上。它通过引入高质量的知识图谱和问答数据,以及对预训练和指令精调技术的优化,显著提高了模型在知识和百科方面的覆盖面和准确性。AndesGPT将被用于加强OPPO智能助手小布的AI能力,并逐步应用于更多OPPO核心产品中。

AndesGPT

OPPO AndesGPT适用人群

OPPO AndesGPT主要适用于使用OPPO智能设备的用户。这包括那些需要高效、准确的语音助手服务的用户,特别是那些依赖智能手机进行日常任务和信息查询的人。

随着技术的进一步整合和发展,AndesGPT可能会扩展到更广泛的用户群体,包括企业用户和开发者,他们可以利用这种高级AI技术来提升产品和服务的智能化水平。

悬河ai 吐司AI绘画

©版权声明:如无特殊说明,本站所有内容均为AIHub原创发布和所有。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。否则,我站将依法保留追究相关法律责任的权利。
0 条回复
    暂无讨论,说说你的看法吧
error: