首页»版块 › MagicOS › MagicOS ›端云之别,静待花开
#荣耀MagicOS#

端云之别,静待花开

[复制帖子标题和链接]

9162

近观沧海  LV8  发表于 2024-3-6 10:47:19 广东 来自:荣耀Magic V2
     在网络大模型时代会问问题,在未来会是一种核心能力,否则网络大模型跟你沟通的效率会降低。但恰恰是端侧大模型对你理解最深,帮你把背后的潜藏意识跟云侧大模型沟通,可能是效率最佳的。

      所谓端侧大模型是和云侧大模型相对应,完全运行在本地,无需联网,在飞行模式下也能使用,但相应的,端侧大模型的参数规模要比云侧大模型小一两个量级,需要的算力也少很多。一般而言,端侧大模型比较流行的参数规模为 70 亿,而目前最热的 GPT-3.5 的参数规模为 1750 亿。

     与云侧 AI 大模型不同,荣耀端侧 AI 大模型基于个人化理解和感知来完成场景化任务闭环。其优势在于可以更好的学习用户个人数据,且个人数据不出端、不上云,隐私信息更安全,是个人化的智慧生命体。同时在端侧积累个人知识库,可迁移、可继承、可成长。随着端侧 AI 对用户个人数据和习惯的学习成长,能够带来更深入的意图理解和更加个性化的复杂场景服务。

      另外,端侧大模型还有一个优势就是成本低,因为运算完全在本地的芯片上,不会消耗服务器算力,成本只有手机电量,但是云侧大模型的成本就是肉眼可见的了,Open AI CEO 曾经表示,ChatGPT 问答一次的成本为数美分,约人民币 o.5 元,虽然后续成本有所降低,但每次问答背后都是钱在支撑,再往后算,还有电力消耗,冷却水消耗和碳排放等等。

    端侧也好,云侧也好,我们使用手机的方式也会因此改变,人机交互的变革大幕也就此拉开。

打赏

参与人数 (1)活跃值( 10 ) 理由
星垂平野阔 + 10

查看全部打赏 >

评论2
近观沧海  LV8  发表于 2024-3-6 12:03 广东 来自:荣耀Magic V2
第一次发这种内容,忘记说是转发,编辑加工的了
星垂平野阔  LV9  发表于 2024-3-6 13:25 广东 来自:荣耀Magic5 至臻版
跟紧升级图片生成吧
您需要登录后才可以评论 登录 | 立即注册
简体中文 - China
快速回复 返回顶部 返回列表