首页»版块 MagicOS MagicOS 希望提升可离线使用AI功能的比例

希望提升可离线使用AI功能的比例

[复制帖子标题和链接]

5337

HONOR2507029000829  LV3  发表于 6 天前 浙江 来自:荣耀400
现在的新机器具有足够多的AI算力,足以支撑离线AI功能(目前手上的机器(Snapdragon 7 Gen4)可以以足够快的速度运行本地的轻量级大语言模型(具体可看下图,使用OpenCL,线程数为6,启用mmap,precison为low),高通的Stable Diffusion示例也说明了有一定可用的AI生图能力,详见https://www.qualcomm.com/news/onq/2023/02/worlds-first-on-device-demonstration-of-stable-diffusion-on-android),况且有很多本地的部署方案(去除背景ML kit有现成的解决方案,去除人像和AI扩图暂时没有(但似乎可以看一下https://promptchoose.com/ai-tools/github-open-source-ai-inpainting-tools/),超清功能可以使用superimage(虽然超分能力不敢恭维)或stable diffusion处理(虽然手机端是没有相应部署方案,但是似乎在电脑端的测试表明理论可行)),希望可以让AI功能不需要动不动联网使用,提升离线状态下AI的使用体验(毕竟路上拍照经常忘记开移动数据)。 希望提升可离线使用AI功能的比例
建议投票
25 人已参与
支持
反对
评论7
NotRCthere  LV5  发表于 6 天前 广西 来自:荣耀200 写真相机
哇,佬🤩
HONOR2507029000829  LV3  发表于 3 天前 浙江 来自:荣耀400
希望能提高离线情况下AI功能的体验
HONOR2507029000829  LV3  发表于 3 天前 浙江 来自:荣耀400
毕竟有的地方甚至是没有网络或者有人有时候不想开
HONOR2204048347324  LV4  发表于 3 天前 江苏 来自:荣耀Magic7 Pro
图片相关的ai可以试着本地实现,只是效果会差不少(参考果子),llm和文生图就没必要本地实现了,我在电脑上部署的模型效果都不太行,更不奢侈手机能达到好用的水平。

评论

llm还好吧,某些问题还行(日常的某些任务是可以的,前提是比较简单的,比如一些简单的算术什么的)。但是稍微知识一多,逻辑一复杂就错误率上升。**是**,但是比要联网要好一点。 文生图512x512太慢了,local dream GPU两分钟多一点一张,MNN Chat 两分钟多一点一张。图片风格话(就不知道有没有专门的轻量一点的模型)和超分也许可以。 TTS或者是语音识别还好(有whisper之类的),语音合成就不知道了(好像有开源方案?阿里有一个基于MNN开发的虚拟人),OCR轻量的有PaddlePaddleOCR和其ONNX量化版本RapidOCR,大一些的也有MonkeyOCR之类的新秀)。  发表于 前天 00:30  浙江
文生图本地当前android这一个平台的方案基本基于SD,生成人体的结构错误率很高(手指,发丝变发片,脚趾之类极为明显的错误)以及文字之类的都很容易出错(英文在线模型还好(字没直接像本地SD一样直接崩掉),中文就更别提了,国内到现在有的在线服务都很容易跑错)和本地模型对复杂指令的依从度很差(对我这种新手而言)(模型本来就这样,几乎没时态和语法,导致描述困难,复杂场景估计直接一团稀粥就靠种子抽奖救场)。性能很差但是比没有好(虽然苹果那个似乎闲置的playground已经侧面证实了这一点,但是它的画风本来就非常苹果立体味(就是漫画不漫画,现实不现实,3D.特效不3D特效的极为膈应的三不像)到难绷的地步,感觉模型白做了)(本地的stable diffusion现实场景还行,起码能看一下,比那个难绷的模型好多了,生成简单的背景估计没问题,出错少)  发表于 前天 00:49  浙江
生成效果是肯定不好的。起码没电脑好。起码还堪堪过得去,只能说比动不动要网好些而已。  发表于 前天 00:50  浙江
您需要登录后才可以评论 登录 | 立即注册
简体中文 - China
快速回复 返回顶部 返回列表