找回密码
 加入我们
搜索
      
查看: 6637|回复: 60

[CPU] AMD 这几款新的 AI CPU 意义何在?

[复制链接]
发表于 2024-9-18 18:10 | 显示全部楼层 |阅读模式
客户端AI应用,基本也就两种吧:Stable diffusion代表的AI画画、llama一类代表的语言大模型

在这两个场景里面,真的有人会用TDP仅28W的低功耗CPU,或者小NUC上跑自己的生产力工具吗?

AI画画,真的用作生产力的,都是上4090或者专业卡吧,llama更是能在个人PC上跑的都是“玩具”而已

感觉定位十分奇怪...


感觉真的要落地的话,应该像是X3D一样,7800X3D都已经定位成游戏神U无脑上了,照葫芦画瓢再来一个XAI系列,做一个9950XAI才合适
发表于 2024-9-18 18:11 来自手机 | 显示全部楼层
pc 领域需要故事啊,没故事,资本不肯投资啊,股价就跌
发表于 2024-9-18 18:13 | 显示全部楼层
也就是让一些2b以下的小参数大模型能在本地运行
大参数量的还得联网
但是得吹出点卖点好让韭菜买单
发表于 2024-9-18 18:15 来自手机 | 显示全部楼层
有没有很重要~~ 先开个头
反正别人有你没有 这就是巨大劣势了
其实本地生成个图也挺方便的 没cuda无非也就是慢一点而已,ai画图和吹牛逼估计是最早能彻底脱离cuda的应用吧

其他的我看还要nv的各种依赖 我半年前各种折腾都没折腾明白
 楼主| 发表于 2024-9-18 18:16 | 显示全部楼层
archxm 发表于 2024-9-18 18:11
pc 领域需要故事啊,没故事,资本不肯投资啊,股价就跌

对,感觉就是个纯资本向的产品

实际没有什么场景给他落地
发表于 2024-9-18 18:21 来自手机 | 显示全部楼层
先有个feature,可以去让喜欢玩的人先试试水。
当年老黄的粗大和光追也是这么来的。当然也有很多其他的就这么死掉了
发表于 2024-9-18 18:27 来自手机 | 显示全部楼层
对面不是还要夸张,直接给了105tops
发表于 2024-9-18 18:28 来自手机 | 显示全部楼层
别问amd,ai pc各家都一样
我家还真买了,zenbook 16air,装着win 11 24h2(ai pc特供的翔)。其中AI 部分,完全没用,cpu gpu部分倒是满意
然后就是win 11shi一样的登录认证和稳定性
发表于 2024-9-18 18:34 | 显示全部楼层
先得有才能找应用场景, 想想当年一个个"桌面有独显还要核显干嘛", 现在还能那么理直气壮的说这话吗....
发表于 2024-9-18 18:57 来自手机 | 显示全部楼层
8845hs的mini pc更新了下驱动任务管理器就出现了NPU
发表于 2024-9-18 18:59 | 显示全部楼层
archxm 发表于 2024-9-18 18:11
pc 领域需要故事啊,没故事,资本不肯投资啊,股价就跌

赞同 zsbd
发表于 2024-9-18 19:01 | 显示全部楼层
提高U的进货价是需要有故事可讲的。
现在的迷你pc战场已经来到了内置扬声器、麦克风,开展AI对话了
发表于 2024-9-18 19:02 | 显示全部楼层
40T是微软对Copilot+的要求呀。
发表于 2024-9-18 19:23 | 显示全部楼层
本帖最后由 ekiuc 于 2024-9-18 19:25 编辑

新的硬件架构能完美适应现有软件框架的事情是几乎不存在的,靠一两次代迭代能救回来已经是谢天谢地了

风口来了不上,等着大家都探索完了再入场,是准备跟头部公司拼工程能力吗
发表于 2024-9-18 19:26 | 显示全部楼层
AMD只会在后面跟着。应该问赢特尔和微软为什么要推广。
发表于 2024-9-18 19:36 | 显示全部楼层
参考一下英伟达20系的光追功能
发表于 2024-9-18 19:40 来自手机 | 显示全部楼层
苹果不也是在搞么,iphone16上搞点本地模型,再搞点需要联网的高阶需求。 都在试水 本地 + 联网 模式
发表于 2024-9-18 19:42 | 显示全部楼层
我在CJ AMD展台体验的AI 370,有一个摄像头识别手势的功能,你比一个手势摄像里会直接出现对应手势表情包,有点类似直播皮套的意思;一个本地文生图,但是效率较低。
基本AI 处理器就是个噱头吧,AMD自己也没展示出什么实际有用的AI应用场景。
发表于 2024-9-18 19:55 来自手机 | 显示全部楼层
Siri这类辅助的软件本来也应该慢慢提升的,软件要发展,硬件也要跟上来吧。

看上去这是个开始,以后要是真的可以对电脑说一句分析所有工作计划内容和进度,把最近一周的工作排一下,就能安排出一个最优化的日程安排这些,可能很多翻译、老板助理这些工作岗位都可以不用招人了。
发表于 2024-9-18 20:27 | 显示全部楼层
谁说AI就一定是生产力了,日常应用有很多可以用到AI的地方还没得用。

比如我想把十多年的上万张照片中有某个特定人的照片全部搜出来,得靠AI识别吧?

比如我想把本地音乐符合某个节奏得全部找出来,配合我跑步的节奏,需要AI吧?

比如看个片子要超分,现在得用独显吧?如果能让NPU来跑,独显就可以免了吧?
发表于 2024-9-18 20:27 | 显示全部楼层
微软让的啊
发表于 2024-9-18 20:34 | 显示全部楼层
现在有意义吗?没有
能战未来吗?不行
意义在哪里?就是没有意义,行销噱头
发表于 2024-9-18 22:59 | 显示全部楼层
有没有可能不少软件已经有本地ai的应用了...zoom的视频抠图替换背景,语音降噪;lightroom的ai降噪,ai超分,ai抠图;照片应用的人像识别,物体识别,场景识别。以前这些可能是cpu,gpu跑的,以后都可以丢给npu,轻薄本也能支持这些应用
发表于 2024-9-18 23:05 来自手机 | 显示全部楼层
消费者往往并不明确自己需要什么,不创造出新的需求怎么让消费者买单呢
 楼主| 发表于 2024-9-19 00:49 | 显示全部楼层
gartour 发表于 2024-9-18 20:27
谁说AI就一定是生产力了,日常应用有很多可以用到AI的地方还没得用。

比如我想把十多年的上万张照片中有某 ...

你所说的这几个场景,都是 GPU 能干的比 NPU 更快更好的

而且 CUDA 生态是最好的,算力是远高于现有的这些集成 NPU 的,那么 NPU 的优势,好像就只剩功耗了

总结来看相较GPU:更低的性能、差得多的开发生态、更低的市场占有率,仅有的优势就是功耗优势,感觉很难有出路。
 楼主| 发表于 2024-9-19 00:56 | 显示全部楼层
Troy小法师 发表于 2024-9-18 22:59
有没有可能不少软件已经有本地ai的应用了...zoom的视频抠图替换背景,语音降噪;lightroom的ai降噪,ai超分 ...

嗯,好像确实是

在这种轻 AI 应用场景 + 移动端低功耗,NPU 能相较 GPU 再降低一档功耗,确实有一些价值

不过,我扒了半天 B 站各种 NPU 相关视频,很少有 CPU  vs GPU vs NPU 做比较的,基本都是公关稿。

有个用剪映对比视频 AI 抠图的,只敢用 NPU 比 CPU,GPU 提都不敢提,笑死...
发表于 2024-9-19 01:11 | 显示全部楼层

GP

feeeei 发表于 2024-9-19 00:56
嗯,好像确实是

在这种轻 AI 应用场景 + 移动端低功耗,NPU 能相较 GPU 再降低一档功耗,确实有一些价值 ...


NPU的最终目标是低功耗待机集成COPILOT等级的应用
到那个时候NPU将会成为CPU内部占比最大的部份,绝大部分的操作直接用语音发命令
举个例子:「我下午要做个内部销售PTT,要求XXXOOO,帮我搞出来」

当然这一天还很遥远
发表于 2024-9-19 01:17 来自手机 | 显示全部楼层
能装steam,比steam deck性能更强。
发表于 2024-9-19 01:50 | 显示全部楼层
stp可能真就为了宣传,halo有可能成为青春版mi300a?但也可能落地就幻灭
发表于 2024-9-19 07:41 | 显示全部楼层
如果你推出一个我暂时用不上的功能,成本不高我还能接受,就当是送的。如果成本占大头我就无法接受了。
至于战不战未来,未来谁知道呢,比如我至今也用不上什么视频解码编码单元
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2024-12-1 00:10 , Processed in 0.014042 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表