好奇问问那种所谓带AI功能的CPU到底有啥用
就那点性能，能部署本地AI？还是有特殊的应用场景，，我这贫瘠的知识储备完全不知道CPU里塞点这个功能能干嘛， 本帖最后由 PPXG 于 2025-2-11 10:26 编辑
一些很基础的应用，比如本地问答，视频降噪，页面翻译，语音转文字，在线会议总结之类的，以及一些算力需求不高的生产力场景（PS抠图之类的）也能做适配调用
这些场景其实你参考手机厂商如何吹自己的（离线）AI功能就行了，手机能靠那点低功耗SoC的NPU或者异构计算实现的AI功能电脑CPU的NPU也都能做，只不过两个平台应用场景和软硬件厂商执行力度不同，最终落地应用会略有区别 这玩意翻译是神经网络单元，主要用来运行卷积神经网络的，视频处理，语音识别，文字识别都用得到。大模型不够格。 不是所有 AI 应用都需要用到大模型的.
NPU 适合做针对特定场景的小模型推理, OCR 识别, 麦克风/摄像头降噪, 文本/语音转换....
这些都可以从传统的算法实现改成小模型本地推理完成 应该就是CHIP中 切出来这些模块 性能比较低但不占用传统CPU性能
就是很弱的东西 纯垃圾偷懒行为。
为什么不能像nv那样，成为显卡的一部分？
现在打游戏不行，然后算力方面，npu和显卡同时工作的兼容性也是个问题。
单纯是来不及，随便喂点屎给消费者，然后吹成巧克力。 纯粹营销 CPU NPU用途，不负责吹牛总结，
1，贴上 “AI” 标签，时髦，价高，好卖。
2，主要功能，炫技，抠个图，语音识别
3，操作系统还没完全跟进，即使软件硬件都自己搞的苹果都没什么优秀的使用体验。
4，cpu的核心是 “通用处理器”，什么都能干，NPU优势是省电。
目前阶段没用，等真用的上了现在这批早期货也该淘汰了，大概就是为了营销吧 首先，这些个CPU实际上定位给没有独显的笔记本用的
然后，这些基本上跑不了大模型，但是可以做些AI加速，比如现在已经能做视频级别的AI扣人像了
最后，端侧大模型，大概是想赚钱的人信了，要花钱的人没信。反正现在厂商给出来的基本上唯一的用途就是“总有些数据你不想上传到云端吧” 可以理解为独立的tensor core 唯一的用途是开着耗电 目前应该只有笔记本用这个所谓AI PC把
简称：AI冤种本 FelixIvory 发表于 2025-2-11 10:43
纯垃圾偷懒行为。
为什么不能像nv那样，成为显卡的一部分？
现在打游戏不行，然后算力方面，npu和显卡同时 ...
完全不考虑耗电是吧，NPU在移动设备用了很久了，经常打电话的人用的最多的应该是降噪了，现在的智能机都是有降噪的，通常都是NPU在跑。 win11的摄像头程序可以调用npu抠图、降噪，画图最新版也可以抠图、修图、创作 超低功耗的小众专用处理单元吧.
对用户来说除非软件+操作系统花大力气去适配,否则就是电阻丝.
商业策略上,对硬件厂商来说就是噱头,卖点.竞争对手有我也要有.
软件厂商一般也懒得鸟这玩意儿,除非硬件厂商塞钱让优化.
shiangyeh 发表于 2025-2-11 12:54
完全不考虑耗电是吧，NPU在移动设备用了很久了，经常打电话的人用的最多的应该是降噪了，现在的智能机都 ...
严格来说, 视频硬解也算是NPU的一种了[偷笑] 营销
这年头嘴巴上不挂个ai你都不好意思吹牛b kingw12 发表于 2025-2-11 15:26
严格来说, 视频硬解也算是NPU的一种了
只能说在移动端NPU的效果是很好的，不然iPhone也不会这么早就引入而且算力一年比一年强。
至于PC端，只能说Windows太废物了。 PPXG 发表于 2025-2-11 10:19
一些很基础的应用，比如本地问答，视频降噪，页面翻译，语音转文字，在线会议总结之类的，以及一些算力需求 ...
一天到晚AIAI， 那个输入法能不能加点AI进来别一天到晚出来一些从来没打过见过的词 目前最大的用处就是可以加钱卖给你，用户实际很少用上 kingw12 发表于 2025-2-11 15:26
严格来说, 视频硬解也算是NPU的一种了
不算，视频硬解应该算是VPU吧 liushihao 发表于 2025-2-11 08:28
一天到晚AIAI， 那个输入法能不能加点AI进来别一天到晚出来一些从来没打过见过的词 ...
有 iOS17开始英文输入法就是G P。T-2后端预测 mac上能直接自己加载那个模型文件跑文本预测 YsHaNg 发表于 2025-2-11 20:48
有 iOS17开始英文输入法就是G P。T-2后端预测 mac上能直接自己加载那个模型文件跑文本预测 ...
应该不难的， 根据语境判断出符合大意的词， 而不是出现什么“墙裂”推荐。 一早该干的事。 本帖最后由 FelixIvory 于 2025-2-11 23:53 编辑
shiangyeh 发表于 2025-2-11 12:54
完全不考虑耗电是吧，NPU在移动设备用了很久了，经常打电话的人用的最多的应该是降噪了，现在的智能机都 ...
问题是你说的这些功能离电用要多大算力？
插电用，不在乎npu省的那点电。
npu的规模已经很大了，但是打游戏的时候就是电阻丝。 就拿手机来说吧，如果不用A系列处理器里面那个神经处理单元，打个电话，就降噪就要1w出头功耗，如果信号再差一点，手机充满电打电话的时间甚至都不如玩游戏的续航。
如果你说的是台式机或者笔记本，并不是所有人都会搭配独显，那你说核显做大一点可好，成本呢，NPU达到同等算力，面积可比GPU小多了。 liushihao 发表于 2025-2-11 15:16
应该不难的， 根据语境判断出符合大意的词， 而不是出现什么“墙裂”推荐。 一早该干的事。 ...
中文对公众服务模型需要审查 现阶段，PC端的用处就是能卖的更贵
页:
[1]