本帖最后由 gartour 于 2025-3-2 12:22 编辑
理智的边缘 发表于 2025-3-2 09:48
NV在8卡H200节点上优化版本的性能（5899t/s）只有DS在8卡H800节点性能的~84%
很简单，因为可以DS+H200,性能有可能是30000t/S.
你可以花时间挖潜，但军备竞赛状态，时间不等你。
说白了，好比把100米跑道缩成10米，运动员就可以不卷训练了吗？该怎样还是怎样。大家还是在拼。
这反而显得，每个人使用AI成本大幅下降，需求反而更多，毕竟能在更多行业推开
那还不赶紧全国产化替代，防止被卡脖子？
a010301208 发表于 2025-3-1 22:11
算力需求无上限，别只看眼前，不过英伟达垄断很快就无了。
未来人人都要有机器人，工厂，军队更是大量需要 ...
附议。算力的需求无上限，AI能干的事儿比全人类能干的事儿的总和多不知道多少倍，把太阳包起来搞个戴森球AI，比起整个宇宙的算力都是渣中渣中渣。
老黄的压力不在于Deepseek节约算力，而在于Deepseek以及未来的各路AI都肉眼可见地开始研究绕开CUDA绕开皮衣卡，对各路GPU甚至是纯CPU的体系疯狂优化。
理智的边缘 发表于 2025-3-2 09:48
我也不知道这帖子里，喷我的人是什么个心态。哪怕它去看一下deepseek的论文。
部署推理，用H800直接比B2 ...
喷子当然是喷子心态，管你说了什么先喷了再说，出服务器钱的反正是轮子对吧。[偷笑]
现在看起来，对于小规模应用，比如十几个人的中小企业，算力不是太大的问题，显存容量反而是大问题。如果AMD能上马16通道双路的EYPC，再配个DDR6内存，10w以内就能把内存带宽提到1T、容量也1T，我估计九成企业都愿意部署一套自己的DS服务器，比雇一堆1w一个月的文科生CP高太多了。
够用只是暂时的，现在的接入量以及需求量在不断上升，多少倍只能是猜了。年内都可能双位数倍率需求上升。
楼主动动脑子好好想想，你把显卡比作能买东西的钞票，AI好比用钞票能买到的通货，就算AI价格下来了你难道还会嫌钱太多了吗？要是真这样我只能说脑子坏掉了。
不会，反而
wuxi001 发表于 2025-3-1 22:27
deepseek 自己曾经回答自己源自 CHAT**， 所以他们根本不用什么AI算力卡。有CHAT** 在，DEEPSEEK 就可以吸 ...
那chat**回答的内容说自己是文心一言是不是chat**也不用算力卡，直接买的百度服务？
manwomans 发表于 2025-3-1 22:13
所以我就一直说少看点国内打鸡血的蠢货自媒体
看多了降智
推理一直就不依赖cuda
是的 。。。 现在动不动就是 “代替老黄”，我只能说训练市场 99% 都是老黄的 [生病] 我都感觉有点保守，正儿八经训练 真没看过其他卡
westbobo 发表于 2025-3-3 09:33
那chat**回答的内容说自己是文心一言是不是chat**也不用算力卡，直接买的百度服务？ ...
人家说的就是蒸馏，不是原创，他是站在巨人的肩膀上。所以已一发布就震惊四座。
是不是拖拉机上了飞机跑道就能飞起来？[震惊]
deepseek是quant们展现出的超强工程实力的体现。
wuxi001 发表于 2025-3-3 09:58
人家说的就是蒸馏，不是原创，他是站在巨人的肩膀上。所以已一发布就震惊四座。 ...
你可拉倒吧，你都没明白他为啥技惊四座。
牛逼的是算力需求降低到1/10以下
数据蒸馏每个AI都在用
跟数据蒸馏有一毛钱关系
你压根就没明白算力需求和数据蒸馏完全是两个东西
这篇文章应该是去回应尤洋的，一周就这一篇发了知乎[恶魔]
老黄表示，什么？你们买的不是黄卡？
AI生成。。。结论：买买买
2025年各大科技公司正大幅增加对AI算力的投资，相比2024年呈现显著上升趋势。以下是主要公司的投资情况及趋势:
## 科技巨头投资规模
1. 阿里巴巴: 2025年AI投资预计达1300亿元人民币，比2024年增加约533亿元。
2. 三大电信运营商: 2025年AI算力投资预计为1000亿元人民币，较2024年增加200亿元。
3. Meta、亚马逊、Alphabet和微软: 这四家公司2025年在AI和数据中心方面的总支出预计将达到3200亿美元，相比2024年的2300亿美元大幅增长。
4. 亚马逊: 计划在2025年投资1000亿美元用于AI发展。
5. Meta: 预计2025年至少投入600亿美元用于AI开发。
6. Alphabet (Google): 2025年资本支出预算增加42%，预计达到750亿美元。
7. 微软: 计划在2025年投入800亿美元用于AI数据中心建设。
## 投资趋势分析
1. 投资规模激增: 与2024年相比，2025年各公司的AI投资呈现大幅增长趋势，反映出对AI技术的高度重视和长期战略布局。
2. 基础设施为重点: 投资主要集中在AI硬件基础设施、数据中心和算力网络等方面，为未来AI发展奠定基础。
3. 大规模交易主导: 超大规模融资（单笔超过1亿美元）在AI领域融资中占据主导地位，反映出对头部企业的强烈信心。
4. 生态系统布局: 科技巨头通过投资构建自己的AI生态系统，形成相互促进的良性循环。
5. 成本结构变化: 随着AI模型部署规模增加，推理成本可能超过初始训练成本，影响未来投资策略。
总体而言，2025年AI算力投资呈现出规模激增、重点突出、竞争加剧的特点，反映了各大公司对AI技术发展的信心和决心。这一趋势预计将推动AI技术的快速发展和广泛应用。
Sources
AI资本开支，体量有多大？ - 华尔街见闻 https://wallstreetcn.com/articles/3741835
The AI Boom of 2025: Big Tech Stocks Set to Soar | Advisorpedia https://www.advisorpedia.com/strategists/the-ai-boom-of-2025-big-tech-stocks-set-to-soar/
Nvidia invested $1bn in AI companies in 2024 - Data Center Dynamics https://www.datacenterdynamics.com/en/news/nvidia-invested-1bn-in-ai-companies-in-2024/
2024年AI算力行业趋势：新兴投资机会与技术创新全景解析 - 搜狐 https://www.sohu.com/a/808106470_121902920
AI资本开支，体量有多大？ - 新浪财经 https://finance.sina.com.cn/roll/2025-02-25/doc-inemtcea8858362.shtml
Tech giants to spend $320 billion on AI in 2025 - The Economic Times https://economictimes.com/news/international/us/tech-giants-to-spend-320-billion-on-ai-in-2025-meta-amazon-alphabet-microsoft-lead-the-race-what-about-apple-tesla-and-nvidia/articleshow/118068850.cms
Top 10 AI Investments | AI Magazine https://aimagazine.com/articles/top-10-ai-investments
投资破千亿美元之后2025年AI市场的六大趋势 - 光明网 https://wlaq.gmw.cn/2025-02/27/content_37875412.htm
亚马逊2025年重磅投资1000亿美元：全面加速AI发展 - 大屏时代 https://www.dapingtime.com/article/1277.html
Visualizing Big Tech Company Spending On AI Data Centers https://www.visualcapitalist.com/visualizing-big-tech-company-spending-on-ai-data-centers/
。。。
深挖洞，广积粮。。。算力到用时方恨少。。。
本帖最后由 momo77989724 于 2025-3-3 13:22 编辑
DS反而会加固老黄的地位
是的 大公司可以不依赖他的卡推理 。。。本来推理各家都有自己的卡阿里亚马逊都有自己定制的卡。。。 普通用户用N卡只是兼容性更好毕竟没有能力优化钱也不够到位没法自己去搞
DS实际上扩大了这块的用户群体 和小的开发团体这些新增的需求 本身人力技术有限99%会选择老黄的卡 长久以往反而是加固他的行业需求。。。
比如推理以前大概就80%用阿黄的卡DS铺开了之后你可能会在后面1-3年发现 推理这块被他垄断了 95%以上
2W张H100, 算一张3.5W美金， 计算卡只要7亿美金； 加上其他外设和互联，10亿美金满足了全中国的需求。
真的市场天花板就这么一点，要那么多做国产自主的AI芯片干什么？我看每一家的估值都比这个高很多倍了。
如果你说的是真的，是不是H100真的卖的不贵？
我輩樹である 发表于 2025-3-3 10:04
deepseek是quant们展现出的超强工程实力的体现。
很有道理啊。
ruo101 发表于 2025-3-2 09:57
那些玩外股的· ·早一个多星期已经开始骂娘了··
不明白 国内有好东西 不是值得高兴么·· ...
那是爱国的才高兴
恨国的那就很不高兴了
DS搞了一堆黄卡hopper架构才能用的极端优化，再次大幅拉大了黄卡跟其他厂商实际性能差距
你居然跟我说老黄药丸？
对我来说这次发布会是很失望的，一点都没提ds现在最差劲的幻觉现象改进
以幻觉表现来说，ds跟本是不能用的水平
声色茶马 发表于 2025-3-2 14:09
喷子当然是喷子心态，管你说了什么先喷了再说，出服务器钱的反正是轮子对吧。
现在看起来，对于小规模应 ...
啊这，光一个EPYC官方价格就得10万了，你拿大船货来说事......
卢奇亚诺 发表于 2025-3-2 00:53
小丑的是蜥蜴人的meta吧，虽然我觉得他现在更像是一直炒股价
不管用谁家的GPU，大部分在用pytorch，这就是meta的开源项目
觉得算力够就不想多说了
当初LED灯泡被发明后,专家预测全球照明用电量会逐年递减,实际上照明用电量反而越来越多了
杰文斯悖论，科技进步带来的成本下降，反而导致更大的资源消耗，人人都能玩大模型，反而算力需求更高
对算力的需求是源源不断的，deepseek 只是让成本下降
本帖最后由 snowgundam 于 2025-3-3 21:03 编辑
说够用的是没写过长思维链型的智能体，groq这么快的方案都撑不住