找回密码
 加入我们
搜索
      
楼主: listree

[内存] deep seek完整模型700gb,什么机器可以装512gb以上内存条?

[复制链接]
发表于 2025-1-30 19:36 | 显示全部楼层
listree 发表于 2025-1-30 18:59
插10个显卡,要配什么电源?

万一烧了,不是几十万一下子没了

纯12V的企业级产品太多了。。。。。君不见人均旷工时代的杂牌拖着B价儿满天飞么
发表于 2025-1-30 21:12 来自手机 | 显示全部楼层
listree 发表于 2025-1-30 18:56
5个苹果小主机?

这种小主机的双力是不是很low?

一般,如果没记错的话,那个人跑 v1 是 2-3 token 每秒,但毕竟跑起来了
发表于 2025-1-30 21:30 | 显示全部楼层
AI不是回答了用内存替代显存跑会导致答案质量下降严重吗?
发表于 2025-1-30 21:35 | 显示全部楼层
671B参数的这个应该就是R1原版,FP16格式量化:671B*16/8=1.3T
发表于 2025-1-30 21:52 | 显示全部楼层
64g一条不就行了。。
发表于 2025-1-30 22:02 | 显示全部楼层
EPYC洋垃圾 上128G单条 很容易实现吧 眼光不要太局限
发表于 2025-1-30 23:14 | 显示全部楼层
类似华擎 epyc平台 GENOAD24QM3-2L2T/BCM 24条DIMM  ,加上64GB内存插满,内存带宽也可以。 总共几万块,openAI扛回家了都
 楼主| 发表于 2025-1-30 23:26 | 显示全部楼层
noirchen 发表于 2025-1-30 21:12
一般,如果没记错的话,那个人跑 v1 是 2-3 token 每秒,但毕竟跑起来了

一秒2、3个字太慢了,回车后要等5分钟才能看回答
发表于 2025-1-30 23:28 | 显示全部楼层
不少人用来泡AI妹子,或者写颜色的小说,很愉快
发表于 2025-1-30 23:49 | 显示全部楼层
看来你们真是操碎了心,超算需要考虑这些吗?还插几个内存,几个显卡。
发表于 2025-1-31 09:10 | 显示全部楼层
StevenG 发表于 2025-1-30 17:04
去年装好没挂存储池的家庭服务器

开了万兆对等互联网宽带了么?
发表于 2025-1-31 09:20 来自手机 | 显示全部楼层
Leciel 发表于 2025-1-31 09:10
开了万兆对等互联网宽带了么?

万兆专线?那玩意一年费用,够我一机柜的玩具了。。。
发表于 2025-1-31 09:45 | 显示全部楼层
臭打游戏的3W预算进CHH,出门可以开网吧
你这是30W预算进AI,出门可以开算力中心了
发表于 2025-1-31 10:00 | 显示全部楼层
StevenG 发表于 2025-1-31 09:20
万兆专线?那玩意一年费用,够我一机柜的玩具了。。。

<think>
嗯,用户让我帮忙生成一个以“吕布骑狗”为主题的中文到英文的提示词,用于文生图。首先,我得理解这个主题是什么意思。吕布
是中国古代著名的武将,通常被描绘为勇猛、威风的形象。而“骑狗”听起来有点奇怪,可能是在特定的艺术风格中对他的表现方式


接下来,用户希望用英文生成提示词,这可能是为了在使用某些AI绘图工具时更容易输入或者符合平台的要求。所以我要把中文的主
题转换成准确的英文表达,同时保持原意不变。

我需要考虑如何准确翻译“吕布”和“骑狗”。吕布是人名,直接翻译为Lü Bu就行。“骑狗”就是ride a dog,但可能在艺术创作
中会用更形象的说法,比如mounted on a dog或者riding a dog。这样表达更清晰,也更容易让AI理解。

然后,用户可能希望提示词不仅包含基本描述,还能增加一些细节来提升图像的质量。例如,吕布的形象通常有铠甲、宝剑等元素,
所以可以加入armor和sword的关键词。此外,背景设置在古代战场,可以让画面更有历史感,因此添加ancient battlefield作为场
景设定。

考虑到用户可能是设计师或者内容创作者,他们可能希望生成的画面既有力量感又充满细节。所以提示词中需要包含一些描述性的词
汇,比如dynamic pose(动态姿势)来突出吕布的英姿,以及colorful details(多彩细节)和high-quality composition(高质量
构图)来提升整体视觉效果。

最后,整合这些元素,确保提示词连贯且涵盖所有关键点。这样生成出来的图像不仅符合主题,还能满足用户对艺术性和细节的要求

</think>

"吕布骑狗" 的英文提示词可以是:
**Lü Bu riding a dog, armor, sword, ancient battlefield, dynamic pose, colorful details, high-quality
composition.**

如果你有其他具体要求或风格偏好,也可以进一步调整!
LvBu.jpg
发表于 2025-1-31 11:22 | 显示全部楼层
二手的工作站啊

比如HP Z8G4, 双CPU可以用满配24条内存

二手DDR4 ECC 64G 大概300-350 (按350算) 64GB×24 =1.5TB ,约8400块
发表于 2025-1-31 11:53 来自手机 | 显示全部楼层
最新这几代的服务器都是32槽的,单根64g就有2t了,很轻松
发表于 2025-1-31 11:55 | 显示全部楼层
lh4357 发表于 2025-1-30 15:30
单路EPYC 9004或9005能插3T内存(256x12)。
双路再翻倍。


单路有24槽的  我有一片。。。
700多G现在只用16槽就够了  48GX16  成本应该是比较低的   48G和32G价格就差50  但是64就要直接翻倍 96 再翻一倍 128的话再X一倍  
CPU也有16 24核这些便宜的型号
发表于 2025-1-31 12:20 | 显示全部楼层
listree 发表于 2025-1-30 18:56
5个苹果小主机?

这种小主机的双力是不是很low?

统一构架,显存就是内存,其实算是比较省钱的了。
发表于 2025-1-31 13:46 来自手机 | 显示全部楼层
listree 发表于 2025-1-30 15:29
不是1t硬盘,是1t RAM

我是1t ram,128g单根x8,关键cpu差了一点,只是epyc 7302而已
发表于 2025-1-31 16:14 | 显示全部楼层
双路4代或者5代epyc,一共24通道内存,每条64G,1.5T的内存就出来了
 楼主| 发表于 2025-1-31 20:54 | 显示全部楼层
k8qxt5 发表于 2025-1-31 11:53
最新这几代的服务器都是32槽的,单根64g就有2t了,很轻松

32槽服务器,可否说几个型号
 楼主| 发表于 2025-1-31 20:56 | 显示全部楼层
fyc858 发表于 2025-1-31 09:45
臭打游戏的3W预算进CHH,出门可以开网吧
你这是30W预算进AI,出门可以开算力中心了 ...

现在还有网吧么?

不是都改名叫网咖了么
发表于 2025-1-31 21:14 | 显示全部楼层
本帖最后由 echotoyu 于 2025-1-31 21:19 编辑
listree 发表于 2025-1-30 15:24
D4服务器什么意思,ddr4?

512需要8个插槽,1t需要16个插槽,选什么主板呢 ...


给你个我公司在用的服务器型号宁畅 X680 GS5
2T Gb 8*4090
 楼主| 发表于 2025-1-31 21:26 | 显示全部楼层
echotoyu 发表于 2025-1-31 21:14
给你个我公司在用的服务器型号宁畅 X680 GS5
2T Gb 8*4090

X680 你哪里买的?奶东上好像没这东西啊
发表于 2025-1-31 21:45 | 显示全部楼层
listree 发表于 2025-1-31 21:26
X680 你哪里买的?奶东上好像没这东西啊

公司采购的呀。🐶东上是没的。你要私你销售电话你具体了解下吧。
 楼主| 发表于 2025-1-31 21:59 | 显示全部楼层
echotoyu 发表于 2025-1-31 21:45
公司采购的呀。🐶东上是没的。你要私你销售电话你具体了解下吧。

这种机器是不是只对大客户销售
发表于 2025-1-31 22:09 | 显示全部楼层
k8qxt5 发表于 2025-1-31 11:53
最新这几代的服务器都是32槽的,单根64g就有2t了,很轻松

9004没记错折到24了,单通太多+本身太大
发表于 2025-1-31 22:16 | 显示全部楼层
我们HPE DL380 Gen10就上了24条32G内存,共768G。如果用单条64G,就是1.5T了。
如果没那么在意性能,还可以玩DCPMM,把24条内存中的一半换成128G的DCPMM。


如果是DL380 Gen11的话,32条内存插槽,上高容量就更轻松了。
 楼主| 发表于 2025-1-31 22:30 | 显示全部楼层
Jimmy_Qiu 发表于 2025-1-31 22:16
我们HPE DL380 Gen10就上了24条32G内存,共768G。如果用单条64G,就是1.5T了。
如果没那么在意性能,还可以 ...

768G还是有些不够,完整版模型大小超过1t

你的DL380平时都开机么,开机功耗多大
发表于 2025-1-31 22:38 | 显示全部楼层
listree 发表于 2025-1-31 22:30
768G还是有些不够,完整版模型大小超过1t

你的DL380平时都开机么,开机功耗多大 ...

Gen10 实际支持单条128G的内存,插满就是3T。

还不满足可以看Gen11,理论上可以8T。不过价格会很感人就是。

功耗我没注意过,十几台服务器,单台功耗没关注过。
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2025-4-22 09:37 , Processed in 0.057947 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表