一个船新的感悟(其实是借鉴黄仁勋的),大模型推理时代,随着工作站单机(单卡、双卡、或者最多4卡,200G以内显存)推理能力的不断提升,可以预见到的是,会出现大量的一个公司N个人共用一张PCIE的H100(6000Pro或H200或B200等)的情况,在这样的场景下,KVCache量急剧上升,磁盘必然不够用,传统X86主板的总线布局急需升级,一个Switch会升级到3-4个Switch,以便可以支持48个以上的NVME磁盘,这简直就是深圳、东莞中小型服务器工厂玩家的创业梦幻红利!新框架做到10-50亿销售额规模很轻松!