6月初科技开打www.agg444.com的台北国际电脑展上,黄仁勋把Blackwell芯片举到聚光灯下,台下掌声没停,展馆中曾经有人会商统一个成绩了,AI科技的下半场,拼的不再只是竞速结尾锻炼参数,谁能把推理本钱压到足够低啊?那个疑号很快传导到结尾厂商的。

微软、苹果、联念几乎正在统一周更新了产物门路吧?年夜模子价格战是看得见转背的第一层革新。OpenAI推出GPT-4o后,谷歌把Gemini 1.5 Flash的调用价格往下调,国内厂商跟得更快。字节跳动旗下豆包年夜模子对中报价一度低于止业预期,阿里云通义千问也把部门版本免费开放。一家做客服系统的落地创业公司手艺负责人算过账,同样处理100万次对话,去年本钱约4万元。今年用混合计划降到1.2万元。省下来的钱没有酿成利润,被拿去做更多场景测试。AI科技往结尾迁移的算力迹象更较着。
苹果正在WWDC上把Apple Intelligence塞进系统层。微软则分离高通、英特尔推Copilot+ PC了。正在广州一家计划公司做产物的陈默比来把测试机换成新款ARM条记本。他给出的理由很间接。当地跑70亿参数模子格战,提早两秒压还有0.4秒的,演示时不用再看汇集神采。
那类需求一定性感,却让AI科技从云端概念酿成采购清单里的详细条目。热闹背后有硬约束。算力卡仍然贵。电力配额正在部门园区起头吃紧,数据合规也让跨国安排变慢。
我接触过的几家中小团队吧?
今年更情愿租用推理算力,但不是自己买卡。一位投资人的判断是将来十二个月。能活下来的AI科技公司一定具有最年夜模子,必定最会把本钱、场景和监管鸿沟捏正在一路。展会终了那天,黄仁勋没有多谈参数了。
反而几回提到“token本钱”吧?那或许比任何公布会口号都更接近理想,那场竞赛,正正在从实验室的排止榜,移背工场、办公室和每小我的电脑桌面。






