白袜jk自慰|「俺とワタナベの似ているところはねc自分のことを他人に理解してほしいと思っていないところなんだ」と永沢さんが言った。「そこが他の連中と違っているところなんだ。他の奴らはみんな自分のことをまわりの人間にわかってほしいと思ってあくせくしてる。でも俺はそうじゃないしcワタナベもそうじゃない。理解してもらわなくったってかまわないと思っているのさ。自分は自分でc他人は他人だって」-威尼斯人2299

星舰第7次试飞 筷子回收成功

上海华略智库微信公众号2月5日发布讣告：上海华略智库高级合伙人兼自贸区港首席专家、改革创新研究院院长，南京大学自贸区综合研究院研究员李锋博士，于2025年1月27日春节休假期间遭遇意外，经抢救无效，不幸离世，享年48岁。据介绍，李锋出生于1977年，河南光山人。2006年毕业于南京大学并获得经济学博士学位，毕业后曾任职于上海市政府研究室、上海市人民政府发展研究中心并担任处长。入职华略智库后，李锋博士亲自创立改革创新研究院并担任院长兼自贸区港首席专家；工作期间，李锋博士高质量完成了几十项重大研究课题，并多次获得国家级、省部级奖项，以及国家级、省部级领导的肯定性批示。

短短一个月内，中国ai初创公司深度求索（deepseek）先后发布了deepseek-v3和deepseek-r1两款大模型，成本价格低廉，性能与openai相当，让硅谷震惊，甚至引发了meta内部的恐慌，工程师们开始连夜尝试复制deepseek的成果。scale ai创始人alexander wang在1月24日的采访中表示，deepseek在他们的测试里是表现最好的，与美国最好的模型相当。此前，alexander wang评价说，deepseek-v3是中国科技界带给美国的苦涩教训。“当美国休息时，中国（科技界）在工作，以更低的成本、更快的速度和更强的实力赶上。”此外，中国ai“刷屏”国外各大媒体，它们认为中国大模型的新进展为硅谷敲响了警钟。在5000亿美元的“星际之门”计划公布之际，deepseek以极低的价格建立了一个突破性的ai模型，而且没有使用尖端芯片，让人们质疑，ai行业数千亿美元资本的巨额投入真的是最有效的方法吗？meta进入恐慌模式，试图复制deepseek1月24号，一条发布在匿名平台teamblind上的帖子疯传。一名meta员工称，现在meta内部因为deepseek的模型，已经进入恐慌模式。发布在匿名平台teamblind上的帖子疯传这位meta员工写道：“一切源于deepseek-v3的出现，它在基准测试中已经让llama 4相形见绌。更让人难堪的是，一家‘仅用550万美元训练预算的中国公司’就做到了这一点。工程师们正在争分夺秒地分析deepseek，试图复制其中的一切可能技术。这绝非夸张。管理层正为genai研发部门的巨额投入而发愁。当部门里一个高管的薪资就超过训练整个deepseek v3的成本，而且这样的高管还有数十位，他们该如何向高层交代？deepseek-r1的出现让情况更加严峻。具体细节属于机密，不便透露，不过很快就会公开了。”去年12月27日，deepseek推出开源模型deepseek-v3。当时，聊天机器人竞技场（chatbot arena）显示，deepseek-v3在所有模型中排名第七，在开源模型排第一。而且，deepseek-v3是全球前十中性价比最高的模型。不到一个月之后，今年1月20日，deepseek正式开源r1推理模型，允许所有人在遵循mit license（注：被广泛使用的一种软件许可条款）的情况下，蒸馏r1训练其他模型。1月24日，deepseek-r1在聊天机器人竞技场综合榜单上排名第三，与顶尖推理模型o1并列。在高难度提示词、代码和数学等技术性极强的领域，deepseek-r1拔得头筹，位列第一。在风格控制方面，deepseek-r1与o1并列第一，意味着模型在理解和遵循用户指令，并按照特定风格生成内容方面表现出色。在高难度提示词与风格控制结合的测试中，deepseek-r1与o1也并列第一，进一步证明了其在复杂任务和精细化控制方面的强大能力。在风格控制方面，deepseek-r1与o1并列第一artificial-analysis对deepseek-r1的初始基准测试结果也显示，deepseek-r1在ai分析质量指数中取得第二高分，价格是o1的约三十分之一。deepseek-r1在ai分析质量指数中取得第二高分ai大佬惊叹：中国ai已追上美国去年12月deepseek-v3发布后，ai数据服务公司scale ai创始人alexander wang就发贴称，deepseek-v3是中国科技界带给美国的苦涩教训。“当美国休息时，中国（科技界）在工作，以更低的成本、更快的速度和更强的实力赶上。”i数据服务公司scale ai创始人alexander wang发贴著名投资公司a16z的创始人马克·安德森1月24日发文称，deepseek-r1是他见过的最令人惊叹、最令人印象深刻的突破之一，而且还是开源的，它是给世界的一份礼物。著名投资公司a16z的创始人马克·安德森发文1月24日，a16z合伙人、mistral ai董事会成员anjney midha表示：“从斯坦福到麻省理工，deepseek-r1几乎一夜之间成为美国顶尖大学研究人员的首选模型。”a16z合伙人、mistral ai董事会成员anjney midhafawen发文对于中国ai为何能有如此快速的进展，诺奖得主、“ai教父”杰弗里·辛顿在1月21日接受博主curt jaimungal专访中表示，中国的stem（科学、技术、工程、数学）教育比美国更好，拥有更多受过良好教育的人才，这将为ai的发展提供坚实的基础。尽管美国试图通过限制（如英伟达芯片）来减缓中国的发展，但这只会促使中国加速发展自己的技术，“他们可能会落后几年，但最终会赶上”。deepseek或彻底改变游戏规则，“大力出奇迹”还有效吗？斯坦福大学和epoch ai的研究人员去年年中发表了一项研究表明，到2027年，最大型的模型的训练成本将超过10亿美元。gartner预测，到2028年google、microsoft和aws等超大规模企业仅在ai服务器上的支出就将高达5000亿美元。但deepseek完全不同，它的训练成本并不昂贵。noah's arc资本管理公司表示，deepseek-v3模型有可能彻底改变训练和推理领域的游戏规则。特别是在5000亿美元的“星际之门”计划公布后，deepseek更让人怀疑，巨额投入这种“大力出奇迹”的办法真是最有效的方法吗？美股大v“the short bear”1月24日在x上发文称，deepseek给ai巨头们带来了痛苦时刻，投资者必须对此敲响警钟。他说：“如果击败openai只需要5500万美元，那么这个行业的商业化会比很多人预想的要快很多。”美股大v“the short bear”发文他还指出：“根据红杉，美国ai公司每年必须产生约6000亿美元收入来支付其ai硬件费用。现在看来，这种冒险行为变得越来越无利可图。”著名财经记者holger zschaepitz 1月25日表示，deepseek以极低的价格建立了一个突破性的ai模型，而且没有使用尖端芯片，这让人们质疑该行业数千亿美元资本支出的效用。著名财经记者holger zschaepitz发文有投资者甚至认为，美股芯片股的股价也会面临挑战。投资者geiger capital表示，deepseek和openai一样好，甚至更好，而且价格只有后者的3%……而美国公司却投入了数千亿美元。那么……纳斯达克会怎样呢？投资者geiger capital发文值得注意的是，deepseek-v3发布后，英伟达股价下跌了2%。而deepseek-r1引发海外大讨论后，1月24日英伟达股价又大跌了3.12%。外媒集体刷屏：给硅谷敲响警钟如果说deepseek-v3只是掀起了波澜，那么deepseek-r1则是引发了轰动。最近四天，国外媒体纷纷聚焦deepseek，并一致认为中国大模型的新进展为硅谷敲响了警钟。1月22日，美国媒体business insider报道称，deepseek-r1模型秉承开放精神，完全开源，为美国ai玩家带来了麻烦。开源的先进ai可能挑战那些试图通过出售技术赚取巨额利润的公司。美国媒体business insider报道截图1月24日，美国媒体cnbc推出了长达40分钟的节目，邀请了perplexity ceo aravind srinivas来分析为何deepseek会引发人们对美国在ai领域的全球领先地位是否正在缩小的担忧。英国《金融时报》1月25日报道称，中国小型ai初创公司deepseek震惊硅谷。报道聚焦资源更丰富的美国ai公司能否捍卫自己的技术优势。美媒报道截图报道援引加州大学伯克利分校ai政策研究员ritwik gupta称，deepseek最近发布的模型表明“ai能力没有护城河”。gupta补充说，中国的系统工程师人才库比美国大得多，他们懂得如何充分利用计算资源来更便宜地训练和运行模型。免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。

截至2月9日15时，据猫眼专业版平台数据，《哪吒之魔童闹海》（以下简称《哪吒2》）票房（含预售）已超78亿元。目前，《哪吒2》已进入全球影史票房top50、全球动画电影票房榜top10，而且相关数据还在不断刷新中。《哪吒2》票房连创纪录业内：预计可能突破150亿目前，《哪吒2》电影票房已超过《玩具总动员3》和《玩具总动员4》票房成绩，位列全球动画片票房榜第7名，同时也是首部进入全球动画票房榜top10的非好莱坞动画电影！同时，《哪吒2》也登上了全球影史票房榜前top50，目前已超过《小丑》排名第39，同样也是该榜单唯一的非好莱坞电影。按照猫眼专业版最新预测，《哪吒2》票房最终将达到108.7亿元。若真的达到这个票房，《哪吒2》将超越《冰雪奇缘2》成为全球动画电影票房榜亚军，同时也将成为全球电影票房榜第13名，仅次于《速度与激情7》。而在看到《哪吒2》8日预售又迎来一波高峰后，一些业内人士更是预测，最终票房可能达到150亿元。如果真的达到这个数字，那《哪吒2》将会成为全球票房最高的动画片，同时也会进入全球电影票房前6，仅次于《泰坦尼克号》，与《星球大战：原力觉醒》旗鼓相当。此前，《哪吒2》已创造一系列纪录：刷新中国影史最高票房纪录，登顶影史全球单一市场票房榜，打破好莱坞垄断，跻身“70亿票房俱乐部”，成为首部进入全球影史票房榜前50的亚洲电影……由于《哪吒2》实在太火，国内很多影院一天甚至排三十多场《哪吒2》。而向来被戏称“一个春节赚一年的钱”的县城影院，则在《哪吒2》带来的繁荣中“累并快乐着”。“麻木了，连续睡个三天三夜也不为过。”有影城经理甚至哀嚎：“（票房）啥时候跌啊，干不动了。”据红星新闻，日前，记者采访的县城影院经理中，普遍反映“兼职累得受不了了”。多个影院都是“一个员工直接锁死在爆米花机前”，部分影院还出现了爆米花原料用完了，需要找别的影院借的情况。3d眼镜厂家也表示，断货了，“全世界都在找3d眼镜”。不过，多数影城经理们认为，对挣扎在生死线上的县城影院来说，带动超热大盘的《哪吒2》仍无法说“救活”，只是春节档的锦上添花，春节档后的影片表现跟上，还是十分关键。一位业内人士感慨：“有好的电影，观众还是很愿意进电影院看的。希望国内能多一些《哪吒2》这样的好电影。”《哪吒2》火出国门美国多地紧急加排片据悉，在国内火热上映之后，《哪吒2》还将在美国、澳大利亚等多国上映。据新华社8日报道，近期爆火的电影《哪吒2》将于2月12日开始在美国多家影院渐次上映。在熙来攘往的纽约时报广场，《哪吒2》的大屏广告颇为吸引眼球。记者7日看到，虽然距离上映还有近一周时间，但影院内相关场次的电影票大部分已经被预售，个别场次电影票已经售罄。美国社交媒体上，《哪吒2》也已成为网友讨论的新话题。总部位于洛杉矶的美国媒体《好莱坞报道》分别在2日和5日报道《哪吒2》在中国春节电影票房的亮眼表现。目前，据当地购票平台显示及多位当地华人反映，因《哪吒2》的爆火，美国多地影院已为影片加场，2月12日将进行imax超前点映。近年来，也有不少中国ip走出国门，如2020年横空出世的《原神》、2023年再创辉煌的《崩坏：星穹铁道》和去年引爆全球的《黑神话：悟空》。那么，中国电影ip如何突破地域文化限制，实现国际化传播？在内容创作和营销策略上又需要做出哪些创新？对此，《每日经济新闻》记者采访了北京电影学院国家电影智库副主任、研究员慕玲和四川省文创产业联盟ip文创专委会主任、中羲文创智库发起人巩强。巩强建议，在国际化传播层面，中国电影可以参考漫威“本土内核 全球外壳”模式，在传统母题中植入人类命运共同体价值，构建兼具在地性与全球化的“人类文明ip符号”。在内容创作和营销策略上，中国电影的出海需要以文化基因解码为基础，甚至可以利用前沿数字技术手段，开发动态文化适配算法，运用ai分析不同市场的情感共振点，提升内容创作和营销策略的精准性。北京电影学院国家电影智库副主任、研究员慕玲则建议，在内容创作上，要进一步梳理中华文化的共享性内容，如亲情、友情、爱情、正义等各个文化普遍能够认可和接受的主题，以寻求跨文化的情感共鸣；要讲好中国故事，将中国元素与国际元素有机结合，以国际化的视听语言呈现中国故事，同时注意避免文化上的误解。“《哪吒2》是一个比较好的案例。美国imdb平台显示，《哪吒2》未映先火，分数达8.2分，这跟该片的共享性内容（亲情、个人成长、责任等）、优秀的剧作、精良的制作关系密切。”她表示。ip电影成主力专家：电影工业体系逐步成熟在今年春节档，以《哪吒2》为代表的重磅ip电影集中亮相，成为市场关注的焦点。每经品牌价值研究院统计了近年来春节档票房数据。数据显示，系列电影在春节档中愈发重要。以2018年为例，当年春节档票房前5名均为系列电影，票房同比增长69%。数据来源：猫眼专业版（标红电影为系列作品）ip续作电影集中抢占春节档期这一现象，反映了中国电影市场怎样的结构性变化和发展趋势？在巩强看来，这一现象标志着中国电影在ip内容商业化、电影工业流程化水平等方面的巨大进步。“依托春节档短期的集中消费红利，制片方通过观众认知度成熟的ip续作建立‘内容模板－观众预期－市场反馈’的闭环机制，可以有效对冲市场风险，但在一定程度上也压缩了中小成本影片的生存空间。”慕玲认为，大ip续作电影集中亮相春节档，首先显示了中国电影工业体系的成熟。“工业化的特征之一就是标准化，以寻求安全、可控和高回报，那么它的结果就导向成熟的大ip的改编、重复和系列化。”值得注意的是，在《哪吒2》的片尾字幕上，共有全国138家跟动画制作相关的公司出现。据悉，《哪吒之魔童降世》（《哪吒2》前作）共有1400多个特效镜头，而《哪吒2》的角色数量是第一部的3倍，全片共2400多个镜头，其中特效镜头就超过1900个。图源：豆瓣电影此外，结合近10年的春节档票房数据，巩强表示：“从行业发展趋势来看，好莱坞‘大片’及偶像艺人的票房号召力纷纷失灵，切中社会话题、提供情绪价值的影片以及取材中华传统文化、弘扬东方美学的电影不断破圈，电影口碑成票房逆跌的关键。”慕玲也认为，ip续作电影持续占领春节档期，意味着电影观众的某种结构性变化。“据统计，三、四线城市观众占春节档购票人次比例已超过50%，相比于一线城市观众而言，三、四线城市观众更偏向于认知度高、娱乐性强的内容，超级ip系列电影正符合这种消费偏好。”事实上，不只是春节档，在暑期档、贺岁档等重要档期，很多经典ip续作电影名列前茅。以今年为例，票房靠前的多为ip续作电影，除了《哪吒2》，还有《唐人街探案》系列的第4部《唐探1900》、《封神三部曲》系列的第2部《封神第二部：战火西岐》等。在电影工业化进程加速的背景下，ip化运营似乎已成为行业共识。从投资回报和风险控制的角度，ip续作或改编电影相比其他原创作品具有哪些独特的市场优势？在慕玲看来，ip改编或续作电影的优势主要建立在原ip的基础之上。“原ip稳定的粉丝基础和品牌认知度，无形中为ip电影提供了坚实的受众基础。这能够降低电影投资的风险，并提高回报的预期。同时，原ip本身作为成功的文化产品，往往拥有成熟的故事和角色，这也为电影的开发提供了基础，更为后续的衍生品开发提供可能，进一步增强回报预期。”巩强也持有相同观点。他表示，ip续作或改编电影可复用已有世界观架构、数字资产库，降低单部制作成本。系列续作自带流量转化优势，前作形成的文化符号可有效降低宣发中的信息损耗。此外，成熟的ip具备游戏、衍生品、实景娱乐等多维开发潜力，比如最近成为中国影史票房冠军的《哪吒之魔童闹海》，系列电影周边和手办盲盒纷纷卖断货。记者|黄博文编辑|段炼 魏官红 盖源源校对|程鹏｜每日经济新闻 nbdnews 原创文章｜未经许可禁止转载、摘编、复制及镜像等使用

#endtext .video-list li{overflow:hidden;float: left; list-style:none; width: 132px;height: 118px; position: relative;margin:8px 3px 0px 0px;}

#endtext .video-info a:hover{color:#d34747;}

蛇年新春将至，中国出入境旅游市场持续升温，大批外国游客涌入，沉浸式感受中国春节的独特魅力。据数据显示， 春节期间入境游订单同比增长达203%，其中西安的游客量持续增长显著。各社交平台上外国游客入境后，除了观看传统的舞龙、舞狮、吹糖人、猜灯谜等年俗表演外，迫不及待地入乡随俗开启特殊的“过年三件套”体验。从彰显东方韵味的发型，到挑选融入中国传统元素的美甲图案，以及体验一把汉服妆造拍照都让他们体会到了中国文化的魅力，还有不少老外晒出用ai生成的新年写真，西方长相与中式美学的碰撞让外国人直呼东方魔法，每一次体验都是外国游客对中国文化的深度探索，为春节注入全新活力。

中国战略新兴产业融媒体记者 艾丽格玛2024年12月26日，深度求索（deepseek）发布了其最新人工智能大模型deepseek v3，并同步开源。这两年来，每家ai公司都会对自己的ai大模型不断进行迭代更新，这已不是什么新闻。然而，deepseek v3的发布却在圈内外引发了热烈的讨论，引发了极大的关注。据称，deepseek v3拥有6710亿参数的混合专家模型（moe）在多项基准测试中表现优异，超越了llama 3.1 405b等开源模型，并与gpt-4o、claude 3.5 sonnet等闭源模型分庭抗礼。而更引人注意的是，根据公开消息，其训练成本仅为557.6万美元，远低于gpt-4o等模型的10亿美元预算。deepseek v3的训练方式与算法优化，显著降低了训练和推理大模型对高端硬件的需求——这背后隐含的可能性是，通过软件优化，可以在有限硬件资源下实现顶尖性能。这一点，可以使得ai大模型大大减少对高端gpu的依赖，甚至有人认为，这套训练算法将对“卖铲子”的英伟达等硬件供应商带来巨大的动荡。01 低成本高性能，怎么做到？deepseek官方在其同步开源的53页deepseek v3模型论文中提到，deepseek v3的生成速度达到每秒60个token，api价格仅为claude 3.5 sonnet的1/53。在知识类任务（包括mmlu、mmlu-pro、gpqa和simpleqa）上，deepseek v3的表现优异，已经接近于当前表现最好的模型，即anthropic公司于10月发布的claude-3.5-sonnet-1022。在美国数学竞赛（aime 2024和math）和全国高中数学联赛（cnmo 2024）上，deepseek v3的表现大幅超过了其他所有开源和闭源模型。>> deepseek开源的文档同时，deepseek v3的生成速度从20tps（每秒完成的事务数量）提高至60tps，相比v2.5模型实现了3倍的提升。这种“低成本≠低性能”的特点，正是deepseek v3热度的来源。那么，这种绕过硬件掣肘，从算法上大幅降低成本的路径，究竟是如何达成的？首先，在架构方面，deepseek v3采用了混合专家架构（mixture-of-experts, moe），包含256个专家，每次计算选取前8个最相关的专家参与。想象一下，有一个机器人，它有很多小助手，也就是“专家”。总共有256个专家，每个专家都擅长做不同的事情。现在，假设机器人要解决一个问题，它不需要让所有的专家都来帮忙，因为那样会浪费时间和精力。相反，它会从这些专家中挑选出最厉害的8个专家来帮忙。这些被选中的专家是最适合解决这个问题的，所以它们可以又快又好地完成任务。这种混合专家架构就像是一个聪明的管理者，总是能选出最合适的人来完成任务，也就可以减少不必要的计算和内存消耗。moe通过动态选择部分专家模型处理输入，减少了不必要的计算开销，显著提升了训练和推理效率，例如，谷歌的gemini 1.5就采用了moe架构，通过路由机制将请求分配给多个专家模型。但是，moe模型仍然有些问题。例如，训练过程较为复杂，尤其是门控网络的设计和专家模型的负载均衡问题，可能导致训练不稳定；moe需要将所有专家模型加载到内存中，显存需求较高，限制了其在资源受限设备上的部署；同时，在分布式计算环境中，moe模型的专家模型可能分布在不同的计算节点上，导致通信开销较大，影响整体效率。moe的选择机制可能导致某些专家被频繁调用（过载），而其他专家则很少被使用（欠载）。这种负载不均衡会降低模型的整体效率，甚至影响性能。为了解决这个问题，传统方法通常会引入辅助损失（auxiliary loss），通过惩罚负载不均衡的情况来强制均衡专家的使用频率。然而，辅助损失本身可能会对模型的主任务性能产生负面影响，因为它会干扰模型的优化目标。因此，deepseek v3在混合专家（moe）架构中，引入了无辅助损失的负载均衡策略，通过动态调整专家偏置值，确保每个专家负载均衡，避免了传统辅助损失对模型性能的负面影响。具体来说，deepseek v3根据每个专家的历史使用频率，实时调整其偏置值（bias）。如果某个专家被频繁调用，其偏置值会被降低，从而减少其被选择的概率；反之，如果某个专家很少被调用，其偏置值会被提高，增加其被选择的概率。由于没有辅助损失的干扰，模型能够专注于主任务优化，从而提升整体性能。而且，动态调整偏置值的计算开销较低，不会显著增加模型的计算负担。同时，避免了辅助损失可能导致的训练不稳定问题，使模型更容易收敛。这种无辅助损失的负载均衡策略，是deepseek v3独有的。另外，在传统的transformer架构中，多头注意力机制（multi-head attention, mha）是核心组件之一。mha通过并行计算多个注意力头，捕捉输入序列中的不同特征。然而，mha需要存储大量的键（key）和值（value）矩阵，尤其是在处理长序列时，内存需求呈平方级增长。而且mha的计算复杂度与序列长度的平方成正比，导致在处理长文本时效率较低。deepseek v3使用的mla通过引入低秩联合压缩技术，将键和值矩阵压缩为潜在向量（latent vectors），这就可以帮它大大减少内存占用和计算开销。除了这些，deepseek v3还自创了一种dualpipe流水线并行算法，这也是其高效训练框架中的一项关键技术。在训练大规模ai模型时，通常需要将计算任务分配到多个gpu或节点上进行分布式训练。然而，分布式训练面临两个主要挑战： 计算与通信的串行化：在传统流水线并行中，计算和通信操作通常是串行进行的，即在进行通信时，计算资源处于空闲状态，导致资源浪费； 通信开销：在跨节点训练中，数据传输（如梯度同步）会占用大量时间，成为训练效率的瓶颈。deepseek v3的dualpipe流水线并行算法通过将计算与通信时间完全重叠，最大化硬件资源的利用率，从而显著提升训练效率。dualpipe算法将训练过程分为两条独立的流水线：计算流水线和通信流水线。 计算流水线负责模型的前向传播和反向传播，而通信流水线负责跨节点的数据传输（如梯度同步）。这两条流水线可以并行运行，互不干扰。dualpipe流水线并行算法在实际应用中取得了显著效果，通过将计算与通信时间完全重叠，dualpipe算法将硬件资源的利用率提升到了接近100%。而且，由于计算和通信并行进行，训练时间显著缩短，尤其是在大规模分布式训练中效果更为明显。通过优化通信内核和充分利用高速网络带宽，dualpipe算法将通信开销也降到了最低。此外，在深度学习训练中，传统的浮点数精度通常是32位（fp32）或16位（fp16）。混合精度训练通过在不同计算阶段使用不同精度的浮点数（如fp16和fp32），在保持模型性能的同时，减少内存占用和计算开销。然而，随着模型规模的不断增大，fp16和fp32的计算和存储开销仍然较高。为了进一步优化资源利用，deepseek v3引入了fp8混合精度训练。fp8是一种8位浮点数格式，其存储和计算开销仅为fp16的一半，fp32的四分之一。包括llama系列、mixtral 8x7b、inflection-2、零一万物的双语llm模型以及coat框架下的模型，都通过fp8技术显著提升了训练效率和资源利用率，同时保持了模型性能。deepseek v3还采用了多令牌预测目标（multi-token prediction, mtp），在训练过程中，模型不仅预测下一个令牌，还同时预测后续的多个令牌。例如，给定输入序列“我喜欢吃”，模型可能同时预测“苹果”“香蕉”“与/和”等多个令牌。这种密集的训练信号显著提高了数据利用率，减少了训练所需的样本数量。在推理阶段，模型能够同时生成多个令牌，从而加速文本生成过程。deepseek v3的开源策略引发了全球开发者的广泛关注。openai创始成员karpathy称赞其“让在有限算力预算上进行模型预训练变得容易”。meta科学家田渊栋则惊叹其训练技术为“黑科技”。最重要的是，这一策略降低了技术门槛，为中小企业和初创公司提供了低成本的高性能ai5845vip威尼斯电子游戏的解决方案。>> deepseek-v3的基本架构示意图。在deepseek-v2的基础上，采用了mla（多头潜在注意力）和deepseek moe，以实现高效的推理和经济高效的训练。整理总结可以发现，deepseek v3不论是采用现有的技术，还是独创自己的路线，都另辟蹊径。这或许与它的母公司和创始人的调性脱不开干系。02 “不务正业”的私募巨头深度求索（deepseek）公司的成立和发展，与量化私募巨头幻方量化有着密切的关系。深度求索成立于2023年7月17日，创始人就是幻方量化的创始人梁文锋。幻方量化是中国知名的量化私募公司，专注于利用算法和高性能计算进行金融投资，幻方量化为深度求索提供了强大的资源支持。彼时，幻方量化是“大厂”外唯一一家储备万张a100芯片的公司，这些高性能计算集群和资金投入使得深度求索能够在短时间内推出高性能的大模型。deepseek一跃成名，起因是他们此前发布的deepseek v2开源模型：deepseek v2的推理成本在当时就被降到每百万token仅 1块钱，约等于llama3 70b的1/7，gpt-4 turbo的1/70——deepseek因而被称作“ai界拼多多”。在低成本的压力下，字节、腾讯、百度、阿里的大模型开始纷纷降价——可以说，中国大模型“价格战”由此而始。受到影响的不只是国内的“大厂”，有不少圈内人士都受到了deepseek开源内容的启发。例如，openai前员工andrew carr从deepseek-v2论文中获取灵感，将其训练设置应用于自己的模型。在硅谷，deepseek被称作“来自东方的神秘力量”。semianalysis首席分析师认为，deepseek v2论文“可能是今年最好的一篇”。openai前政策主管、anthropic联合创始人jack clark认为，deepseek“雇用了一批高深莫测的奇才”，还认为中国制造的大模型，“将和无人机、电动汽车一样，成为不容忽视的力量”。有人认为，这种强烈的反响源自架构层面的创新，这是国产大模型公司乃至全球开源基座大模型都很罕见的尝试。创始人梁文锋早年就读浙江大学电子工程系人工智能方向，无比笃信“人工智能一定会改变世界”。在接受“暗涌”的采访时，梁文锋说：“过去很多年，中国公司习惯了别人做技术创新，我们拿过来做应用变现，但这并非是一种理所当然。这一波浪潮里，我们的出发点，就不是趁机赚一笔，而是走到技术的前沿，去推动整个生态发展。我们认为随着经济发展，中国也要逐步成为贡献者，而不是一直搭便车。过去三十多年it浪潮里，我们基本没有参与到真正的技术创新里。”“中国ai不可能永远处在跟随的位置。我们经常说中国ai和美国有一两年差距，但真实的gap是原创和模仿之差。如果这个不改变，中国永远只能是追随者，所以有些探索也是逃不掉的。”梁文锋在说到成本路线时，表示很意外：“我们只是按照自己的步调来做事，然后核算成本定价。我们的原则是不贴钱，也不赚取暴利。这个价格也是在成本之上稍微有点利润。”“我们降价，一方面是因为我们在探索下一代模型的结构中，成本先降下来了，另一方面也觉得无论api，还是ai，都应该是普惠的、人人可以用得起的东西。”幻方量化作为量化私募巨头，“囤”了大量的芯片。这也是deepseek得以起步的重要基础。实际上，量化交易需要处理海量数据并进行实时分析，这与ai大模型的训练和推理需求高度契合。幻方量化在高性能计算和分布式系统上的经验，可以直接应用于大模型的开发。同时，量化交易中的算法优化技术（如深度学习、强化学习）与大模型训练中的优化策略（如混合专家架构、fp8混合精度训练）有共通之处。这些技术可以相互借鉴，提升效率。不过，幻方本身的交易成绩和盈利情况在近年来却经历了显著波动，尤其是在2024年。2024年，幻方量化的量化中性策略（如dma策略）因市场波动和监管政策调整（如融券和t 0功能的限制）遭遇了显著回撤。例如，幻方旗下的“慧冲10号a期”在2024年亏损5.36%，近1个月亏损1.33%。2024年初，小微盘股出现流动性危机，导致幻方的量化指增策略（如中证500指增）也受到较大影响。例如，其代表性产品“九章量化多策略1号”在2024年1月至2月期间最大回撤达34.55%。截至2024年7月，幻方量化的旗舰产品“中证500量化多策略”近三年收益率为-12.58%，年内净值收益为-10.07%，与同期中证500指数收益（-10.26%）基本持平。幻方管理的资金规模也从千亿元级的峰值大幅缩减至几百亿。尽管2024年表现不佳，幻方量化在2021年及之前曾取得显著超额收益。据了解，其以指数增强策略为主，通过全市场选股、日内交易和科创板打新等策略获取超额收益。此前，幻方通过多空对冲（如多股票、空股指期货）获取稳定收益，并且是中国首家管理规模突破千亿的量化私募公司。为了在投资之外做更多的研究，搞清楚“什么样的范式可以完整地描述整个金融市场、有没有更简洁的表达方式、不同范式能力边界在哪、这些范式是不是有更广泛适用”之类的问题，幻方从2012年起，就开始关注到算力的储备，并有意识地去部署尽可能多的算力。墙内开花墙外香，可以说，虽然资金规模缩水、业绩表现有争议，但幻方“歪打正着”的开源大模型反而在ai界内掀起了一阵又一阵的巨浪。03 抄了硬件供应商的“老底”？deepseek v3在仅使用2048块nvidia h800 gpu的情况下，完成了6710亿参数模型的训练，成本仅为557.6万美元，远低于其他顶级模型的训练成本（如gpt-4的10亿美元）。这意味着，ai大模型对算力投入的需求可能会从训练侧向推理侧倾斜，即未来对推理算力的需求将成为主要驱动力。而英伟达等硬件商的传统优势更多集中在训练侧，这可能会对其市场地位和战略布局产生影响。训练是指使用大量数据训练ai模型的过程，通常需要极高的计算能力和存储资源。训练过程通常在数据中心完成，耗时较长，成本高昂。推理是指将训练好的模型应用于实际任务（如生成文本、识别图像、推荐商品等），通常需要低延迟和高吞吐量。推理过程可以在云端或边缘设备（如手机、自动驾驶汽车）上进行。为什么推理算力需求会成为主要驱动力？随着各类大模型的成熟，许多企业和开发者可以直接使用预训练模型，而不需要从头训练。例如，gpt-4和本文所述的deepseek v3等模型已经提供了强大的通用能力。对于特定任务，企业通常只需对预训练模型进行微调，而不需要大规模训练，这减少了对训练算力的需求。与之相对地，生成式ai在文本生成、图像生成等领域的应用迅速扩展，推理需求激增。例如，chatgpt每天处理数百万用户的请求，需要强大的推理算力支持。在自动驾驶、智能家居、工业互联网等领域，推理需要在边缘设备上实时完成，这对低功耗、高性能的推理硬件提出了更高要求。训练大模型需要数千甚至数万块gpu，成本高达数百万美元。例如，gpt-4的训练成本估计超过1亿美元。推理对算力的需求远低于训练，但规模更大。chatgpt的推理成本虽然低于训练，但由于用户量巨大，总体算力需求仍然很高。英伟达的gpu（如a100、h100）在训练大模型时表现出色，提供了强大的计算能力和显存带宽。例如，gpt-3的训练使用了数千块英伟达v100 gpu。英伟达的cuda平台还为开发者提供了丰富的工具和库，简化了大规模模型训练的开发过程。所以在训练侧，英伟达的优势几乎是压倒性的。不过，在推理侧，英伟达的gpu能效比相对较低，尤其是在边缘计算场景中，功耗和成本成为瓶颈。以openai为例，虽然它使用英伟达gpu支持chatgpt的推理，但也在探索专用推理硬件以降低成本。还有特斯拉，则是使用自研的fsd芯片（基于npu）进行推理，以满足低功耗和实时性需求。单纯依赖硬件性能的提升已无法完全满足市场需求，而软件优化、算法创新和生态构建的重要性日益凸显。与其说这是对硬件供应商的挑战，不如说，在当前这个“摩尔定律”显著放缓、行业面临瓶颈期的时节，这是一个转型的机遇。随着半导体工艺接近物理极限，硬件性能的提升速度放缓，单纯依赖硬件升级难以满足ai计算的需求。而高端硬件（如gpu、tpu）的采购和维护成本高昂，且能耗较大，无论是在大规模普及中还是对于资金薄弱的中小企业来说，硬件成本费用都是一个沉重的负担。目前看来，deepseek带来的最大的启示，就是通过算法优化（如混合精度训练、模型压缩、量化等），可以在不增加硬件成本的情况下显著提升计算效率。而英伟达等硬件商则更应该通过提供软件工具和框架（如cuda、tensorrt），构建开发者生态，从单纯的硬件销售转向提供综合5845vip威尼斯电子游戏的解决方案（如云服务、ai平台）。例如，英伟达通过cuda平台为开发者提供了丰富的工具和库（如cudnn、cublas），简化了ai模型的开发和优化过程。尽管amd、英特尔等公司推出了类似平台（如rocm、oneapi），但它们在性能和生态成熟度上仍无法与cuda匹敌。semianalysis创始人迪伦·帕特尔（dylan patel）指出，英伟达的竞争优势就在于其软件和硬件的紧密结合，cuda的高效性和易用性使得英伟达在ai芯片市场占据了主导地位。英伟达ceo黄仁勋也认为，cuda正是英伟达从图形处理器公司转型为全球计算巨头的关键。可以预见，未来硬件商将开发更多专用ai硬件（如npu、tpu），并通过算法与硬件的协同设计，进一步提升计算效率和能效比。软硬件协同优化和综合5845vip威尼斯电子游戏的解决方案是未来发展的重要路径。

2月12日，湖南，二次元奶奶给孙女手工做结界兽套装，做工精巧、还原度拉满。网友：穿这身衣服去电影院一定很拉风，建议量产！ 帽子真的好喜欢。来源：河南广播电视台民生频道编辑：李木木