-
堂堂开源之王Llama3,原版上下文窗口居然只有……8k,让到嘴边的一句“真香”又咽回去了。在32k起步,100k寻常的今天,这是故意要给开源社区留做贡献的空间吗?开源社区当然不会放过这个机会:现在只需58行代码,任何Llama370b的微调版本都能自动扩展到1048k(一百万)上下文。背后是一个LoRA,从扩展好上下文的Llama370BInstruct微调版本中提取出来,文件只有800mb。接下来使用Mergekit,就可以与其他同架构模型一起运行或直接合并到模型中。所使用的1048k上下文微调版本,
-
训练完就直接上模型。我们都知道,Mistral团队向来「人狠话不多」。昨天下午,他们又又又丢出了一个不带任何注解的磁力链接。解析一下这个链接,可以看到大小共23.64GB,其中包含4个文件,其中最大的文件是一个封装的多模态大模型。动作快的非官方Mistral社区已经将该模型上传到了HuggingFace。磁力链接:magnet:?xt=urn:btih:7278e625de2b1da598b23954c13933047126238a&dn=pixtral-12b-240910HuggingFace地址:h
-
AIxiv专栏是本站发布学术、技术内容的栏目。过去数年,本站AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com生成式人工智能研究实验室(GAIR,主页:https://plms.ai/)是国内首个聚焦于生成式人工智能的高校研究组。汇聚了来自于CMU、复旦、交大(ACM班、IEEE试点班等)等顶尖
-
11月16日,月之暗面KimiChat宣布推出新一代数学推理模型k0-math。新京报报道,基准测试显示,Kimik0-math的数学能力可与全球领先的OpenAIo1系列可公开使用的两个模型o1-mini和o1-preview相媲美。在中考、高考、考研以及包含入门竞赛题的MATH等4个数学基准测试中,k0-math初代模型的成绩超过了o1-mini和o1-preview模型。在两个难度更大的竞赛级别的数学题库OMNI-MATH和AIME基准测试中,k0-math初代模型的表现分别达到了o1-mini最高
-
12月25日,据小米汽车官微消息,小米汽车正式与蔚来开始充电补能网络合作,14000+蔚来充电桩入驻小米充电地图,支持在充电地图中实时查看蔚来充电场站的动态数据,同时支持小米汽车App扫码充电。文章来源:凤凰网科技
-
嘉元科技近日发布公告,宣布将与IXMS.A.和埃珂森(上海)企业管理有限公司签订总计7万吨电解铜长单采购合同,合同总金额预计达50.66亿元。此举旨在确保公司电解铜原材料的长期稳定供应,保障生产经营的顺利进行。合同约定,嘉元科技将在2024年12月至2025年11月期间从IXMS.A.采购6万吨电解铜,并在2025年1月2日至2025年12月31日期间从埃珂森上海采购1万吨电解铜。具体价格将根据合同约定的定价原则结算。嘉元科技积极研发创新,近年来已成功推出中强/高强/超高强锂电铜箔、微孔铜箔、单晶铜箔、高
-
长虹能源2024年度业绩预告:扭亏为盈,销售收入增长长虹能源近日发布2024年度业绩预告,预计归属于母公司所有者的净利润将达到1.85亿元到2.05亿元之间,与上年同期2708.99万元的亏损相比,实现了扭亏为盈。同时,公司销售收入也同比增长。业绩大幅改善的主要原因如下:一次性圆柱形碱性锌锰电池业务:通过积极开拓市场,并实施降本增效和精细化管理,保持了较高的运营效率,销售规模和利润均实现稳步增长。圆柱形高倍率锂电池业务:公司持续推进“强基行动”,优化组织架构和运行机制,提升运营效
-
2024年汽车行业经济数据分析:利润下滑,新能源电池逆势增长2024年汽车行业全年总收入达10.65万亿元,同比增长4%,但成本增长5%达到9.33万亿元,导致利润同比下降8%,仅为4623亿元,利润率仅为4.3%,远低于下游工业企业平均水平。12月数据显示,收入同比增长13%达到1.19万亿元,但成本增长更快,达到1.03万亿元(同比增长15%),利润同比下降13.5%至491亿元,利润率降至4.1%。与整体行业利润下滑形成鲜明对比的是,锂离子电池制造行业利润增长48.5%,凸显新能源汽车产业
-
针对日本拟对半导体相关物项实施出口管制一事,中国商务部回应称将坚决维护自身合法权益。商务部发言人指出,日本政府计划对十余种半导体相关产品实施出口管制,并将部分中国企业列入“最终用户清单”。此举被认为是泛化国家安全概念,滥用出口管制措施,对中国半导体产业进行打压,影响产业链供应链稳定,干扰正常商业往来,并损害两国企业利益。目前,日本政府正在公开征求意见。中国方面呼吁日方重视业界声音,维护国际经贸规则和中日经贸合作大局,避免相关措施损害两国经贸关系,并强调中方保留采取相应措施的权利,以坚决维护自身合法权
-
欧盟2024年工业研发投资记分牌新鲜出炉!榜单显示,全球研发投入最高的2000家企业总投入高达12570亿欧元,占据全球商业研发85%以上份额。其中,Alphabet公司以398亿欧元的研发投入拔得头筹,Meta和苹果紧随其后。值得关注的是,华为以190亿欧元的研发投入位列第六,成为榜单中排名最高的中国企业。前50名企业贡献了总研发投入的40%。国家分布方面,美国企业占据681席,中国企业(包括中国台湾地区55家公司)以579席位列第二,欧盟、日本分别位列第三、第四。英国、韩国和瑞士也分别有63家、40
-
利用AI高效提升酶热稳定性:上海交大研究团队取得突破酶的热稳定性对于生物技术和工业应用至关重要。传统方法通过逐步引入单点突变来优化酶的热稳定性,过程费时且效率低下。近日,上海交通大学杨广宇研究员团队与洪亮教授合作,在《mLife》杂志发表研究成果,提出了一种基于人工智能的策略,显著提高了酶热稳定性工程的效率。该研究利用蛋白质语言模型Pro-PRIME,结合少量实验数据进行微调,预测组合突变体的稳定性和活性。通过对肌酸酶进行两轮设计,成功获得了50个具有卓越热稳定性的组合突变体,设计成功率达到惊人的1
-
余承东预告尊界S800发布会:明日两点三十分直播,技术革新引爆期待!尊界S800华为常务董事余承东在其个人微博发布视频,预告将于明日(2月20日)下午两点三十分在其个人账号进行尊界S800技术发布会直播。视频中,余承东用“稳”和“觉醒”两个词概括了此次发布会的核心,并暗示将带来令人震撼的技术突破。余承东视频预热据悉,此次发布会将重点展示尊界S800在智能驾驶、底盘等方面的创新技术。此前官方信息显示,尊界S800拥有超级巡航、超强机动性、超级信息感知、超级隐私保护、天地网联、AI辅助驾驶、主动
-
大流行、经济衰退和欧洲战争都是导致消极情绪和抑郁情绪的因素。 然而,获得优质精神保健的机会因国家而异。 在某些地区,可能很难找到合格的专业人员,或者供应可能低于需求。 所有这
-
为什么人工智能和数字孪生可能是可持续未来的关键?数字孪生并不是什么新事物,但人工智能正在增强它们的能力。二者共同改变了产品的设计、制造和维护方式。这些技术的结合为我们日益
-
作者 | 王瑞平审校 | 云昭这几个月以来,AIGC的另一个重要分支——绘图完全没闲着。据了解,Midjourney软件在AI生成图片领域的热度堪比OpenAI的Chat GPT。GPT-4推出的同时,Midjourney也出了第5