今晚19点|2GPU+2CPU微调万亿参数超大模型,带你上手开源项目KTransformers
创始人
2025-11-11 13:15:12
0

视点 发自 凹非寺
量子位|公众号 QbitAI

2GPU+2CPU就可以在本地微调自己的DeepSeek 671B / Kimi K2 1TB超大模型了。

这就是前两天量子位介绍的明星开源项目KTransformers,吸引了很多伙伴的关注。毕竟谁不想在本地跑个自己的猫娘呢(误)。

KTransformers如何实现更低成本的LoRA微调?与其他技术方案有什么不同?低成本高性能的微调方案对于大模型落地意味着什么?

于是,我们邀请到了KTransformers项目的两位重要成员——

  • 章明星,清华大学计算机系副教授,KTransformers项目主要指导老师
  • 李沛霖,趋境科技KTransformers项目核心参与者

带大家上手实践如何用KTransformers+LLaMA-Factory在本地微调超大模型,也一起聊聊项目背景与最新进展。

欢迎在「量子位」视频号预约&观看直播

直播嘉宾

章明星

清华大学计算机系副教授

章明星教授是KTransformers项目主要指导老师。其主要研究方向为计算机系统机构领域,相关成果在包括OSDI、SOSP、ASPLOS、HPCA、FSE、VLDB、ATC、EuroSys等国际顶级会议和期刊上发表论文二十余篇。曾获ACM SIGSOFT 杰出论文奖,IEEE TCSC、ACM SIGOPS等组织颁发的优秀博士毕业论文奖。获得国家自然科学基金青年科学基金及博士后基金一等项目资助。博士毕业后进入清华大学与深信服联合培养的博士后计划,负责创新业务孵化,担任深信服首席算法技术专家,后任职创新研究院院长。

李沛霖

趋境科技KTransformers项目核心参与者

李沛霖,目前就读于西北工业大学计算机学院,即将进入清华大学计算机系攻读博士学位。参与了趋境科技引擎开发,是KTransformers项目核心参与者,微调功能核心技术开发人员。曾获国家奖学金,院长奖学金(全院所有年级仅1人),多次获得国家级竞赛奖项。

核心话题

  • 认识KTransformers项目:如何实现更低成本的LoRA微调?
  • 手把手实操KTransformers
  • 聊聊KTransformers背后的技术与思考

参与直播

欢迎在「量子位」视频号预约&观看直播

关于「365行AI落地方案」

AI技术的落地应用不仅限于科技领域,它已经渗透到各行各业,成为推动产业升级的重要力量。因此,“365行AI落地方案”主题策划应运而生,我们寻找各行各业中成功应用AI技术的案例和方案,分享给更多的产业内人士。

相关内容

热门资讯

青州春雨刷屏,千年古城烟雨朦胧... 2026年3月1日,一场不期而遇的春雨,悄然降临山东青州。没有夏雨的磅礴,没有秋雨的缠绵,这场初春的...
张江人工智能创新小镇AI赋能,... 3月1日,在元宵佳节的喜庆氛围中,一场以“把爱带回家 暖心护航伴成长”为主题的AI赋能家庭儿童元宵专...
AI+RFID深度融合 远望谷... 在人工智能与物联网深度融合的产业浪潮下,RFID作为物联网感知层核心技术,正迎来数智化升级的关键机遇...
7000株黄花风铃木盛放!南宁... 原标题:7000株黄花风铃木盛放!南宁市青秀山引客来时下,南宁市青秀山风景区内的近7000株黄花风铃...
2.3公里非遗巡游!惠州6万市... 3月1日上午10时,备受瞩目的“金马踏春”——2026惠州多彩非遗闹元宵大巡游在东江河畔启幕。近13...
凝望垂虹桥 垂虹,富有诗性且有画面感的意象,让我有一种穿越古今、追寻梦幻的冲动。幸得海山兄的热情陪伴,我来到了垂...
一艘试图通过霍尔木兹海峡的油轮... 总台记者获悉,当地时间3月1日,一艘试图通过霍尔木兹海峡的油轮被击中,并开始沉没。 伊朗伊斯兰革命卫...
去年秋天至今“没睡过觉”,河津... 春意盎然,以梅花、早樱花、玉兰等为代表的春花正争芳斗艳,上海各座公园的迎春花展陆续拉开大幕,又恰逢周...
荣耀CEO李健谈Augment... IT之家 3 月 1 日消息,2026 世界移动通信大会前夕,荣耀在西班牙巴塞罗那举行了 MWC 2...
事关仙游榜头元宵游灯!多条道路... 正月十三仙游县榜头镇泉山社区板凳龙圈灯闹元宵17:10泉山社区板凳灯队伍在仙游工艺博览城集中队伍总长...