用LoRA替代150GB去审查模型:llama.cpp运行时按需加载
Reddit用户指出,绝大多数去审查技术本质是rank-1消融,可压缩成小体积LoRA在运行时叠加到已有量化模型上。他基于huihui v2 Flash Next构建了F32 LoRA,可节省150GB空间,并支持按请求启用。测试显示Jailbreak Bench拒绝率从93/100降至3/100,KLD与困惑度与基座基本一致。
技巧 · Reddit / r/LocalLLaMA
阅读知一刻 2026.11.17 AI 日报,查看当日精选事件、完整解读与原始来源。
2026年11月17日 星期二 · 当日 30 件事 · 精选 18 条深读
LoRA 让审查模型轻量加载,混元与 Qwen 继续压参数、探表征;复现争议提醒热度与可用性仍是两回事。
Reddit用户指出,绝大多数去审查技术本质是rank-1消融,可压缩成小体积LoRA在运行时叠加到已有量化模型上。他基于huihui v2 Flash Next构建了F32 LoRA,可节省150GB空间,并支持按请求启用。测试显示Jailbreak Bench拒绝率从93/100降至3/100,KLD与困惑度与基座基本一致。
技巧 · Reddit / r/LocalLLaMA
腾讯混元发布 Hy4 flash。模型总参 224B(含 64B Engram),每 token 激活 12B,支持多模态和 100 万上下文。每百万 token 价格为输入 0.5 元、输出 2 元、缓存 0.02 元。该模型已在 TokenHub、WorkBuddy 等产品上线;11 月 30 日前 WorkBuddy 限时免费,TokenHub API 五折。官方表示计划开源,并保持高频迭代。
新模型 · 腾讯混元
作者构建了 Qwen3-1.7B 内部表征的交互式图谱,把数千段对话的残差流向量投影到三维空间。他先用 100 个主题生成英语、中文、德语、克罗地亚语问答及代码样例,发现英语 token 状态在投影中近似一张薄片,最佳拟合平面约含 99.3% 的变异。
研究分析
一名 Reddit 用户在 r/ 发帖称,MiniMax H3 官方 GitHub 仓库放出的 50 多张示例图效果惊艳,但自己在 ComfyUI 中用相同提示词复现时差距明显,例如毛发理解和狮子面部结构。他已尝试不同采样器、不同分辨率和接入空图像,仍无法解释差异,怀疑官方使用了与默认 euler/simple 不同的采样方案。
社区热议 · Reddit / r/StableDiffusion
香港多模态 AI 公司 Weitu AI 打造流式多模态视频大脑,通过 Dual Sparse Memory 双层稀疏记忆架构实现流式视频的高效压缩感知与长期记忆更新。在 OVBench 基准上综合得分 69.9,高于 Gemini 3.1 Pro 的 58.8;在 Meta S-EMBER 上得分 58.23,也高于 Gemini 3.1 Pro 的 54.41。目前已服务全球数十家企业和约 600 万个人用户。
新模型 · 机器之心
是石科技发布「多模态模型服务」,针对视频生成推理加速、缓存与显存管理、多模态Token压缩及素材理解与生成链路衔接做优化。测试条件下相比Dense基线实现端到端平均2.48倍加速,同时保持生成质量;其免训练Token压缩方法在WorldSense评测中实现1.33倍加速。
新模型服务 · 量子位
AI Day Seoul 在 COEX 举办两天,吸引 2000 多名参会者,聚焦物理 AI 与 AI 智能体。斗山机器人、现代汽车集团、LG 电子、SK 集团及 Real World、Luda Robotics 等创业公司使用 NVIDIA 平台推进通用机器人落地。
行业动态 · NVIDIA 官方博客
OpenAI 公布面向医疗团队的电脑操作智能体评测结果:在 325 项临床任务中 99% 被评为安全,646 次评估中 93% 被评为“非常有帮助”或“极其有帮助”。行政任务上,GPT‑6 Astra 在 Stanford 的 OnHealthAdminBench 拿到 94.3% 评分点,GPT‑6 Luna 为 91.8% 且每任务仅 8.5 美分。
行业动态 · OpenAI
OpenAI 为 ChatGPT for Healthcare 推出电脑操作智能体,可跨现有医疗软件读取屏幕、点击、输入并跨应用流转,用于转诊、文档搬运等流程。同时改进可信临床搜索,并新增 20 多个医疗插件,覆盖临床诊疗、护理协调与业务运营。
功能更新 · OpenAI
Geiru 发布 Keystone Attention 节点,让首帧对新片段施加更强牵引,缓解长 H3 链逐渐变暗的问题。测试中 30 条链亮度约降 9%,而无保护时降 17%;Geiru Hybrid Windows 同时升级,采样显存减半、速度不变、输出一致。
功能更新 · Reddit / r/StableDiffusion
Sebastian Raschka 发布长文,系统讲解 LLM 如何编码和处理 token 位置信息,涵盖经典方法与 RoPE 等当代方案,并配有可视化示例、少量数学推导和一个小型 PyTorch 实现。文章还预览了 2026 年开源权重模型在位置编码上的不同选择,并讨论现代架构如何改造或省略显式位置编码。
技术解析
前OpenAI与Anthropic预训练研究员Jacob Coxon在Anthropic万亿IPO前夕放弃期权辞职,并晒出那张内部折线图。图中橙色曲线在对数坐标下仍加速上扬,Anthropic在路演中将其作为头号王牌公开,Sam McCandlish与Tom Brown分别解释了算法乘数与「总有效算力=物理算力容量×算力乘数」的逻辑。
AI事件 · 新智元
Anthropic 联合创始人兼 CEO 达里奥 · 阿莫迪上周五在纽约与摩根大通掌门杰米 · 戴蒙公开对谈,将算力称为公司面临的“最深层商业难题”。他表示公司选择上市的重要原因就是增加现金储备,为高度不确定的算力需求提供更大缓冲。戴蒙追问 Anthropic 披露的涉及算力、租赁和数据中心的 9,000 亿美元未来承诺如何确保资源并控制长期成本,阿莫迪未逐项拆解,而是强调技术进步转化为经济价值的速度存在巨大不确定性。
人物观点 · IT之家
前情:2026.09.14 Anthropic CEO Dario Amodei 发文呼吁放缓前沿AI,提出三步计划并承诺嵌入式评估员
新智元报道,NeurIPS 2026一篇工作把奖励适配看作分布搬运问题,用Doob h-变换推导出掩码离散扩散上的形式,提出只需奖励值、无需训练的采样器D-DOIT。在HepG2增强子设计上,高预算的D-DOIT-Q预测活性达6.19,超过需微调的DRAKES(5.61);蛋白质逆折叠结构–稳定性联合成功率68.1%,高于SMC(63.6%)和TDS(62.9%)。
论文 · 新智元
前情:2026.11.10 NeurIPS’26 | 只干预10个维度,给智能体穿上安全机甲,准确率超97%
英伟达机器人学习工程师戴士钦(Darrell Dai)发文宣布将离开公司。他表示钦佩黄仁勋在深度学习热潮前投入 CUDA、提前布局 AI 的远见,也认可其在具身智能上的投入,但黄仁勋突然离职让他格外失望,并认为一切未得到充足解释。
行业动态 · IT之家
腾讯 WorkBuddy 国际版宣布正式上线谷歌 Gemini 4 Carbon 模型,主要面向需要更深入推理和处理更长任务的使用场景,目前仅面向 Pro 计划用户开放。该模型支持文本、图像、音频和视频输入,输入与输出合计上下文窗口最高可达 100 万 Token。官方尚未公布该模型在平台内的具体调用额度及使用限制。
新模型 · IT之家
前情:2026.08.09 腾讯 WorkBuddy 联合腾讯文档推出人机双写功能
哥德堡大学教授 Alan Said 发现自己被冒名发表了一篇 AI 生成的垃圾论文,追查后牵出三本期刊:它们以斯坦福、伯克利等顶尖高校教授的名义批量发表 AI 垃圾论文,被冒名者包括 Hinton、李飞飞、LeCun、吴恩达等。论文作者名可随时替换,期刊域名 2026 年才注册却挂着「过刊」,并向作者收取发表费。
行业动态 · 机器之心
Anthropic 于 11 月 9 日发布 Claude Fable 5.2 与 Claude Mythos 5.2。Fable 5.2 不调用图像生成模型,而是编写 1000 至 2000 行 Python 代码,在虚拟画布上模拟画笔、颜料与画布质感,逐笔完成绘画。员工 Jake Eaton 让其创作的照片级购物车作品使用了约 70 万次模拟笔触。
新模型 · IT之家
前情:2026.10.25 Anthropic Claude 付款页面新增中国及港澳台地区选项,支持银联卡支付