自Golden Gate Claude项目以来，LLM操控（steering）技术一直令AI工程师着迷。其核心思想是：通过直接干预模型推理过程中的激活值，引导模型输出特定行为，而无需修改提示词或进行微调。然而，这项技术长期受限于需要本地运行模型的高门槛。近日，DeepSeek-V4-Flash模型的发布，让这一领域重新变得有趣且可及。

DeepSeek-V4-Flash是由深度求索（DeepSeek）推出的新一代高效语言模型。根据技术社区反馈，该模型在本地运行时的性能表现足以与低端前沿模型在智能体编程任务中竞争。这意味着，工程师们期待已久的“本地可运行、性能足够强”的模型终于出现。由于steering技术必须在本地模型上操作（无法在云端API中干预激活层），DeepSeek-V4-Flash的出现让大量工程师首次有机会实践这一技术。

更令人兴奋的是，知名开发者antirez最近发布的项目DwarfStar 4，正是基于llama.cpp精简而来，专门为运行DeepSeek-V4-Flash设计。该项目将steering作为一等公民功能内置其中。尽管目前该功能还比较初级（仅实现了类似“简洁性”提示词的玩具级示例），但考虑到其初始发布仅8天，社区对其后续发展充满期待。antirez本人也表示将密切关注该项目，持续迭代。

steering技术原理

steering的基本思路是：从模型的内部“大脑状态”中提取某个概念（例如“简洁回答”），然后在推理过程中增强形成该概念的数值激活。一种简单的实现方式是：用同一组100个提示词分别运行模型两次——一次使用正常提示词，一次在提示词后追加“简洁回答”字样。然后，通过计算每对提示词下模型激活值的差异（将两个激活矩阵相减），得到所谓的“steering向量”。理论上，将该向量添加到任意提示词对应的同一激活层中，即可产生让模型简洁回答的效果。

更高级的方法则是训练一个辅助模型，从主模型的激活中提取“特征”——即那些经常同时出现的行为模式。然后尝试将这些特征映射回具体概念，并以相同方式增强它们。这大致就是Anthropic公司使用稀疏自编码器（sparse autoencoders）所做的工作。其原理与朴素方法相同，但能够捕获更深层的模式，代价是需要更多的时间、算力和专业知识。

steering的吸引力

steering听起来像是一种“作弊码”：与其费心构建训练集来推动模型向训练数据中“聪明”的一端靠拢，为什么不直接找到模型大脑中的“聪明”旋钮，然后把它拧到最大？它也为调整模型对话方式提供了更优雅的手段。与其在提示词中反复添加或删除“你必须”等限定词，不如直接拥有一个包含“简洁/冗长”、“认真/快速”等滑块的操控面板，直接拖动调节。

最后，steering本身也极具趣味性。就像Golden Gate Claude项目那样，模型会不由自主地将每个句子都拉回到金门大桥上，这种既迷人又令人不安的效果，正如神经学家奥利弗·萨克斯（Oliver Sacks）所描述的神经病例一样，揭示了模型内部运作的奇妙与未知。

随着DeepSeek-V4-Flash和DwarfStar 4的推出，steering技术从理论走向实践的门槛大幅降低。未来，工程师们有望通过更精细的操控方式，让LLM在本地以更低成本、更高效率完成特定任务，这或将为AI应用开发带来新的范式。