微调的终结:后训练时代的商业AI架构重定义

返回 Signals

Commerce AI2026年5月13日星期三

当OpenAI结束一个时代,个性化商业的未来在哪里?

Aleksey KlempnerCTO.LA
微调的终结:后训练时代的商业AI架构重定义

在哈克贝里的日子:感知他们标志性甜点的变化

清晨气温宜人,我在圣塔莫尼卡的哈克贝里享受着一块美味的糕点,空气中弥漫着新鲜出炉的烘焙食品的香气,这种气味几乎和围绕商业AI架构的讨论一样令人陶醉。让我对这家咖啡馆的兴趣突显的,是它与当前AI行业格局转变的惊人相似之处——曾经被微调甜化的,现在则朝着不同的方向发展。

OpenAI是否在微调淘汰中找到了最佳平衡点?

当我继续品尝糕点时,行业却在生产另一种可消化的内容。OpenAI正在限制新微调作业的创建,新用户将在2026年5月前逐步调整,所有活跃客户将在2027年1月6日前完成过渡。这标志着转向利用更通用的模型与新颖的数据方法论,如合成数据和基于强化学习(RL)的优化。[1]

这一决定的核心似乎扎根于经济理性和能力扩展。OpenAI实施这样的变化不仅精简了其基础设施,还表现出对其模型理解各种背景的信心,足以在没有微调的情况下处理与商业相关的任务。[3] 然而,对于许多开发者而言,这一消息并不那么令人安慰。

应对变化:开发者的视角

开发者社区对于OpenAI转变的反应可以用冷淡来形容。在论坛上,许多人表达了怀疑和担忧的混合情绪。微调能力的下降迫使企业重新思考它们的模型部署策略,往往转向更大、更昂贵的模型,而没有明显的投资回报率,之前通过定制训练获得的回报。[2] 就如一位开发者在OpenAI论坛上调侃的那样:“看起来他们暂时放弃微调了……”对失去一个对某些细分应用有用的工具表示质疑。

语义检索与RL:新商业AI架构的支柱

这一架构转变的核心是语义检索策略和基于强化学习的框架。传统上,微调使零售商能够创建定制的、精确调整的模型,能够处理细微的应用差异——比如个性化推荐或客户特定交互。然而,转向上下文学习(ICL)与语义搜索引入了一种更精简的、尽管数据密集的方法。

检索增强生成的角色

检索增强生成(RAG)使模型能够访问并利用表示大量历史交互或产品数据的预计算向量。这种对称的方法通过使模型能够在推理时“检索”上下文理解,通常以仅为定制重新训练的很小一部分的计算成本,来弥补缺乏直接微调的缺陷。[2]

RAG系统邀请模型以神经嵌入的精细度回忆过去的交互,从而润滑推理时的预测。一个电子商务企业可以嵌入上下文产品推荐和购买者历史,动态调整消息,即使在部署规模增加时,也能提高转化率,而不需要依赖于持续的模型权重重新训练。

RL在这一过程中的重要角色

与此同时,越来越多的公司依赖于强化学习(RL)架构,不仅用于产品推荐,还用于高度集成的商业系统。通过将RL作为后端增强学习启发式而不是前台模型预训练器,该系统在处理复杂的消费者交互逻辑时保持敏捷性。[3]

洛杉矶时报:定制模型反映城市的活力与复杂性

生活在洛杉矶,你会注意到一个模式:邻里拼贴呼应了商业中AI如何反映每个零售商独特足迹。正如威尼斯的Gjusta通过每一种创作融合了当地的手工艺风味,演变的AI要求每个企业通过有效地适应结构性数据来复制其量身定制的体验标准。

威尼斯风味的AI:个性化依然重要

准确预测顾客渴望什么——就像预测Gjusta如何将意想不到的季节性成分融入熟悉的菜肴一样,始终是商业AI努力的重点。然而,新的无微调时代推动向诸如半静态模型部署等替代方案转变,后者利用结构化数据进行AI搜索和模式识别。

结构化数据通过引导模型关注预定义参数来增强AI商业工具,从而使架构能够根据上下文需求实时变形。将这一点与使用通用商务协议进行的组内比较结合起来,你就拥有了一种能够动态适应的强大架构,无需持续重新训练模型。

这对你在洛杉矶的品牌意味着什么

OpenAI所引发的转变极大地影响了数字商业决策的结构。对于洛杉矶及其他地区的商家而言,挑战现在表现为适应能力的问题。他们多快能转变其数据基础设施,以支持RL和检索系统所需的实时数据流?[3]

弥合推理延迟

在没有微调模型集中的效率的情况下,企业被迫考虑延迟的影响。检索嵌入于各种面向向量数据库的客户数据将增加基础设施成本和设计复杂性。然而,这些转变也暗示了部署更多模块化AI系统的机会,这些系统信任临时数据而非预编程的全知能力。

适应策略:从昂贵的模型操作到有利可图的部署

  • 按需嵌入:就像来自Guerrilla Tacos的普通街头玉米饼——进进出出,但令人满足——隔离模型部署的部分,仅在需要时提取必要数据。
  • 结合RL增强的异常处理程序:在动态异常处理程序中使用RL,以确保边缘操作(如支付网关问题)得以在线解决,借鉴AI驱动的欺诈检测框架中的常见应用。

重新构想个性化:从微调到构造

在缺乏微调的情况下,许多直面消费者的品牌发现个性化变得更加困难但更加必要。传统上依赖微调模型来预测消费者行为的品牌现在转向模型构造:将模型的ICL潜力与实时上下文学习相结合。以Bay Cities意大利熟食店完美分层的Matzo饼干为例——每层都经过精确计算,类似于品牌从其数据生态系统中剥离复合体,以提供精细的个性化优势。

用创新的数据杠杆来抵消冷启动

为了缓解冷启动困境,即模型缺乏历史客户交互数据,品牌可以开辟新途径:
- 通过区域洞察采用强大的数据杠杆生态系统——在国家产品线中使用洛杉矶人口数据。
- 鼓励跨生态系统的AI合作,与非竞争实体共享见解,以加深AI数据井的深度(想想威尼斯的The Kettle科技之夜)。

精炼商业ML路线图

在这一新篇章中,商家必须接受一个结合基础架构与表面灵活性的路线图。考虑互锁的商业ML模式,沉浸在实时互动中,而不牺牲个体感——让人想起在温暖的加州午后享用Howlin' Ray's的热鸡时的触感反馈。

将ML与有形成果结合

  • 个性化客户旅程:制定模型,‘追随’顾客的旅程,从阿博特金尼画廊等文化地标中学习
  • 实时测试场:通过AI体验实验室方法,动态测试所有结算层(从发现到转化),确保每个接触点与艺术与商业之间的微妙平衡相符。

是时候迎来AI文艺复兴了吗?

微调的离去可能预示着一个充满挑战的过渡,但也带来了一个充满创新潜力的时代。通过战略性地采用RAG和RL,品牌不仅可以满足,还能超越与智能、挑剔的现代消费者的互动方式。

关键商业启示:最终战略

  • 投资于向量数据库生态系统:对于无缝RAG系统的有效性至关重要,形成现代AI架构的基础。
  • 通过跨功能团队扩大AI能力:无论是格兰中央市场的快速行动食品摊位,还是缓慢渗透的战略,整合混合开发者-市场营销联盟,提升体验深度。

最终,正如OpenAI的调整方向所展示的,洛杉矶等地的商业AI架构必须反映城市本身——不断发展,独特非凡。

参考文献

  1. 废弃 | OpenAI API
  2. RAG(检索增强生成)简明指南
  3. 基于强化学习的直播电商...
  • commerce AI
  • agentic commerce
  • OpenAI