OpenAI扩展其定制模型训练计划
OpenAI正在扩展一个名为Custom Model的计划,帮助企业客户开发定制的生成式人工智能模型,以解决特定用例、领域和应用程序的技术需求。Custom Model于去年在OpenAI的首届开发者大会DevDay上推出,为公司提供与一组专门的OpenAI研究人员合作的机会,为特定领域训练和优化模型。自那时以来,已有“数十”家客户参与了Custom Model计划。然而,OpenAI表示,在与这批初始用户合作的过程中,他们意识到需要扩大该计划以进一步“最大限度地提高性能”。因此推出了辅助微调和定制训练模型。辅助微调是Custom Model计划的一个新组成部分,利用超出微调的技术,例如OpenAI所说的“额外超参数和各种参数高效微调方法的大规模应用”,让组织可以建立数据训练管道、评估系统和其他支持基础设施,从而增强模型在特定任务上的性能。至于定制训练模型,它们是使用OpenAI的基础模型和工具(例如GPT-4)构建的定制模型,为那些“需要更深度微调其模型”或“灌输新的特定领域知识”的客户提供支持。OpenAI举例说明了韩国电信巨头SK Telecom,他们与OpenAI合作微调GPT-4以提高其在韩语“电信相关对话”中的表现。另一位客户Harvey,在OpenAI创业基金的支持下构建了AI驱动的法律工具,与OpenAI合作创建了一个包含数亿字的法律文本和专业律师反馈的案例法定制模型。“我们相信未来,绝大多数组织将开发个性化定制模型,以适应其行业、业务或用例,”OpenAI在一篇博客文章中写道。“通过各种可用的技术来构建定制模型,各种规模的组织都可以开发个性化模型,从而从其人工智能实施中实现更有意义、更具体的影响。”OpenAI飘红,据称年收入接近令人惊叹的20亿美元。但肯定内部存在保持步伐的压力,尤其是在公司规划与微软共同开发的价值1000亿美元的数据中心时(如果有报道属实的话)。毕竟,培训和提供旗舰生成式人工智能模型的成本不会很快降低,而像定制模型训练这样的咨询工作可能会使收入保持增长,同时OpenAI规划下一步行动。微调和定制模型也可以减轻OpenAI模型服务基础设施的压力。定制模型在许多情况下都比其通用对应物更小、更高性能,并且随着对生成式人工智能的需求达到高潮,毫无疑问是OpenAI的一个有吸引力解决方案,因为OpenAI在历史上一直受限于计算能力。除了扩大的Custom Model计划和定制模型构建,OpenAI今天推出了针对使用GPT-3.5的开发者的新模型微调功能,包括一个新的仪表板用于比较模型质量和性能,支持与第三方平台集成(起初是与AI开发平台Weights & Biases进行合作),以及工具增强。不过,对于在DevDay期间推出的GPT-4的微调,目前还没有详细信息。