企业可以借助Oracle的云生成式AI服务来部署和微调语言模型

小伙伴们对科技周边编程感兴趣吗？是否正在学习相关知识点？如果是，那么本文《企业可以借助Oracle的云生成式AI服务来部署和微调语言模型》，就很适合你，本篇文章讲解的知识点主要包括。在之后的文章中也会多多分享相关知识点，希望对大家的知识积累有所帮助！

数据库巨头Oracle最近发布了Oracle Cloud Infrastructure Generative AI服务，并引入了一系列创新技术，为大型企业提供了最新的生成式AI技术成果的利用机会。

OCI Generative AI服务是一项全面管理的、云托管的产品，它利用强大的大型语言模型，如Meta Platform的开源Llama 2和Cohere的专有算法，并与现有系统集成。这样，企业能够实现对当前由人类执行的许多手动业务流程的自动化。OCI Generative AI服务通过提供自动化解决方案，帮助企业提高效率和生产力，并降低错误率。这项服务不仅能够减少人力资源的需求，还能够提供更快速、准确和一致的结果。通过与现有系统的集成，OCI Generative AI服务可以无缝地与企业的工作流程和数据进行交互，从而实现更高效的业务处理。

据Oracle介绍，OCI Generative AI服务支持100多种语言，针对GPU提供了改进的集群管理体验，以及灵活的微调选项。

Oracle表示，他们的新服务可以通过应用程序编程接口调用各种模型，用于解决文本生成、摘要和语义相似性等任务。客户可以将生成式人工智能安全地嵌入到他们现有的技术堆栈中，并且该服务遵循严格的数据安全和治理协议。

去年6月，Oracle发布了OCI Generative AI服务，它被称为微软Azure OpenAI服务的替代品。通过这项服务，客户可以使用大型语言模型，并以对话方式与其进行交互。这种模型能够根据人类的提示内容作出响应。

虽然Cohere的AI模型和Llama 2被广泛认为非常强大，但对于大多数企业而言，它们可能并不那么实用，除非能够利用内部数据来增强和完善它们的功能。为了解决这个问题，OCI Generative AI Agents服务应运而生。这项服务允许客户利用自身的数据来增强大型语言模型的能力，从而使其更加适用于企业的具体需求和场景。通过OCI Generative AI Agents服务，企业可以自主地定制和训练语言模型，以适应其特定的业务需求，并从中获得更高的价值和效益。这种基于内部数据的增强方法确保了模型的个性化和定制化，使企业能够更好地满足客户需求，并提供更优质的服务。

OCI Generative AI Agents目前已经投入Beta测试。它采用检索增强生成技术来微调生成式AI模型，以提供更有用、情境化的响应。该服务提供对RAG代理的访问，RAG代理利用OCI Open Search构建的企业搜索功能，帮助大型语言模型获取最新的信息，以提供更准确的响应和预测。通过这种方式，OCI Generative AI Agents可以提供高度个性化和实时的回答，帮助用户更好地解决问题和满足需求。

尽管初始版本通过OCI OpenSearch支持RAG，但Oracle计划在未来进一步集成更多的数据搜索和聚合工具。其中包括Oracle Database 23c with AI Vector Search和MySQL HeatWave with Vector Store。此外，Oracle还将支持Oracle软件即服务应用套件中的预构建代理操作，包括Oracle Fusion Cloud Applications Suite、Oracle NetSuite和Oracle Cerner。这些集成将为用户提供更广泛的选择和更强大的功能，以满足不同需求的数据搜索和聚合需求。

Oracle宣布OCI Generative AI服务已在Oracle Cloud的多个区域上线，并且客户可以通过Oracle OCI Dedicated Region平台在本地进行访问。此外，该服务还与Oracle基于云的业务应用组合进行了集成，包括Oracle Enterprise Resource Planning、Human Capital Management、Supply Chain Management以及Customer Experiences应用。此举进一步提高了Oracle的数据库产品组合，因为生成式AI服务将通过Oracle的Autonomous Database Select AI功能加入其中。

在相关更新中Oracle表示，将对OCI Data Science平台的功能进行扩展，将在下个月的测试版中添加新的AI Quick Actions功能，为无代码访问各种开源大型语言模型铺平道路。该功能将帮助客户从Hugging Face的Transformers或者PyTorch开源库构建、训练、部署和管理大型语言模型。

OCI人工智能和数据管理高级副总裁Greg Pavlik表示，Oracle专注于使用生成式AI来解决现实世界的各种业务用例，并为更多企业采用该技术铺平道路。他说：“为了做到这一点，我们将生成式AI集成到我们的应用和融合数据库中，并提供新的大型语言模型和托管服务，将AI嵌入技术堆栈的所有层中。我们不是提供需要组装的工具包，而是提供一套强大的预构建的生成式AI服务和功能，这些服务和功能相互之间协同工作，帮助客户更智能、更快速地解决业务问题。”

Constellation Research副总裁、首席分析师Andy Thurai认为，这项新服务提供了基于API的访问，这对一些企业来说可能是有吸引力的，因为它在云端和本地环境中都可以访问，这有点不同寻常。不过，该服务也有一些局限性，特别是它只支持Cohere和Meta Llama 2的大型语言模型，而且只针对一小部分用例，例如文本生成和总结。

Thurai表示：“就其整体的生成式AI产品而言，Oracle仍然远远落后于微软、谷歌和亚马逊，这些厂商都提供了更强大的功能和更灵活的部署选项。但是，如果价格合适，和运行在OCI上的ERP、HCM、SCM和CX应用集成的选项，可能会使该产品对于很多企业来说都是有吸引力的。但如果不是的话，AWS则可能会轻松获胜，因为AWS的生成式AI服务目前远远领先于Oracle。”

这项新服务的推出至少应该有助于Oracle成为企业进行生成式AI开发的一个选择。Oracle在努力成为基础设施方面的一个关键参与者，提供对Nvidia最强大GPU的、基于云的访问路径。

今天关于《企业可以借助Oracle的云生成式AI服务来部署和微调语言模型》的内容介绍就到此结束，如果有什么疑问或者建议，可以在golang学习网公众号下多多回复交流；文中若有不正之处，也希望回复留言以告知！