解锁调优新维度检索增强生成技术推动大模型落地

2024-04-02 11:31 由环球网发表于 #科技

【环球网报道记者李文瑶】近日，伊克罗德信息与墨奇科技对外宣布达成战略合作，将通过双方的AI大模型领域的技术融合，推动前沿科技的快速发展，双方将优势叠加，利用大语言模型LLM（Large Language Model）、向量数据库构建生成式AI应用解决方案，通过检索增强生成RAG (Retrieval-Augmented Generation) 提升性能并降低模型成本，打造企业AI新范式，为企业带来更加智能化、便捷的服务体验。

在接受记者采访时，墨奇科技副总裁孟卓飞表示，当前时代生成式AI是一个前所未有的现象级机遇，各公司需要协同合作才能把握住此机会。墨奇科技在向量数据库方面的优势结合伊克罗德丰富的客户资源与服务经验，将为企业提供更高效便捷的解决方案，使客户能在短时间内做出最优选择并实现技术落地。

在过去一年中，LLM的发展以及生成式AI浪潮在全球范围内引起了广泛关注。但是在商业化路上面临许多挑战，例如，数据更新问题-LLM无法实时掌握最新信息；对于某些领域需要高度准确专业知识，例如，医学，法律，科学，定制标准高、容错率低；高昂的训练成本。因而RAG技术应运而生。

伊克罗德信息执行长黄国华指出企业数字化转型步入“用懂IT”的深水区后，企业不仅关注降本增效，更期望AI技术（如生成式AI）能为企业开辟新的商业模式和增长点。伊克罗德与墨奇科技携手解决企业应用难题，通过引导咨询、协助选型以及解决实际落地“最后一公里”的问题，帮助企业快速找准应用场景、选用合适的ISV及生成式AI产品。

目前，RAG技术能实现从大规模的知识库中精确地抽取信息，并生成富有洞察力的答案，RAG系统的检索组件向量数据库是核心功能，采用了特殊的数据结构和索引策略，来有效组织和检索向量数据，成为解决低成本快速定制大模型问题的关键所在，LLM技术结合RAG不仅提高了答案的质量，还为特定行业的应用带来了新的机会，向量数据库不仅仅是一种技术工具，更是连接数据与AI的桥梁。

此次合作，伊克罗德信息和墨奇科技团队共同发布2.0版大语言模型-Ask Myscale ，实现了比专用向量数据库更高的性能和可扩展性。近期内将上架亚马逊云科技Marketplace（海外区），并提供用户咨询、测试、上线、运营等全生命周期服务。亚马逊云科技Marketplace是一个精挑细选的数字化产品目录，客户通过它可以轻松地查找、购买、部署和管理构建解决方案及运营其业务所需的第三方软件和服务。

孟卓飞和黄国华认为，RAG与向量数据库技术的结合是技术层面的一次进步，通过整合RAG与向量数据库技术，企业可以更高效地利用生成式AI解决诸多问题，如降低模型调优的成本、提高搜索效率和精确度，从而改变现有的AI实施方式，加快项目交付周期，降低成本，促使生成式AI在更多企业场景中得以快速应用。

双方合作后，有望减少客户面临的决策难题，提供更多模块化、清晰化的业务场景落地方案，助力客户迅速找到符合其需求的最佳AI应用方案。

值得关注的是，墨奇科技也首次宣布：经过为期半年的代码规范和技术文档准备工作，MyScale将发布其首个开源版本的向量数据库MyScaleDB。此次开源涉及上百万行代码，将向全球开发者免费公开MyScale商用版本大部分核心功能，加速AI场景下数据基础设施和传统关系型数据库的有机融合。

孟卓飞表示，墨奇科技决定在特定时点推出开源版本的向量数据库，主要基于客户需求和技术分享的考量，以及加速全球化进程、吸引全球开发者参与进来的战略意图。此外，开源有助于扩大技术影响力，将其功能应用于更广泛的分析型数据库场景。

在市场预期方面，双方期待年底前能看到合作项目的实质性成果，RAG被认为是当下生成式AI最有效的落地手段之一，公有云的模型资源将成为AI发展的重要源头。

行业认为，生成式AI与云计算结合具有发展潜力，但面临算力限制、开发成本、应用场景模糊、人才短缺等挑战，伊克罗德与墨奇科技正联手通过提供全面的解决方案、强化人才培养、优化资源分配等方式应对这些挑战，有望推动AI技术在企业层面的广泛普及与深度应用。