-
14-61 剑和诗人35 – 获得高管认可的策略手册
我清楚地记得我的职业轨迹发生转变的那个关键时刻。 当时,我正向整个执行领导团队和董事会成员介绍我们部门的技术路线图,感到说服这些有影响力的利益相关者资助一系列雄心勃勃的计划的压力。…
-
14-60 剑和诗人34 – Kubernetes 是部署 LLM 的首选平台
介绍 近年来,大型语言模型 (LLM) 一直在彻底改变自然语言处理领域。从 GPT-3 到 PaLM 等,这些模型可以生成类似人类的文本、回答问题、总结文档等等。然而,训练和部署 …
-
14-59 剑和诗人33 – 端到端的LLMOps平台建设
GPT-4、LlaMA、Falcon、Claude、Cohere、PaLM 等大型语言模型 (LLM) 已展示出强大的自然语言生成、推理、摘要、翻译等功能。然而,要有效利用这些模型…
-
14-58 剑和诗人32 – 使用矢量数据库增强 LLM 应用程序
GPT-4、Bloom、LaMDA 等大型语言模型 (LLM) 在生成类似人类的文本方面表现出了令人印象深刻的能力。然而,它们在事实准确性和推理能力等方面仍然面临限制。这是因为,虽…
-
14-57 剑和诗人31 – LLM/SLM 中的高级 RAG
首先确定几个缩写的意思 SLM 小模型 LLM 大模型 检索增强生成 (RAG) 已成为一种增强语言模型能力的强大技术。通过检索和调整外部知识,RAG 可让模型生成更准确、更相关、…
-
14-56 剑和诗人30 – IaC、PaC 和 OaC 在云成功中的作用
介绍 随着各大企业在 2024 年加速采用云计算,基础设施即代码 (IaC)、策略即代码 (PaC) 和优化即代码 (OaC) 已成为成功实现云迁移、IT 现代化和业务转型的关键功…
-
14-55 剑和诗人29 – RoSA:一种新的 PEFT 方法
介绍 参数高效微调 (PEFT) 方法已成为 NLP 领域研究的热门领域。随着语言模型不断扩展到前所未有的规模,在下游任务中微调所有参数的成本变得非常高昂。PEFT 方法通过将微调…
-
14-53 剑和诗人27 – 多模态RAG(MMRAG)
介绍 多模态机器学习正在彻底改变 AI 系统的功能。通过理解图像、音频、视频和文本等不同模态,这些系统可以解决以前机器无法解决的问题。 让我们探索该领域的一项激动人心的发展——多模…
-
14-52 剑和诗人26 – RAG 和 VectorDB 简介
检索增强生成 (RAG) 和 VectorDB 是自然语言处理 (NLP) 中的两个重要概念,它们正在突破 AI 系统所能实现的界限。 在这篇博文中,我将深入探讨 RAG,探索其工…
-
14-51 剑和诗人25 – 大预言模型的饱和 和 多模式的兴起
近年来,大语言模型 (LLM) 发展迅速,在语言理解和生成能力方面取得了令人瞩目的进步。从 GPT-4 到 LLaMA-2 及以后,随着研究人员不断突破可能的界限,模型大小和数据集…
-
14-50 剑和诗人24 – 开源 AI 的下一个重大飞跃:多个小模型与大模型相媲美
介绍 大型语言模型 (LLM) 领域最近取得了快速进展,GPT-4、PaLM-2、Llama-2 等模型正在突破 AI 对语言处理能力的界限。然而,只有少数几家大型科技公司拥有训练…
-
14-49 剑和诗人23 – 校正RAG (CRAG)的建设蓝图
介绍 校正检索增强生成 (CRAG) 是自然语言处理领域的一项新技术,旨在纠正生成文本中的事实不一致和错误。CRAG 利用生成和基于检索的功能来生成更符合事实的输出。 让我对 CR…
-
14-48 剑和诗人22 – RAG 的主要痛点和解决方案
检索增强生成 (RAG) 模型已成为一种有前途的方法,它利用存储在文档中的外部知识来提高生成文本的准确性和相关性。通过检索和调节相关的上下文文档,与传统语言模型相比,RAG 模型可…
-
14-47 剑和诗人21 – 2024年如何打造AI创业公司
2024 年,随着人工智能继续快速发展并融入几乎所有行业,创建一家人工智能初创公司将带来巨大的机遇。然而,在吸引资金、招聘人才、开发专有技术以及将产品推向市场方面,人工智能初创公司…
-
14-46 剑和诗人20 – 减少幻觉的提示词工程
概述 幻觉或“编造”是大型语言模型 (LLM) 的常见故障模式,它们会产生事实上不正确或无意义的内容。幻觉背后的一些主要原因是: 通过精心设计我们提供给这些模型的提示,可以降低人工…
-
14-45 剑和诗人19 – 一个负责任的 AI 成熟度 端到端 框架
介绍 人工智能有望改变企业和社会,但如果部署不当也会带来风险。最近围绕有偏见和不可靠的人工智能系统的争议表明,需要严格的治理来建立公众信任。这对于语言模型尤其重要——语言模型是在大…
-
14-44 剑和诗人18 – 你想怎么应用 RAG 与微调
要充分发挥 LLM 的潜力,需要在检索增强生成 (RAG) 和微调之间选择正确的技术。 让我们研究一下何时针对 LLM、较小模型和预训练模型使用 RAG 而不是微调。我们将介绍: …
-
14-43 剑和诗人17 – ActiveRAG之主动学习
大型语言模型 (LLM) 的出现开启了对话式 AI 的新时代。这些模型可以生成非常像人类的文本,并且比以往更好地进行对话。然而,它们在仅依赖预训练知识方面仍然面临限制。为了提高推理…
-
14-42 剑和诗人16 – 如何从一个技术人员到CTO再到投资人的角色转变
我清楚地记得我的职业轨迹发生转变的那个关键时刻。当时,我正向整个执行领导团队和董事会成员介绍我们部门的技术路线图,感到说服这些有影响力的利益相关者资助一系列雄心勃勃的计划的压力。我…
-
14-41 剑和诗人15 – RLAIF 大模型语言强化培训
介绍 大型语言模型 (LLM) 在自然语言理解和生成方面表现出了巨大的能力。然而,这些模型仍然存在严重的缺陷,例如输出不可靠、推理能力有限以及缺乏一致的个性或价值观一致性。 为了解…