-
人工智能并不是生存威胁?最搞笑的谎言
伊隆·马斯克等人认为,人工智能对人类构成了生存威胁。他们声称这些机器将不断进步,拥有实际意识,最终超越人类智能,使我们成为它们眼中可轻易消除的烦恼。但人工智能真的会像天网一样攻击我…
-
大模型参数和GPU显存的对应关系
准确估计 GPU 内存对于防止瓶颈并确保大型语言模型的平稳运行至关重要,直接影响部署效率、性能、可扩展性和成本。 简答的说,一个B的大模型参数要求最低1G的显存要求(8位精度的情况…
-
气候变化期间最安全的国家和居住地
对气候变化的担忧来得有点太晚了。它已经来了。它不会消失。即使我们现在彻底改变生活方式,也不会立即改变——至少在我们的有生之年不会。甚至在我们孩子的有生之年也不会改变。NASA 表示…
-
美国总统候选人要比特币成为储备货币?
毋庸置疑,我们终于走到了比特币终局的边缘。但没有人准备好迎接即将到来的一切。 多年来,比特币爱好者一直试图向尽可能多的人介绍比特币。它不仅是保住财富的好方法,也是保护自由的好方法。…
-
中国制造的能源转型
对于我们这些生活在日益增高的美国贸易和信息壁垒背后的与世隔绝的人来说,能源转型似乎已经停滞,石油在无限的未来仍稳居霸主地位。关于电动汽车销售的消息是一个漫长的悲观故事,尽管事实不甚…
-
加密货币正在等待什么用例
最后,我们终于找到了:加密货币的人工智能用例并非毫无意义或骗局。 换句话说,区块链确实将在人工智能经济中发挥重要作用,甚至成为运转良好的社会的基本要求,但方式却并非你所期望的那样。…
-
LLM权重剪枝和知识提炼
本文是对 NVIDIA 团队发表的一篇精彩论文的总结/回顾,该论文提供了一种创建精炼模型的方法。论文链接。他们还在 Llama 3.1 上使用该方法创建了 Minitron 4B …
-
Meta 改变游戏规则的模型
Transfusion 是 Meta 团队开发的一种新模型,使用统一模型生成文本和图像。该模型在文本和图像数据的均等混合上进行预训练,应用不同的目标:文本的下一个标记预测和图像的扩…
-
在 CPU 上训练 AI 模型
人工智能最近的成功通常归功于 GPU 的出现和发展。GPU 的架构通常包括数千个多处理器、高速内存、专用张量核心等,特别适合满足人工智能/机器学习工作负载的密集需求。不幸的是,人工…
-
语义分块:改进人工智能信息检索
今天,我们将探讨语义分块 — 一种显著改善信息检索的技术。如果您一直在关注 AI 的发展,那么您可能对检索增强生成 (RAG) 很熟悉。让我们来看看语义分块如何增强 RAG 系统。…
-
LLM 成本优化
优化 LLM 成本对于可持续、大规模部署并最大化商业价值至关重要。 大型语言模型 (LLM) 的财务压力 LLM 的快速采用和对这些模型的日益依赖带来了一个重大挑战:不断上升的运营…
-
创业过程中残酷的事实和前进的道路
尽管抱负远大、技术设计扎实、资金充足、团队敬业,但许多个性化项目仍陷入困境。本文探讨了常见原因,并为项目所有者和技术人员提供了前进的道路。 感觉陷入困境“我们已经在这个个性化项目上…
-
LLM 驱动的合成数据生成、管理和评估
出现了三个关键要素:人类监督的必要性、用于训练数据创建的精心规划的数据拓扑和管道,以及旨在从语言模型中引出特定行为(例如高级推理)的数据。 介绍 在训练模型中,平衡数据数量和质量的…
-
企业中实现有效的人工智能治理
Gen AI 治理清单(Github 上的文档链接):https://github.com/debmalyabiswas1/GenAIGovernance/blob/main/Ge…
-
自主 LLM 代理解决固体力学和流体动力学问题
设想一个未来,人工智能可以通过简单的对话轻松解决工程问题。下一代人工智能和语言模型将彻底改变我们利用有限元分析 (FEA) 和计算流体动力学 (CFD) 等工程工具解决结构分析、热…
-
LangChain的更新和可能的替换方案
2022 年 10 月,LangChain 成为大型语言模型 (LLM) 应用框架领域的知名参与者。Harrison Chase 在 Robust Intelligence 工作期…
-
大语言模型的个性化
ChatGPT 或当今底层的大型语言模型 (LLM) 能够在给出提示的情况下生成情境化的响应。 作为 LLM 发展的下一步,我们希望响应能够根据最终用户的角色、对话历史、当前对话环…
-
RAG 增强视觉问答的简单框架
检索增强生成 (RAG) 是一种强大的技术,可以提高大型语言模型 (LLM) 生成的答案的准确性和可靠性。它还提供了检查模型在特定生成过程中使用的源的可能性,从而使人类用户更容易进…
-
有状态且负责任的 AI 代理
AI 代理简介 围绕 ChatGPT 的讨论现已演变为 AutoGPT。虽然 ChatGPT 主要是一个可以生成文本响应的聊天机器人,但 AutoGPT 是一个功能更强大、自主性更…