第二支羽毛

利用 vLLM 手撸一个多模态RAG系统

利用 vLLM 实现多模态RAG 系统本文将深入探讨如何使用 vLLM 构建多模态信息检索与生成（Multimodal RAG）系统，以实现对包含文本、图像和表格的文档的有效处理和智能问答。如果您想了解更多关于自然语言处理或其他技术领域的信息，请关注我们的公众号柏企阅文。一、多模态 RAG

LLM架构

如何在企业中实现知识图谱和大模型（LLM）互通

知识图谱（KG）与大型语言模型（LLM）：企业数据赋能的强强联合数据如同企业的生命线，而如何高效地利用数据则成为了企业发展的关键。大型语言模型（LLM）和知识图谱（KG）作为两种强大的数据处理工具，正逐渐改变着企业的运营模式。今天，我们就来深入探讨一下它们在企业中的应用以及如何协同工作，为企业带来

LLM架构

探索大型语言模型新架构：从 MoE 到 MoA

探索大型语言模型新架构：从 MoE 到 MoA 当前，商业科技公司纷纷投身于一场激烈的竞赛，不断扩大语言模型的规模，并为其注入海量的高质量数据，试图逐步提升模型的准确性。然而，这种看似顺理成章的发展路径逐渐暴露出诸多内在局限。一方面，高质量数据的获取并非易事；另一方面，计算能力的瓶颈以及在普通用户硬

LLM架构

专家混合（MoE）大语言模型：免费的嵌入模型新宠

专家混合（MoE）大语言模型：免费的嵌入模型新宠今天，我们深入探讨一种备受瞩目的架构——专家混合（Mixture-of-Experts，MoE）大语言模型，它在嵌入模型领域展现出了独特的魅力。一、MoE 架构揭秘（一）MoE 是什么？ MoE 是一种包含多个被称为“专家”子网的架构，每个子网专

LLM架构

2W8000字深度剖析25种RAG变体

深度剖析25种RAG变体：全网最全~ 本文28000字符，阅读时长~~ 看速度每种框架均配有框架示意图。本文全面、深入探讨了 25 种 RAG 变体。从基本的标准 RAG 到 CRAT 和 Graph RAG 等高级框架 — 详细的架构、组件细分、流程和具体的代码级实现，以实现 LLM 的动态

LLM架构

2w字解析量化技术，全网最全的大模型量化技术解析

2w字解析量化技术，全网最全的大模型量化技术解析 📖阅读时长：50分钟 🕙发布时间：2025-01-31 这篇网页文章主要围绕机器学习中的量化技术展开，详细介绍了其在大语言模型中的应用、基础概念、技术方法及不同模型的量化策略。量化是机器学习领域的一项关键优化技术，它能把高精度数值转化为低精度格

LLM架构

深入探索LLM架构，使用pytorch实现Transformer

深入探究架构并利用从RNN到Transformer的NLP模型构建实际应用本系列文章 1. LLM大模型架构专栏|| 从NLP基础谈起 2.LLM大模型架构专栏|| 自然语言处理（NLP）之建模 3. LLM大模型架构之词嵌入（Part1

LLM架构

2w8000字深度解析从 RNN 到 Transformer：构建 NLP 应用的架构演进之路

2w8000字深度解析从RNN到Transformer：构建NLP应用的架构演进之路 📖阅读时长：50分钟 🕙发布时间：2025-01-20 本文28000字，阅读时长~~ 看速度 2025年01月22日晴零下3度 <

LLM架构

万字解析非结构化文档中的隐藏价值：多模态检索增强生成（RAG）的前景

本文将深入探讨两种创新的多模态文档检索方法 ——ColPali 和 ColFlor。它们在多模态 RAG 技术领域表现卓越，正重塑着文档处理的格局。我们不仅会剖析其系统结构、性能优势，还将通过实际案例展示它们在处理文档时的出色表现 |文末点击阅读原文查看网页版| 更多专栏文章点击查看：

多模态 LLM架构

LLM架构从基础到精通之注意力机制

LLM架构从基础到精通之注意力机制本文2w字，阅读时长~~ 看速度 2025年01月14日晴零下3度 1. LLM大模型架构专栏|| 从NLP基础谈起 2.LLM大模型架构专栏|| 自然语言处理（NLP）之建模 3. LLM大模型架构之词

LLM架构