网站访问统计 曲线图网站建设是属于软件开发费吗

网站访问统计 曲线图,网站建设是属于软件开发费吗,公司做网站有意义么,东莞南城外贸网站建设#x1f34b;#x1f34b;AI学习#x1f34b;#x1f34b;#x1f525;系列专栏#xff1a; #x1f451;哲学语录: 用力所能及#xff0c;改变世界。 #x1f496;如果觉得博主的文章还不错的话#xff0c;请点赞#x1f44d;收藏⭐️留言#x1f4dd;支持一下博主…AI学习系列专栏 哲学语录: 用力所能及改变世界。如果觉得博主的文章还不错的话请点赞收藏⭐️留言支持一下博主哦一、重排序Re-ranking详解1. 为什么需要重排序初检阶段如向量相似度检索通常采用高效但粗糙的匹配方式向量嵌入模型如text-embedding-ada-002虽然能捕捉语义但对细粒度语义匹配、逻辑一致性、上下文依赖等能力有限。可能召回大量“表面相关但实质无关”的文档。 举例用户问“Transformer 模型中 LayerNorm 的作用是什么”初检可能召回一篇讲“Transformer 架构综述”的文章包含 LayerNorm 字眼但真正解释其作用的段落可能在另一篇更专业的论文中。重排序的目标就是把后者排到前面。2. 重排序的核心思想对初检返回的 top-K如 K50候选文档使用一个更强、更精细的模型重新计算 query 与每个文档的相关性分数再按新分数排序取 top-N如 N3~5送入 LLM。✅ 本质粗排fast but noisy 精排slow but accurate3. 重排序的实现方式1基于交叉编码器的重排序Cross-Encoder Reranker这是目前最主流、效果最好的方式。原理将 query 和 document拼接成一个序列输入一个预训练语言模型如 BERT、RoBERTa输出一个相关性分数。1[CLS] query: What is LayerNorm? [SEP] passage: In Transformer, LayerNorm is applied after residual... [SEP]模型输出[CLS]token 的 logits经 sigmoid 得到 0~1 的相关性分数。优点能建模 query 与 document 的深度交互token-level attention远优于双塔模型Bi-encoder的独立编码。对比Bi-encoder初检用query 和 doc 分别编码 → 计算余弦相似度快可索引Cross-encoder重排用联合编码 → 精确打分慢不可索引2常用重排序模型模型特点适用场景BGE-Reranker智源开源、支持中英文、轻量高效中文 RAG 首选Cohere Rerank商业 API效果极佳支持长文本企业级应用付费ColBERTv2延迟交互late interaction比 cross-encoder 快平衡速度与精度LLM-based Rerank用 GPT-4 / Claude 直接判断相关性Zero-shot小规模、高价值场景 推荐BGE-Reranker-v2-m3多语言、小模型、效果好4. 重排序的关键关注点关注点说明Top-K 选择初检召回太多 → 重排慢太少 → 可能漏掉好结果。通常 K30~100计算开销Cross-encoder 无法预计算需实时推理。可考虑缓存或异步处理长文本处理超过模型最大长度如 512时需截断或滑动窗口领域适配通用 reranker 在专业领域如医疗、法律效果下降建议微调多语言支持确保 reranker 支持你的语言BGE 系列支持中文评分归一化不同 query 的分数分布不同避免直接比较绝对值二、多跳检索Multi-hop Retrieval详解1. 什么是多跳检索单跳检索一次 query → 一次检索 → 得到答案适用于简单事实问答。多跳检索需要多次检索 推理才能回答的问题。 经典例子HotpotQA 数据集“Who is the founder of the company that created TensorFlow?”需要两跳TensorFlow 是谁开发的→ GoogleGoogle 的创始人是谁→ Larry Page Sergey Brin最终得到答案。2. 多跳检索的挑战信息分散答案分布在多个文档中。推理链构建如何从第一跳结果推导出第二跳 query错误传播第一跳检索错误 → 后续全错。循环/冗余重复检索相同内容。3. 实现策略1迭代式检索Iterative Retrieval步骤用原始 query 检索第一批文档。用 LLM 分析这些文档生成新的 sub-query用于下一跳。用新 query 再次检索。重复直到满足停止条件如找到答案、达到最大跳数。 关键Query 生成质量决定成败。2基于图的检索Graph-based Retrieval将知识库构建成实体关系图如 Wikidata。从问题中提取实体进行图遍历如 2-hop neighbors。适合结构化知识但构建成本高。3FLAREForward-Looking Active Retrieval在 LLM 生成过程中动态判断是否需要检索。当模型预测的下一个 token 置信度低时触发检索。实现“按需检索”减少冗余。4Self-Ask / Chain-of-Thought Retrieval让 LLM 先生成推理链CoT再对每个子问题单独检索。4. 多跳检索的关键关注点关注点说明跳数控制通常 2~3 跳足够更多跳易引入噪声查询改写质量使用强 LLM如 GPT-4生成 sub-query 效果更好去重机制避免重复检索相同文档可用 embedding 或 hash 去重融合策略如何合并多跳结果可拼接、加权、或让 LLM 综合评估难度需要多跳 QA 数据集如 HotpotQA、2WikiMultihop延迟 vs 精度多跳增加响应时间需权衡用户体验