首页
建站资讯
SEO优化
小程序
网站建设
数码科技
软件介绍
系统教程
questions
登录
标签
LLM
【LLM】大模型SFT技术总结(数据|训练|评估)
note 文章目录 note 一、背景篇 1. Special Token 2. 耗时问题 3. 与 pretrain 的区别 4. 幻觉问题 二、数据篇 1. 数据多样性 2. 数据生产 (1)生产 prompt (2)生产 answer
模型
数据
技术
LLM
SFT
admin
1月前
22
0
通俗易懂的LLM(上篇)
目录前言一、Tuning1、Fine-Tuning(微调)2、Prompt-Tuning(提示微调)2.1 In-context learning&am
易懂
通俗
上篇
LLM
admin
1月前
26
0
NLP(十八):LLM 的推理优化技术纵览
原文:NLP(十八):LLM 的推理优化技术纵览 - 知乎 目录 收起 一、子图融合(subgraph fusion&
技术
nlp
LLM
admin
1月前
22
0
LLM(十八):LLM 的推理优化技术纵览
原文:LLM(十八):LLM 的推理优化技术纵览 目录 收起 一、子图融合(subgraph fusionÿ
技术
LLM
admin
1月前
16
0
LLM应用实现个人知识问答
文章目录学习前言OpenAI简介QA问答接口实现流程1、网络爬虫2、构建嵌入索引3、使用嵌入构建QA问答系统4、基于flask框架进行接口封装5、接口测试使用学习前言 最近ChatGpt太火热了,赶紧来了解一波相
知识问答
LLM
admin
1月前
19
0
Ubuntu使用 NVIDIA GPU 和 CUDA 设置 LLM 的训练、微调和推理
0.引言 近年来,人工智能领域取得了令人瞩目的进步,其核心是图形处理单元(GPU)和并行计算平台的强大组合。 大模型如 GPT、BER能够理解和生成具
Nvidia
Ubuntu
GPU
LLM
cuda
admin
1月前
13
0
【LLM deployment & tuning】在macOS上实现基于MLX框架的LLM的部署和微调
基于通义千问模型的上市公司发展战略分析智能体 写在前面: 这个例子本身我个人感觉并不是很简洁,部分步骤可能略显冗余,本人也是第一次尝试LLM相对完整的项目的创建,也差不多是第一次写blog,有什么不合适或者不合理的部分还希望能多多听取各
框架
amp
deployment
LLM
MLX
admin
1月前
15
0
LLM 的推理优化技术纵览
作者:紫气东来原文:https:zhuanlan.zhihup642412124转载者:杨夕【LLMs九层妖塔】 : https:githubkm1994LL
技术
LLM
admin
1月前
16
0
社区版Dify实现文生视频 LLM+ComfyUI+混元视频
社区版Dify实现文生视频 LLMComfyUI混元视频一、 社区版Dify实现私有化混元视频效果二、为什么社区版Dify可以在对话框实现文生视频?LLMComfyUI混元视频 实现流程图(重点&
视频
社区
ComfyUI
Dify
LLM
admin
1月前
22
0
Meta:LLM人机协作数据标注框架MILO
人机
框架
数据
Meta
LLM
admin
1月前
12
0
LLM部署,并发控制,流式响应(Python,Qwen2+FastAPI)
前言 随着生成式人工智能的快速发展,部分场景希望能过自主部署大型语言模型(LLM)服务器用于推理服务,而相关教程博文尽管很多,但
流式
LLM
python
FASTAPI
admin
1月前
15
0
LLM部署实战:基于Qwen2+FastAPI的并发控制与流式响应实现
前言 随着生成式人工智能的快速发展,部分场景希望能过自主部署大型语言模型(LLM)服务器用于推理服务,而相关教程博文尽管很多,但
实战
流式
LLM
FASTAPI
admin
1月前
20
0
LLM漫谈(八)| OpenAI 12天直播集锦
声明:本文是收集了网上关于OpenAI 12天直播的博文,若有侵权,联系我删除,感谢各位博主的奉献。此次 OpenAI 将发布会拆分为 12 天直播,是一次内容与形式的双重创新。这种形式通过延长发布周期,不断吸引观众注意力,
集锦
LLM
OpenAI
admin
1月前
18
0
[LLM-Agents]浅析Agent工具使用框架:MM-ReAct
上文LLM-Agents]详解Agent中工具使用Workflow提到MM-ReAct框架,通过结合ChatGPT 与视觉专家模型来解决复杂的视觉理解任务的框架。通过设计文本提示(prompt d
框架
工具
agents
LLM
Agent
admin
1月前
20
0
一文读懂LLM的「幻觉」问题
如何解决大模型的「幻觉」问题? 参考论文 论文1:《Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models》 论文2:《Cogniti
一文
幻觉
读懂
LLM
admin
1月前
15
0
【LLM】Agent设计和开源框架汇总 | 记忆模块构建
note 开源Agent分为积累:自动agent(autoGPT、loopGPT、babyAGI)、半自动agent(camel)
开源
框架
模块
记忆
LLM
admin
1月前
16
0
AI原生应用架构演进:LLM带来的变革与挑战
AI原生应用架构演进:LLM驱动的范式转变与工程挑战 关键词 AI原生架构 | 大语言模型(LLM) | 应用架构范式 | 智能交互系统 | 提示工程 | 向量数据库 | 认知架构 | 多模态融合 | 模型编排 摘要 本分析深入探讨
架构
AI
LLM
admin
1月前
17
0
【LLM】OpenAI 的DAY12汇总和o3介绍
noteo3 体现出的编程和数学能力,不仅达到了 AGI 的门槛,甚至摸到了 ASI(超级人工智能)的边。Day 1:o1完全
OpenAI
LLM
admin
1月前
22
0
MCP Bridge: A Lightweight, LLM-Agnostic RESTful Proxy for Model Context Protocol Servers
MCP Bridge: A Lightweight, LLM-Agnostic RESTful Proxy for Model Context ProtocolServersArash Ahmadi , Sarah Sharif ,
LLM
Agnostic
lightweight
MCP
Bridge
admin
1月前
19
0
100 个 LLM ChatGPT Prompt 最佳实践指南:LET‘s THINK STEP BY STEP
欢迎您的阅读,接下来我将为您一步步分析:100 个 LLM ChatGPT Prompt 最佳实践指南。让我们通过多个角度来探讨这个主题,以确保全面和深入的理解。 100
指南
LLM
ChatGpt
STEP
Prompt
admin
1月前
23
0
1
2
»