唐国梁Tommy

腾讯云

开发者社区

文档建议反馈控制台

首页TVP

LV1

发表了文章 2024-03-202024-03-20 20:39:36

BitNet b1.58: 革命性的1比特语言模型，性能媲美全精度Transformer

3.性能对比：与全精度Transformer LLM（FP16或BF16）模型大小和训练tokens相等，困惑度和端到端任务性能相同。

唐国梁Tommy 2024-03-202024-03-20 20:39:36

函数、量化、模型、内存、性能

发表了文章 2023-12-212023-12-21 16:20:07

同济大学发布最新检索增强(RAG)的LLM生成技术综述

摘要主要介绍了大型语言模型（LLMs）在实际应用中面临的挑战，比如幻觉、知识更新缓慢和答案缺乏透明度等问题，并提出了检索增强生成（Retrieval-Augme...

唐国梁Tommy 2023-12-212023-12-21 16:20:10

模型、数据、性能、优化、LLM

发表了文章 2023-11-242023-11-24 17:23:21

RoleLLM：打造高效的角色扮演语言模型

论文介绍了一种评估和增强LLM在角色扮演方面能力的方法。作者首先提出了一个角色扮演基准（RoleBench），用于综合评估LLM的角色扮演能力，然后设计了一种名...

唐国梁Tommy 2023-11-242023-11-24 17:23:25

模型、设计、数据、系统、性能

发表了文章 2023-11-092023-11-09 15:34:43

Self-RAG 框架：更精准的信息检索与生成

尽管LLM（大型语言模型）的模型和数据规模不断增加，但它们仍然面临事实错误的问题。现有的Retrieval-Augmented Generation (RAG)...

唐国梁Tommy 2023-11-092023-11-09 15:34:43

self、框架、模型、数据、算法

发表了文章 2023-11-022023-11-02 19:49:00

用户意图对齐，无需人工标注，Zephyr-7B 超越 Llama2-Chat-70B

该研究目标是创建一个与用户意图更符合的小型语言模型。通过应用蒸馏监督微调(distilled supervised fine-tuning, dSFT)和蒸馏直...

唐国梁Tommy 2023-11-022023-11-02 19:49:02

chat、代理、模型、数据、优化

发表了文章 2023-10-252023-10-25 19:05:49

解锁 vLLM：大语言模型推理的速度与效率双提升

当我们进行微批处理(mini-batch)时，虽然能减少计算浪费并以更灵活的方式批处理请求，但由于GPU内存容量的限制（特别是存储 KV 缓存的空间），仍然限制...

唐国梁Tommy 2023-10-252023-10-25 19:05:53

缓存、模型、内存、系统、效率

发表了文章 2023-10-222023-10-22 18:56:17

论文解读: 百川大模型7B和13B技术报告

百川2技术报告详细介绍了模型的研发细节，包括7B和13B两个版本，以及在2.6T数据上进行了训练。报告还提及模型在数学、代码能力以及医疗和法律任务上的显著改善，...

唐国梁Tommy 2023-10-222023-10-22 18:56:18

论文、模型、数据、性能、优化

发表了文章 2023-10-222023-10-22 18:55:53

论文解读: streaming-LLM 使各种模型稳定、高效地处理长达400万tokens的文本

为了保持论文中原汁原味的语义信息，保留相关原文，没有刻意翻译成中文，避免造成误解。

唐国梁Tommy 2023-10-222023-10-22 18:55:55

streaming、论文、模型、性能、LLM

发表了文章 2023-09-012023-09-01 09:54:29

【论文解读】Salesforce开源多模态BLIP-2，在图文交互场景下获得了SOTA的结果

作者团队提出了BLIP-2，它是一种通用且高效预训练的策略，能够基于现有的预训练image encoders和预训练大语言模型(两者的模型参数都冻结)进行图像和...

唐国梁Tommy 2023-09-012023-09-01 09:54:29

开源、salesforce、连接、论文、模型

发表了文章 2023-09-012023-09-01 09:53:56

【论文解读】Panda LLM —— 新加坡南洋理工发布中文版LLM模型

（1）提出的蒲公英项目(Dandelion Project)旨在部署的大型语言模型不仅准确，而且透明，可信，可定制。

唐国梁Tommy 2023-09-012023-09-01 09:53:56

基础、论文、模型、数据、LLM

发表了文章 2023-09-012023-09-01 09:53:38

【论文解读】GPT-4-LLM，微软发布基于GPT-4生成的指令数据，基于此训练了LLaMA和奖励模型，并进行了全面评估

在本文中，我们首次尝试使用 GPT-4 生成用于 LLM 微调的指令跟随数据。我们对指令调优的 LLaMA 模型的早期实验表明，由 GPT-4 生成的 52K ...

唐国梁Tommy 2023-09-012023-09-01 09:53:38

gpt、论文、模型、数据、LLM

发表了文章 2023-09-012023-09-01 09:53:14

【论文解读】LLaVA 多模态大模型，微软首创用GPT-4生成多模态指令数据集进行指令微调

在本文中，我们首次尝试使用仅基于语言的GPT-4生成多模态语言-图像指令跟随(instruction following)数据。通过对这些生成数据进行指令调整，...

唐国梁Tommy 2023-09-012023-09-01 09:53:14

gpt、对象、论文、模型、数据

发表了文章 2023-09-012023-09-01 09:52:53

论文解读 LLaMA-Adapter V2 多模态领域又一佳作

在本文中，我们提出了LLaMA-Adapter V2，一种参数高效的视觉指令模型。具体而言，我们首先通过解锁更多可学习参数（例如，norm、偏置和比例），增强L...

唐国梁Tommy 2023-09-012023-09-01 09:52:53

adapter、论文、模型、数据、系统

发表了文章 2023-09-012023-09-01 09:52:19

论文解读 Chinese-LLaMA-Alpaca 中文版大语言模型

https://github.com/ymcui/Chinese-LLaMA-Alpaca

唐国梁Tommy 2023-09-012023-09-01 09:52:19

编码、部署、论文、模型、数据

发表了文章 2022-06-152022-06-15 19:37:03

【论文解读】SpellGCN 针对中文拼写检查将拼音相似与字形相似融合进语言模型

SpellGCN：Incorporating Phonological and Visual Similarities into Language Models...

唐国梁Tommy 2022-06-152022-06-15 19:37:03

character、line、models、performance、precision

发表了文章 2022-06-152022-06-15 19:36:34

【论文解读】检测字符插入与删除错误的预训练中文BERT

Pretraining Chinese BERT for Detecting Word Insertion and Deletion Errors

唐国梁Tommy 2022-06-152022-06-15 19:36:34

sql

发表了文章 2022-06-152022-06-15 19:36:14

【论文解读】PLOME : 具备错写知识的预训练模型

Pre-trained masked Language mOdel with Misspelled knowledgE

唐国梁Tommy 2022-06-152022-06-15 19:36:14

embedding、mask、position、set、token

发表了文章 2022-06-152022-06-15 19:31:02

04-1 轻松学PyTorch 肺部感染识别案例简介

本期视频内容：肺部感染识别案例简介视频地址：http://mpvideo.qpic.cn/0bc3eeabuaaa2aakaclypjrfaioddiqqag...

唐国梁Tommy 2022-06-152022-06-15 19:31:01

编程算法

发表了文章 2022-06-152022-06-15 19:29:39

03-1 轻松学 PyTorch 手写字体识别 MNIST (理论)

本期视频内容：手写字体识别 MNIST 视频地址：http://mpvideo.qpic.cn/0bc3lyab2aaa6eaifityebrfaxwddvpa...

唐国梁Tommy 2022-06-152022-06-15 19:29:39

mnist、计算机、视频

发表了文章 2022-06-152022-06-15 19:28:33

03-3 轻松学 PyTorch 手写字体识别 MNIST (实战 - 下)

本期视频内容：手写字体识别 MNIST (实战 - 下) 视频地址：http://mpvideo.qpic.cn/0bc3zaab2aaatqak6g3ykfr...

唐国梁Tommy 2022-06-152022-06-15 19:28:32

mnist、视频

12 3 下一页

个人简介

暂未填写公司和职称
资深AI算法工程师，专注于机器学习和AIGC领域。更多课程和相关资料请关注我的公众号：唐国梁Tommy
aigc LLM 机器学习
暂未填写学校和专业
暂未填写个人网址
暂未填写所在城市
加入社区时间：2021-05-06

个人成就

获得 111 次赞同
文章被阅读 104.8K 次

关注了：0关注者：40