Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >LLM-Rec: 基于提示大语言模型的个性化推荐系统

LLM-Rec: 基于提示大语言模型的个性化推荐系统

作者头像
张小磊
发布于 2023-09-09 02:40:23
发布于 2023-09-09 02:40:23
1.3K0
举报

TLDR 本文研究了通过输入增强来提高大语言模型个性化内容推荐性能的各种提示策略。提出的方法LLM-Rec包括四种不同的提示策略:1)基本提示 2)推荐驱动提示 3)参与指导提示 4)推荐驱动+参与指导提示。 实验结果表明,将原始内容描述与LLM使用这些提示策略生成的增强输入文本相结合,可以提高推荐性能。这一发现强调了在大语言模型中融入多样化的提示和输入增强技术以提高个性化内容推荐能力的重要性。

论文:arxiv.org/abs/2307.15780

大型语言模型(LLM)在推荐系统中的使用在最近的研究中引起了极大的关注。许多研究已经探索了LLM作为推荐模型的直接使用。这些方法的基本原理包括构建包含推荐任务、用户配置文件、物品属性和用户-物品交互的提示。然后,这些特定于任务的提示被作为LLM的输入呈现,LLM被指示预测给定用户和项目之间交互的可能性。

虽然这些工作展示了LLM作为强大推荐模型的潜力,但重点主要是直接利用LLM进行推荐。然而,在这项研究中,本文从不同的角度来看待这个问题。本研究没有使用LLM作为推荐模型,而是深入探讨了使用LLM增强输入文本的提示策略,以进行个性化内容推荐。通过利用LLM,我们试图释放它们在生成高质量和上下文感知的输入文本以用于增强推荐方面的潜力,LLM已在广泛的语言数据集上进行了微调。

具体来说,我们提出了LLM-Rec提示,它包括为个性化内容推荐量身定制的各种提示策略。这些策略包括基本提示、推荐驱动提示、参与引导提示以及推荐驱动提示和参与引导提示相结合。通过利用这些策略,我们旨在增强LLM对输入文本的生成,并提高内容推荐的准确性和相关性。

通过全面的实证实验,我们评估了LLM-Rec框架的有效性,并将其与基线方法进行了比较。我们的研究深入了解了不同提示策略对推荐性能的影响,并揭示了利用LLM进行个性化内容推荐的潜力。

所提方法

本文提出了四种提示策略:

  • 基本提示: 包含三种基本提示, 分别用, 和表示, 其分别指示LLM进行原始内容描述的释义、摘要和归纳。具体的,指示LLM改写原始内容描述,强调在不引入任何额外细节的情况下保持相同信息的目标。指示LLM通过使用标记来总结内容描述,旨在生成更简洁的概述,以捕获关键信息。指示LLM推断原始内容描述的特征,并提供在更广泛、更不详细的粒度级别上操作的分类响应。
  • 推荐驱动提示: 在基本提示的基础上加入推荐驱动指示, 得到, 和。明确生成的内容描述用于内容推荐, 引导LLM聚焦在关键特征上。
  • 参与指导提示: 这种提示策略是利用用户行为(即用户-物品参与度)来设计提示,目的是引导LLM更好地捕捉内容描述中与用户偏好一致的特征。我们的目标是通过这种类型的推荐任务提示生成更有意义的描述。我们把这种变体称为.
  • 推荐驱动与参与指导组合提示: 融合推荐驱动和参与指导提示的优点。

在这项研究中,我们使用一个完善的推荐基准,深入研究了大型语言模型的内容推荐提示领域。如下图所示,评估体系结构包括三个关键组件:项目模块、用户模块和推荐模块。在整个评估过程中,我们确保用户模块和推荐模块在所有基线中保持一致。唯一的变化在于增强文本,它是由语言模型(LLM)使用不同的提示生成的。因此,增补文本是基线中唯一的区别因素。

实验结果

实验结果表明,除了基准外,其他方法中LLM生成的增强文本与原始内容描述的组合都可以提高推荐性能。

推荐驱动提示主要增强了面向推荐的文本生成。

相比基本提示,的推荐性能有所提升,表明参与指导提示让LLM生成的内容更符合用户偏好。

的推荐性能最好,表明推荐驱动和参与指导提示的组合作用。

总结

本文介绍了LLM-Rec提示策略,利用大语言模型进行输入增强,以提高个性化内容推荐。通过对LLM-Rec四种变体的全面实验,观察到增强输入文本与原始内容描述的组合可显著提高推荐性能。这些发现强调了使用LLM和策略化提示技术来提高个性化内容推荐的准确性和相关性的潜力。本文的研究凸显了创新方法对利用LLM进行内容推荐的重要性,并展示了输入增强在改进推荐性能方面的价值。随着个性化内容推荐在各个领域继续发挥关键作用,研究为有效运用LLM提供提供了洞见,以提供增强的推荐体验。

更多技术细节请阅读原始论文。

欢迎干货投稿 \ 论文宣传 \ 合作交流

推荐阅读

论文周报 | 推荐系统领域最新研究进展

最新综述 | 大模型时代下的推荐系统总结

[专栏征稿]遗忘学习理论及应用

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2023-08-29,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 机器学习与推荐算法 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
LLM-Rec:基于提示大语言模型的个性化推荐
本文研究了通过输入增强来提高大语言模型个性化内容推荐性能的各种提示策略。提出的方法LLM-Rec包括四种不同的提示策略:1)基本提示 2)推荐驱动提示 3)参与指导提示 4)推荐驱动+参与指导提示。实验结果表明,将原始内容描述与LLM使用这些提示策略生成的增强输入文本相结合,可以提高推荐性能。这一发现强调了在大语言模型中融入多样化的提示和输入增强技术以提高个性化内容推荐能力的重要性。
NewBeeNLP
2023/08/28
3850
LLM-Rec:基于提示大语言模型的个性化推荐
LLM4Rec:当推荐系统遇到大语言模型
大模型LLM在越来越多的领域开始崭露头角,前段时间我们整理了大模型在推荐系统中的应用 survey,当时留了一些坑没填上,今天补上。
NewBeeNLP
2024/01/17
3.5K0
LLM4Rec:当推荐系统遇到大语言模型
个性化语言提示!Google | 提出用户嵌入模型:UEM,可有效处理长期历史记录!
对长期历史记录进行建模有利于提升推荐系统的性能,它可以捕获用户不断变化的需求,从而产生更准确和个性化的推荐。针对长期历史记录建模这一问题,Google研究人员引入了一个新的用户嵌入模型(UEM),可以有效的处理自由格式文本中的用户历史记录。与传统基于文本的提示方法相比,该方法在处理更长历史记录方面具备卓越的能力。与基于文本的提示基线相比,F1 点提高了 0.21 和 0.25。
ShuYini
2024/01/12
1640
个性化语言提示!Google | 提出用户嵌入模型:UEM,可有效处理长期历史记录!
深度解析京东个性化推荐系统演进史
在电商领域,推荐的价值在于挖掘用户潜在购买需求,缩短用户到商品的距离,提升用户的购物体验。 京东推荐的演进史是绚丽多彩的。京东的推荐起步于2012年,当时的推荐产品甚至是基于规则匹配做的。整个推荐产品线组合就像一个个松散的原始部落一样,部落与部落之前没有任何工程、算法的交集。2013年,国内大数据时代到来,一方面如果做的事情与大数据不沾边,都显得自己水平不够,另外一方面京东业务在这一年开始飞速发展,所以传统的方式已经跟不上业务的发展了,为此推荐团队专门设计了新的推荐系统。 随着业务的快速发展以及移动互联网的
用户1263954
2018/01/30
2.3K0
深度解析京东个性化推荐系统演进史
论文合集 | 图大模型推荐研究
大型语言模型(LLMs)已经彻底改变了自然语言处理任务,而其与图神经网络(GNN上)之间又会擦出怎样的火花呢?本文汇总了20篇与图大模型相关的论文(主要以推荐系统领域为主),展示最新的工作研究进展。
Houye
2024/05/18
9930
论文合集 | 图大模型推荐研究
RecRanker: 用大型语言模型充当排序器提升个性化推荐
TLDR:本文提出一种新的推荐算法RecRanker,其为指令调优大语言模型量身定制,并可将其作为Top K推荐的排序器。具体的,该论文提出了重要性感知采样、基于聚类的采样和对重复采样的惩罚,基于此以采样高质量、有代表性和多样化的用户作为训练数据。
张小磊
2024/01/11
6380
RecRanker: 用大型语言模型充当排序器提升个性化推荐
AAAI 2024 | 大模型(LLM)论文总结
大语言模型作为近期最火热的研究点,热度至今居高不下。特别是近期,arxiv上每个月都发表很多关于大语言模型的文章。对此,我只想吐槽一句,根本读不完。倒不如来看看在AAAI-2024会议上关于大语言模型的研究工作。经过"老字号"AAAI会议审核过的,质量是杠杠的。
时空探索之旅
2024/11/19
6330
AAAI 2024 | 大模型(LLM)论文总结
用大模型LLM进行异构知识融合构建推荐系统
在推荐系统中,用户回存在各种异构行为,对这些行为的有效挖掘能够提升我们对用户偏好和行为的理解。但是,将各类异构行为结合到推荐模型中的传统方法会导致特征稀疏(feature sparsity)和知识碎片(knowledge fragmentation)问题。本文提出采用大模型LLM从用户的异构行为信息中提取和融合异构知识,然后将异构知识和推荐任务相结合,在LLM上执行指令微调进行个性化推荐。
秋枫学习笔记
2023/10/06
9170
用大模型LLM进行异构知识融合构建推荐系统
基于生成模型的推荐系统综述 (Gen-RecSys)
TLDR: 本篇综述旨在调研生成式推荐模型(Gen-RecSys)的主要进展,包括:交互驱动生成模型的基本概述;大型语言模型(LLM)在生成式推荐、检索和会话推荐中的应用;推荐系统中处理和生成图像视频内容的多模态模型的整合。本文以整体视角讨论了Gen-RecSys的影响和危害,并指出了其面临的挑战。
张小磊
2024/06/18
2.1K0
基于生成模型的推荐系统综述 (Gen-RecSys)
同济大学发布最新检索增强(RAG)的LLM生成技术综述
摘要主要介绍了大型语言模型(LLMs)在实际应用中面临的挑战,比如幻觉、知识更新缓慢和答案缺乏透明度等问题,并提出了检索增强生成(Retrieval-Augmented Generation,RAG)作为一种解决方案。RAG通过从外部知识库检索相关信息来辅助大型语言模型回答问题,已经被证明能显著提高回答的准确性,减少模型产生的幻觉,尤其是在知识密集型任务中。
唐国梁Tommy
2023/12/21
17.2K0
同济大学发布最新检索增强(RAG)的LLM生成技术综述
AI论文速读 | 大语言模型作为城市居民——利用LLM智能体框架生成人类移动轨迹
题目:Large Language Models as Urban Residents: An LLM Agent Framework for Personal Mobility Generation
时空探索之旅
2024/11/19
2970
AI论文速读 | 大语言模型作为城市居民——利用LLM智能体框架生成人类移动轨迹
推荐系统范式之争,LLM vs. ID?
TLDR: 本文与已有的LLM4Rec一个主要区别在于,已有的ChatGPT4Rec文献大多是调用OpenAI API来做prompt工程,本文则是将1750亿的GPT-3作为item encoder替换ID。为了对该范式(论文称之为TCF范式,在过去几年涌现了大量相关论文,不过多是使用BERT,word2vec等中小型item 编码器)性能进行极限研究和评价,论文甚至对600亿LLM做微调或者重新训练,目的是为了回答基于文本的推荐范式的若干核心问题,相关实验可以看出完成该论文的算力成本之高。
张小磊
2023/08/22
7010
推荐系统范式之争,LLM vs. ID?
【LangChain系列】第五节:大语言模型中的提示词,模型
本节我们将探索 LangChain 的内部工作原理,LangChain 是一个有用的 Python 库,可以简化使用 LLM 的过程。您将能够创建直观、可重用且可扩展的应用程序,这些应用程序可以改变您与 LLM 的交互方式。
Freedom123
2024/05/21
4750
打开黑盒神经网络!港大推出全新「会说话」的推荐系统大模型XRec,从黑盒预测到可解释
传统推荐系统虽然能给出准确的推荐结果,但缺乏对推荐过程的透明解释,难以让系统更好地理解其兴趣偏好是如何被捕捉和建模的。
新智元
2024/06/27
1700
打开黑盒神经网络!港大推出全新「会说话」的推荐系统大模型XRec,从黑盒预测到可解释
深度解析京东个性化推荐系统演进史
作者 | fisherman、Davidxiaozhi 本文摘自《决战618:探秘京东技术取胜之道》,两位作者时任京东推荐系统负责人和系统架构师。 在电商领域,推荐的价值在于挖掘用户潜在购买需求,缩短
Spark学习技巧
2018/01/31
1.5K0
深度解析京东个性化推荐系统演进史
从ID-based到LLM-based: 可迁移推荐系统研究进展总结
TLDR: 本文综述了近期关于可迁移推荐系统的发展现状,并分别介绍了基于ID、基于模态和基于大语言模型的可迁移推荐系统的代表性工作,最后对该方向进行了系统性的总结和展望。
张小磊
2023/11/07
1.2K0
从ID-based到LLM-based: 可迁移推荐系统研究进展总结
每日学术速递12.27
CV - 计算机视觉 | ML - 机器学习 | RL - 强化学习 | NLP 自然语言处理
AiCharm
2024/12/27
1340
每日学术速递12.27
When RS Meets LLM:推荐系统如何从大语言模型中取长补短?面向应用视角的全面综述
Github: https://github.com/CHIANGEL/Awesome-LLM-for-RecSys
Houye
2023/09/04
1.2K0
When RS Meets LLM:推荐系统如何从大语言模型中取长补短?面向应用视角的全面综述
集体智慧的结晶:个性化推荐系统
在DT(datatechnology)时代,人们的日常生活已经和各种各样的数据密不可分,例如在网络购物、在线视频、在线音乐、新闻门户等都在产生海量的数据。海量的数据产生也带来了信息过载和选择障碍的困扰,每个用户的时间和精力是有限的,怎样帮助用户进行信息的过滤和选择,在DT时代是非常有价值的。
博文视点Broadview
2020/06/12
9570
集体智慧的结晶:个性化推荐系统
奥创纪元:当推荐系统遇到大模型LLM
大模型LLM在越来越多的领域开始崭露头角,比如我们在今年上半年曾在某电商平台落地过较为直观简单的LLMx搜索项目(我们称之为LLM应用的第一阶段),同时拿到线上收益,LLM的潜力可见一斑。
NewBeeNLP
2023/12/04
1.9K0
奥创纪元:当推荐系统遇到大模型LLM
推荐阅读
相关推荐
LLM-Rec:基于提示大语言模型的个性化推荐
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档