Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >MOSS 项目简介

MOSS 项目简介

作者头像
ytkah
发布于 2023-03-08 03:31:02
发布于 2023-03-08 03:31:02
9770
举报
文章被收录于专栏:ytkahytkah

MOSS是复旦大学自然语言处理实验室发布的一种类似于ChatGPT的会话语言模型。MOSS能够按照用户的指示执行各种自然语言任务,包括回答问题、生成文本、摘要文本、生成代码等。MOSS还能够挑战错误的前提,拒绝不适当的请求。

MOSS 项目简介

  MOSS,一种类似于ChatGPT的对话式语言模型。MOSS能够按照用户的指示执行各种自然语言任务,包括回答问题、生成文本、摘要文本、生成代码等。MOSS还能够挑战错误的前提,拒绝不适当的请求。在研究预览期间,MOSS的使用是免费的,我们将在他们允许的情况下收集用户的反馈。体验地址在这https://moss.fastnlp.top/

MOSS能做什么

MOSS主旨:有用、诚实和无害

  • 有用:尽量帮助人们完成语言任务,以提高他们的工作效率。
  • 诚实:对人类的问题做出诚实的回答。
  • 无害:遵守人类伦理和道德,不产生偏见或可能有害的反应。

MOSS使用示例

MOSS和ChatGPT有什么不同?

  • MOSS的参数数量比ChatGPT少得多。
  • MOSS通过与人类和其他人工智能模型交谈来学习,而ChatGPT则使用来自人类反馈的强化学习(RLHF)进行训练。
  • MOSS将是开源的,以方便未来的研究,但ChatGPT可能不会。

团队介绍

  MOSS 的主要作者共有两位:复旦大学教授邱锡鹏和他的博士生孙天祥。此外还有多位成员对项目有所贡献。

  邱锡鹏,复旦大学计算机科学技术学院教授,博士生导师。国家优青获得者,于复旦大学获得理学学士和博士学位。主要从事自然语言处理、深度学习等方向的研究,发表 CCF A/B 类论文 70 余篇,获得 ACL 2017 杰出论文奖(CCF A 类)、CCL 2019 最佳论文奖、《中国科学:技术科学》2021 年度高影响力论文奖,有 5 篇论文入选 PaperDigest 发布的 IJCAI/ACL/EMNLP 的最有影响力论文(被引用数进入前当届会议的 20 名)。出版开源专著《神经网络与深度学习》,Github 关注数 1.5 万,豆瓣评分 9.4 分。主持开发了开源框架 FudanNLP 和 FastNLP,已被国内外数百家单位使用。2015 年入选首届中国科协青年人才托举工程项目,2018 年获钱伟长中文信息处理科学技术奖青年创新奖一等奖,2020 获第四届上海高校青年教师教学竞赛优等奖,2021 年获首届上海市计算机学会教学成果奖一等奖(第一完成人)等。培养学生多次获得一级学会优博、微软学者、百度奖学金等。

  孙天祥,复旦大学计算机科学学院博士生,导师为邱锡鹏教授和黄萱菁教授。2019 年毕业于西安电子科技大学。研究兴趣集中于机器学习及其在自然语言处理中的应用,特别是预训练语言模型的高效微调及推理、多任务学习、知识表示学习等。以第一作者在 ICML, ACL, NAACL, AAAI, COLING 等会议发表多篇论文。

moss可执行对话生成、编程、事实问答等一系列任务,打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通,为国内学术界和产业界提供了重要经验,将助力大语言模型的进一步探索和应用。   

邱锡鹏教授表示:“尽管moss还有很大改善空间,但它的问世证明了在开发类chatgpt产品的路上,国内科研团队有能力克服技术上的重要挑战。”moss研发项目得到了上海人工智能实验室的有力支持。后期,这项工作将通过开源方式和业界社区分享。

未来,科研团队将通过开源方式分享这项工作的成果,促进学术界和产业界对预训练语言模型的分析与研发。预训练大语言模型的研发门槛很高,需要大量算力、训练语料和人工标注。在我国产业界,只有大型机构才有实力开发大模型。moss开源后,可有效降低预训练语言模型的研发和应用门槛,让中小企业在其基础上开发出智能客服、智能家居、人工智能律师等各种垂直类产品。   

“moss的计算量相对不那么大,中小企业都能用起来。”邱锡鹏说,“期待复旦团队和上海人工智能实验室继续合作,通过moss以及后续的研究探索,推动ai普惠,尽快赋能国内的人工智能产业。”

项目主页 

https://txsun1997.github.io/blogs/moss.html

体验地址

https://moss.fastnlp.top/

参考资料

https://news.cnblogs.com/n/736972/

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2023-03-07,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
复旦抢发第一个中国版 ChatGPT !内测服务器被挤崩,团队致歉:还不成熟
作者 | 凌敏、刘燕 “MOSS 还是一个非常不成熟的模型,距离 ChatGPT 还有很长的路需要走。” 自去年 11 月底正式发布以来,OpenAI 最新的 AI 聊天机器人 ChatGPT 迅速成为现象级应用。瑞银发布的研究报告显示,ChatGPT 在今年 1 月,月活跃用户估计已达 1 亿,成为历史上用户增长最快的消费应用。 随着 ChatGPT 在全球范围内迅速走红,全球互联网大厂、创业公司纷纷加码布局。在国外,谷歌加急推出了人工智能聊天机器人 Bard Bard;在国内,百度将在 3 月推出类似
深度学习与Python
2023/02/28
3860
复旦抢发第一个中国版 ChatGPT !内测服务器被挤崩,团队致歉:还不成熟
复旦发布国内首个类ChatGPT模型!已开放内测申请,代码将于3月发布
Pine 萧箫 发自 凹非寺 量子位 | 公众号 QbitAI 没想到,众人加班加点抢“中国版ChatGPT”热度时,首个国内类ChatGPT模型竟然已经发布了! 砸出这个重磅消息的,不是紧锣密鼓宣传的BAT大厂,也不是直接出手几亿的投资大V,而是这段时间来一直没吭气的复旦大学。 事情一出,直接引爆了一众社交媒体,不仅在微博刷出数个热搜话题,知乎更是冲上热榜第一。 各路“ChatGPT爱好者”连夜赶来围观,甚至由于官网访问人数太多,服务器一度被挤爆,又上了一次热搜。 这是怎么回事? 原来,复旦NLP团队
量子位
2023/02/23
4790
复旦发布国内首个类ChatGPT模型!已开放内测申请,代码将于3月发布
160亿参数,新增多项能力,复旦MOSS开源了
机器之心报道 编辑:蛋酱 今年 2 月份,机器之心报道了复旦大学推出中国版 ChatGPT 的消息(参见《复旦发布中国版 ChatGPT:MOSS 开启测试冲上热搜,服务器挤爆》),引起了广泛关注。当时,邱锡鹏教授就曾表示将于四月份开源 Moss。 昨天,开源版的 Moss 真的来了。 项目地址:https://github.com/OpenLMLab/MOSS MOSS 是一个支持中英双语和多种插件的开源对话语言模型,但参数数量比 ChatGPT 少得多。在 v0.0.2 之后,团队持续对其进行调整,推
机器之心
2023/05/01
3050
160亿参数,新增多项能力,复旦MOSS开源了
复旦发布中国版ChatGPT:MOSS开启测试冲上热搜,服务器挤爆
机器之心报道 编辑:泽南、蛋酱 不知道这个人工智能,有没有获得完整的一生。 ChatGPT 是最先进的 AI,也是最热门的应用 —— 自去年 11 月底发布以来,它的月活跃用户两个月超过一亿,轻松拿到了全球互联网史上用户增长速度的第一。 它也是一种门槛很高的技术。由于 ChatGPT 的训练过程所需算力资源大、标注成本高,目前国内暂未出现对大众开放的同类产品。百度、阿里、京东等互联网大厂都放出消息,表示正在打造「国产 ChatGPT」,并将在近期发布。 在各大厂产品到位之前,学界先有了消息。2 月 20 日
机器之心
2023/02/23
6300
复旦发布中国版ChatGPT:MOSS开启测试冲上热搜,服务器挤爆
复旦清华联合顶刊发文|ChatGPT:潜力、前景和局限
---- 新智元报道   来源:信息与电子工程前沿FITEE 作者:周杰 柯沛 邱锡鹏 黄民烈 张军平 编辑:好困 【新智元导读】为更好地理解ChatGPT,这里我们简要介绍其历史,讨论其优点和不足,指出几个潜在应用,最后分析它对可信赖人工智能、会话搜索引擎和通用人工智能(artificial general intelligence, AGI)发展的影响。 最近,OpenAI发布了对话生成预训练模型Transformer(Chat Generative Pre-trained Transformer
新智元
2023/03/29
4580
复旦清华联合顶刊发文|ChatGPT:潜力、前景和局限
中国版ChatGPT「MOSS」服务器被挤爆,复旦团队致歉:还不成熟
---- 新智元报道   编辑:编辑部 【新智元导读】2月20日,复旦大学邱锡鹏团队推出中国版ChatGPT「MOSS」。发布当晚,服务器被挤爆。2月21日,复旦MOSS团队致歉,称模型还不成熟。 今天,MOSS又火了。不仅登顶知乎热榜,收获近千万流量,还引来诸多媒体竞相报道。 不过,这次出圈的,不是陪刘培强流浪的MOSS,而是复旦大学研发的中国版ChatGPT。 国内首个对话式大型语言模型 ChatGPT自发布以来,已经收获了全球巨大关注。尤其是在春节后,ChatGPT突然走红,许多网友开始期待
新智元
2023/02/24
4770
中国版ChatGPT「MOSS」服务器被挤爆,复旦团队致歉:还不成熟
复旦邱锡鹏教授讲述 MOSS 2 研发进展:如何实现世界模型?
去年 ChatGPT 爆火后,国内迅速迎来了“百模大战”。其中,复旦大学自然语言处理实验室在去年 2 月率先发布了国内首个类 ChatGPT 的对话式大语言模型 MOSS,开放不到 24 个小时,由于瞬时访问压力过大,MOSS 服务器显示流量过载而无法访问。
深度学习与Python
2024/06/17
2070
复旦邱锡鹏教授讲述 MOSS 2 研发进展:如何实现世界模型?
复旦邱锡鹏团队发布类 ChatGPT 模型 MOSS,现已暂停内测
百亿规模参数,MOSS 的英文回答水平较中文更高。 作者 | 黄楠 编辑 | 陈彩娴 2月20日,复旦大学自然语言处理实验室发布对话式大型语言模型 MOSS,该模型由邱锡鹏教授带队完成发布,上海人工智能实验室提供有力支持。 作为一个语言模型,MOSS 可执行对话生成、编程、事实问答等系列任务,比如让它回答关于“AI 取代人类工作”的问题: 也可以通过列举具体的指令,请它帮忙推荐电影: 或者是生成一段 Python 代码实现快速排序: 可以看到,MOSS 回答流畅,在不同场景上都有不凡的表现。 MOSS
AI科技评论
2023/02/23
4200
复旦邱锡鹏团队发布类 ChatGPT 模型 MOSS,现已暂停内测
复旦MOSS大模型开源了!Github和Hugging Face同时上线
丰色 萧箫 发自 凹非寺 量子位 | 公众号 QbitAI 复旦大模型MOSS,正式开源了! 作为国内首个开放测试的类ChatGPT产品,MOSS开源地址一放出,又冲上知乎热搜: 从官网介绍来看,MOSS是一个拥有160亿参数的开源对话语言模型。 它由约7000亿中英文及代码单词预训练得到,精度要求不那么高的话,甚至可以在单张3090显卡上运行。 MOSS支持中英双语,拥有多轮对话和使用多种插件双重能力,具备搜索引擎、文生图、计算器、方程求解的“技能点”。 目前,MOSS在GitHub上已有2.3k S
量子位
2023/05/06
3290
复旦MOSS大模型开源了!Github和Hugging Face同时上线
MOSS & 混元 巅峰对话!2024大模型发展都在这里
2023 年,各大厂商争先投入 LLM 研发,一年内,在国内累计就有 200 余个大模型正式发布。尽管很多大模型并不完善,但行业内的研究专家及产业领袖都在为大模型的突破甚至 AGI 的发展,做着不懈探索。
腾讯云开发者
2024/01/17
5560
MOSS & 混元 巅峰对话!2024大模型发展都在这里
ACL 2022论文分享会Keynote嘉宾阵容重磅揭晓,5.21线上相见
随着人工智能的火热,AAAI、NeurIPS、CVPR 等顶级学术会议的影响力也愈来越大,每年接收论文、参会人数的数量连创新高。 ACL,作为国际最受关注的自然语言处理顶级会议,每年都吸引了大量华人学者投稿、参会,今年的 ACL 大会已是第 60 届,将于 5 月 22-5 月 27 举办。因为疫情原因,国内 NLP 从业者参与大会将受到很大的限制。 为了给国内 NLP 社区的从业人员搭建一个自由轻松的学术交流平台,机器之心组织了「ACL 2022 线上论文分享会」,定档 5 月 21 日云端相聚。 本次
机器之心
2022/05/12
4350
ACL 2022论文分享会Keynote嘉宾阵容重磅揭晓,5.21线上相见
MarioGPT自动生成“超级玛丽”;周鸿祎:ChatGPT可能产生意识;国内版ChatGPT复旦首发,但“非常不成熟”
本周,AI业界又有哪些新鲜事? ChatGPT 国内版ChatGPT首发被复旦“抢注”,但非常不成熟? 虽然各大厂如火如荼地备战国内版“GPT”,但谁也没抢到这个“首发”:2 月 20 日晚,复旦大学自然语言处理实验室发布了国内首个类 ChatGPT 模型 MOSS,并邀请公众参与内测(https://moss.fastnlp.top/#/)。 从 MOSS 项目主页来看,其定位是“一个类似 ChatGPT 的对话式语言模型”,能按照用户指示执行各种自然语言任务,包括回答问题、生成文本、总结文本和生
AI科技大本营
2023/02/27
3430
MarioGPT自动生成“超级玛丽”;周鸿祎:ChatGPT可能产生意识;国内版ChatGPT复旦首发,但“非常不成熟”
在小红书,也有AI技术青年的一片「自留地」
9 月 24 日 16:00-19:30,小红书 REDtech 青年技术沙龙,线下见! AI 引领的新一代信息技术正驱动新一轮科技浪潮。在人工智能迈向通用智能的新发展阶段,面向不同场景的应用落地,AI 技术融合创新已成为新常态。视觉、语言、自然语言、强化学习等领域的壁垒逐渐打破,并在应用落地过程中进一步与数据、场景融合,极大地拓展了 AI 能力边界。 作为近年国内发展最为迅速的移动互联网平台之一,小红书的超大型UGC社区产生了海量多模态数据及用户行为反馈,基于独特的社区生态和丰富的落地场景,在计算机视觉
机器之心
2022/09/15
1K0
在小红书,也有AI技术青年的一片「自留地」
首期AI治理与伦理圆桌:大模型的可解释性
AI 伦理与治理是与 AI 技术、工程同等重要但讨论不多的议题。随着近年来大模型的不断涌现,AI 应用和产品纷纷落地。随之而来,人们对 AI 伦理与治理的关注度日益增加,比如 AI 向善、隐私保护、负责任 AI、AI 系统可信可控。近几个月,ChatGPT 的出现让 AI 伦理与治理研究被提上更紧迫的日程。 其实针对 AI 发展过程中产生的伦理与治理问题,一直都有组织跟进研究并着力提出相应的解决方案。2021 年,未来论坛组织 AI 伦理与治理系列论坛,邀请产学研专家思辨探讨,引发广泛关注。活动精华内容已整
机器之心
2023/04/21
4850
首期AI治理与伦理圆桌:大模型的可解释性
机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会
作为国际最受关注的自然语言处理顶级会议,每年的 ACL 都吸引了大量华人学者投稿、参会。今年的 ACL 大会已是第 60 届,于 5 月 22-5 月 27 日期间举办。 为了给国内 NLP 社区的从业人员搭建一个自由轻松的学术交流平台,2022 年 5 月 21 日,机器之心举办了「ACL 2022 论文分享会」线上学术交流活动。 本次 ACL 论文分享设置了 Keynote、 论文分享、企业招聘等环节,就业内关注的 Transformer、大规模预训练模型等 NLP 热门主题邀请顶级专家、论文作者与观众
机器之心
2022/05/27
7650
机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会
复旦开源首个「中国版ChatGPT」MOSS!全新插件系统,能上网,会鸡兔同笼
---- 新智元报道   编辑:好困 Aeneas 【新智元导读】复旦NLP团队首次上线MOSS两个月后,他们遵照承诺,真的把MOSS开源了。同时,MOSS也成为了国内首个搭载插件系统的开源对话语言模型。 国内首个类ChatGPT模型MOSS,开源了! 这次,复旦团队的模型不仅更加成熟,而且还增加了「搜索引擎、计算器、解方程、文生图」等插件功能,既可在线体验,也支持本地部署—— 在FP16精度下单张A100/A800或两张3090显卡就能运行,而在INT4/8精度下只需一张3090即可。(但还没放出)
新智元
2023/05/09
5080
复旦开源首个「中国版ChatGPT」MOSS!全新插件系统,能上网,会鸡兔同笼
邱锡鹏:从Transformer到BERT --自然语言处理中的表示学习进展
本次报告主要涉及深度学习在自然语言处理(Natural Language Processing,NLP)领域的进展,首先讲解了语言的表示学习、词嵌入等基础概念和知识,然后介绍了无监督预训练、Transformer模型、BERT及多种改进等NLP技术的最新研究工作,最后对深度学习在理论和应用层面的前景进行了展望。
马上科普尚尚
2020/05/13
1.3K0
邱锡鹏:从Transformer到BERT --自然语言处理中的表示学习进展
【倒计时3天】“CSIG企业行”走进合合信息,大咖解密智能文档处理背后的底层技术及AI未来展望
3月18日,由中国图象图形学会(CSIG)主办,合合信息、CSIG文档图像分析与识别专业委员会联合承办的“CSIG企业行”系列活动将正式举办,通过搭建学术界与企业交流合作平台,为企业创新发展提供科技支撑,为图像图形领域高校师生提供与企业互动机会,集结产学研力量,共同推动图像图形领域的发展。
合合技术团队
2023/03/15
8310
【倒计时3天】“CSIG企业行”走进合合信息,大咖解密智能文档处理背后的底层技术及AI未来展望
2023 AI 应届生,来种草小红书
小红书REDtech 青年技术沙龙延期至 10 月 15 日,招募持续进行中。 作为近年国内发展最为迅速的移动互联网平台之一,小红书的超大型 UGC 社区产生了海量多模态数据及用户行为反馈,基于独特的社区生态和丰富的落地场景,在计算机视觉、自然语言、强化学习等领域不断诞生着兼具价值和挑战的新问题。 随着用户规模的高速发展与用户需求的不断提升,技术在小红书发展飞轮中承担着越来越重要的角色。小红书在技术领域不断加大投入,加快布局前沿技术,不断以创新技术推动业务增长,吸引了众多全球顶尖科技公司技术牛人加入,同
机器之心
2022/09/27
6430
2023 AI 应届生,来种草小红书
CSIG企业行-走进合合信息成功举行,聚焦生成式人工智能、智能文档处理前沿热点
3月18日,由中国图象图形学学会(CSIG)主办,合合信息、CSIG文档图像分析与识别专业委员会联合承办的“CSIG企业行”系列活动成功举办。此次活动以“图文智能处理与多场景应用技术展望”为主题,特邀来自上海交大、厦门大学、复旦大学、中科大的知名学府的学者与合合信息技术团队一道,面向行内研究者分享图像文档处理中的结构建模、底层视觉技术、跨媒体数据协同应用、生成式人工智能及对话式大型语言模型等研究及实践成果。
合合技术团队
2023/03/22
4410
CSIG企业行-走进合合信息成功举行,聚焦生成式人工智能、智能文档处理前沿热点
推荐阅读
复旦抢发第一个中国版 ChatGPT !内测服务器被挤崩,团队致歉:还不成熟
3860
复旦发布国内首个类ChatGPT模型!已开放内测申请,代码将于3月发布
4790
160亿参数,新增多项能力,复旦MOSS开源了
3050
复旦发布中国版ChatGPT:MOSS开启测试冲上热搜,服务器挤爆
6300
复旦清华联合顶刊发文|ChatGPT:潜力、前景和局限
4580
中国版ChatGPT「MOSS」服务器被挤爆,复旦团队致歉:还不成熟
4770
复旦邱锡鹏教授讲述 MOSS 2 研发进展:如何实现世界模型?
2070
复旦邱锡鹏团队发布类 ChatGPT 模型 MOSS,现已暂停内测
4200
复旦MOSS大模型开源了!Github和Hugging Face同时上线
3290
MOSS & 混元 巅峰对话!2024大模型发展都在这里
5560
ACL 2022论文分享会Keynote嘉宾阵容重磅揭晓,5.21线上相见
4350
MarioGPT自动生成“超级玛丽”;周鸿祎:ChatGPT可能产生意识;国内版ChatGPT复旦首发,但“非常不成熟”
3430
在小红书,也有AI技术青年的一片「自留地」
1K0
首期AI治理与伦理圆桌:大模型的可解释性
4850
机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会
7650
复旦开源首个「中国版ChatGPT」MOSS!全新插件系统,能上网,会鸡兔同笼
5080
邱锡鹏:从Transformer到BERT --自然语言处理中的表示学习进展
1.3K0
【倒计时3天】“CSIG企业行”走进合合信息,大咖解密智能文档处理背后的底层技术及AI未来展望
8310
2023 AI 应届生,来种草小红书
6430
CSIG企业行-走进合合信息成功举行,聚焦生成式人工智能、智能文档处理前沿热点
4410
相关推荐
复旦抢发第一个中国版 ChatGPT !内测服务器被挤崩,团队致歉:还不成熟
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档