首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    ICLR 2022 | 减少跨语言表示差异,字节跳动AI Lab通过流形混合增强跨语言迁移

    机器之心发布 字节跳动人工智能实验室、加利福尼亚大学圣塔芭芭拉分校 字节跳动人工智能实验室和加利福尼亚大学圣塔芭芭拉分校的研究者提出了跨语言流形混合(X-Mixup)方法为目标语言提供 “折衷” 的表示,让模型自适应地校准表示差异。此方法不仅显著地减少了跨语言表示差异,同时有效地提升了跨语言迁移的效果。 基于多语言预训练语言模型(比如 mBert、XLM-R 等),各种跨语言迁移学习方法取得了不错的迁移效果,但其中许多目标语言的性能仍然远远落后于源语言。字节跳动人工智能实验室和加利福尼亚大学圣塔芭芭拉分校通

    01

    系统架构师论文-论基于构件的软件开发(测井资料处理与解释集成软件)

    去年初,单位承担了新立的“测井资料处理与解释集成软件"项目,目的是集成目前国内零敬的测井解释方法,我有幸参加该项目,并负责软件系统平台设计和部分开发工作,在项目的实施过程中,我充分进行基于构件的软件开发,复用成熟的商业构件和本单位的构件资源库,同时考虑了本项目开发资源的进一歩复用,形成了绘制组件包,数据交换组件和数值计算组件包等。基于构件开发,大大提高了软件的质量,缩短软件的开发周期。开发的软件目前在石油测井几个油田现场使用,并得到用户的好评。本文就在本项目中如何进行基于构件开发进行描述,并在复用构件的使用和丰富方面谈一些自己看法。

    00

    写给年轻Infor BaaN ERP LN顾问的23条职业建议

    职业技能篇 1. 选什么模块不重要,只要你研究的够专精。 2. 做ERP顾问,某种程度上,懂业务比懂技术重要。 3. 写一份好的操作手册,能节约你很多的解释时间。 4. 所有配置都要写进文档,不然过不了多久你会发现自己也忘了为什么要做这个配置。 5. 上线前做一次数据切换模拟,能帮你把风险降到最低。 6. 学好英语,很多项目里面这点非常重要。 7. 多了解LN新技术,多上上Infor Xtreme,说不定下个项目就用上了。 8. 如果想当个好顾问,就别仅仅做自己眼前的那点工作,多帮帮其他模块,多学点其他知识,没有坏处。 9. 如果LN系统做不到的,就跟用户直说,不用非自创一个解决方案出来。

    03

    精通 Transformers(一)

    在过去的 20 年间,我们在自然语言处理(NLP)领域已经见证了巨大的变化。在此期间,我们经历了不同的范式,最终进入了由神奇的Transformers架构主宰的新时代。这种深度学习架构是通过继承多种方法而形成的。诸如上下文词嵌入、多头自注意力、位置编码、可并行化的架构、模型压缩、迁移学习和跨语言模型等方法都在其中。从各种基于神经网络的自然语言处理方法开始,Transformers架构逐渐演变成为一个基于注意力的编码器-解码器架构,并持续至今。现在,我们在文献中看到了这种架构的新成功变体。有些出色的模型只使用了其编码器部分,比如 BERT,或者只使用了其解码器部分,比如 GPT。

    00
    领券