首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    量子之矛—后量子计算时代你的系统还安全吗?

    Google在今年的3月份,推出一款72个量子比特的通用量子计算机Bristlecone,实现了1%的错误率,性能超越了IBM去年11月份发布的 50位量子比特的量子计算机。这一成果引起人们广泛的热议和讨论,按此速度的发展,量子计算机的计算能力将大大得到提升。对于人工智能(AI)领域来说,这是一大福音;而对于网络与信息安全领域来说,却是一个不折不扣的坏消息。举一个直观的例子:破解一个RSA密码系统,用当前最大、最好超级计算机需要花1025 年(而宇宙的年龄为1.38×1010 年),但用一个具有足够量子比特的量子计算机进行破解,在不到1秒内即可完成。众所周知,RSA公钥加密系统广泛应用于电子政务、电子银行、电子交易和操作系统等。曾经认为十分安全的加密系统在量子计算机面前,却似乎不堪一击。

    02

    绝对干货!NLP预训练模型:从transformer到albert

    语言模型是机器理解人类语言的途径,17年的transformer是语言模型摆脱rnn,lstm建模的一次尝试,后续的bert则是大力出奇迹的代表,用更大的模型和更多的数据将nlp任务的benchmark提高了一大截。gpt在auto-regressive的路上一路走到黑,而xlnet将gpt和bert的优点结合在了一起,然后用更更大的数据吊打了bert。没过多久,bert的增强版roberta用更更更大的数据打败了xlnet。然而当bert的模型达到一定程度后,受到了硬件资源的限制,于是谷歌通过矩阵分解和参数共享压缩了bert的模型大小,因此当albert使用了和bert同样的参数量的时候,推理能力又上了一个台阶。正好最近这几个月也在研究语言模型,就把我对transformer等几个具有代表性的nlp模型的理解记录一下。

    02
    领券