特斯拉人工智能日——基于transformer模型的FSD向量空间

在上一篇文章中，我们介绍了特斯拉的神经网络——HydraNet。目前，HydraNet 只能处理来自单个摄像头的输入。人工智能日向量空间当特斯拉 AI 团队致力于 FSD 时，他们很快发现这还不够。

人工智能研究所

左边理解 右边生成，Transformer是怎么一步步缩成今天这个模样的

学完一遍 Attention 之后，我以为自己把 Transformer 摸透了。

AI码韵匠道

Transformers 长程上下文综述

BP-Transformer: Modelling Long-Range Context via Binary Partitioning。

雷峰网

通俗易懂的 Transformer 入门文章（第二部分）：工作原理分步拆解

这篇文章的主题是：通俗易懂的把 Transformer 内部原理理清这是我 通俗易懂的 Transformer 入门文章 系列的第二篇文章。在第一篇文章中，我们了解了 Transformer 的功能、使用方式、整体架构及其优势。在本文中，我们将深入底层，详细研究它的具体工作原理。

炼丹居士

一文带你浏览Graph Transformers

和之前NLP中的BERT不一样的地方主要是position encoding，Graph-BERT使用了三种PE，分别是WL absolute PE，intimacy based relative PE和Hop based relative PE，这里三个PE都是根据complete graph计算得到的。

极市平台

菜鸟如何快速入门NLP和迁移学习？这有一份学习参考指南

嗯~阿童木呀、KABUDA一般来说，当你刚开始在一个崭新的领域进行探索时，找到一个引人注目的课题进行研究，并熟知该对哪些有用的问题进行询问探索是存在一定的难度的。

雷克智能

Transformer从入门到实战：教你搭建中英翻译系统（附完整代码）

注：接上一篇Transformer理论之后的实战很多人学Transformer只看理论，一写代码就懵。今天我就用PyTorch官方API，带你从头撸一个中英翻译项目。代码全公开，注释比代码还多，保证你跑得起来、看得懂、能复用。

阿龙在努力

如何突破Decoder性能瓶颈？揭秘FasterTransformer的原理与应用

Encoder模块在TeslaV100的结果超参数设置：12 layers，32 sequence length，12 heads，64 size per head，under FP 16结果如上图，batch size从100逐步增加到500的过程中，FasterTransfo

量子位

如何从新手到完全进入NLP领域，只需要12篇文章掌握核心技术

「完结」 12篇文章带你完全进入NLP领域，掌握核心技术如何从新手到完全进入NLP领域，只需要12篇文章掌握核心技术

有三AI