D-PSGD算法与实践

加速transormer模型训练速度，以便应用到较长上下文中。

2024-06-16 FL

Transformer + GNN

参考Can Transfomrer and GNN Help Each Other?

2024-05-23 TransformerGNN

GNN can recover the hidden features solely from the graph structure

9-th, GNN能仅仅从图结构中恢复图内隐藏的特征信息，但现有的GNN框架还不能很好的完成特征恢复的任务...

2024-04-18 GNN

Ascend C开发流程

无

2024-04-04 Ascend C

A note

无...

2024-03-20 Float-FP16

CUDA编程

无...

2024-03-01 CUDA

Transformer

参考论文 Attention is all you need

2024-02-27 LLM

vLLM

LLM增添内存管理，利用PagedAttention，提高服务器吞吐量。

2024-02-21 LLM

FlashAttention

加速transormer模型训练速度，以便应用到较长上下文中。

2024-02-21 LLM

Preferential Attachment Graph

反应现实世界幂律分布现象的一种随机图的定义及性质。

2024-01-21 Random grpahPreferential Attachment Graph

123