伙伴计划

目标：基于国产图学习平台集成图学习算法

• 培养图学习人才
• 宣扬学者工作
• 促进图学习应用

学习内容

• 学习基本的Python编程，掌握实用的技能；
• 了解基本的机器学习和深度学习概念，逐渐熟悉PyTorch等深度学习框架编程；
• 学习图神经网络基本理论，了解图神经网络框架PyG、DGL或GammaGL；
• 利用有关的工具，在OpenHGNN和GammaGL上实现一个图神经网络模型;
• 感兴趣的同学可以前往我们的主页，了解前沿图学习工作。

学习路线

🐣第一个月

• 第一周:

  • 选择一款自己使用方便的IDEA， 推荐Pycharm， VSCode等。

    掌握python基本项目管理， 项目调试等。

  • Python3 教程| 菜鸟教程

    重点掌握目录中第一部分 Python3 教程， 第二部分 Python3 高级教程感兴趣的同学可以了解一下。

    第一部分必须掌握内容：字符串、列表、字典、元组、条件控制、循环语句、模块、面向对象。

    理解何为 "Python万物皆对象"。

  • 逐渐学习如何翻墙（连接github等平台必备）。

  • 完成一个Python的基本练习。

  如需相关视频，可直接在B站搜索。

• 第二周:

  • 学习使用conda来方便管理Python环境。

    只需要掌握最简单的环境创建、 安装包和安装渠道的管理即可，这里不再给出参考链接。

  • 学习使用Juypter Notebook来方便代码编写。

  • 了解数据分析常用的库：numpy，pandas，matplotlib。

    可结合知乎专题等进行学习。

  • 完成一个数据处理练习。

• 第三周:

  • 吴恩达机器学习Deeplearning.ai课程、 李宏毅2023春机器学习课程

    结合上述课程，快速了解掌握机器学习和深度学习诸如梯度下降，反向传播的概念，深度学习的概念. 现阶段可以先浅尝即止，熟悉相关概念即可。

  • 了解sklearn库以及相关用法。

  • 完成一个线性回归练习。

• 第四周:

  • PyTorch安装和初步理解cuda、 PyTorch深度学习快速入门教程

    视频只做推荐，强烈建议沿着PyTorch官网的Tutorials和Docs学习，需要逐渐熟悉PyTorch中tensor的概念，利用PyTorch构建神经网络，利用PyTorch构建训练流程。

  • 完成一个PyTorch练习。

   

🐤第二个月

• 第一周

  • 强推、零基础多图详解图神经网络-李沐，GNN综述

    学习图神经网络的基本概念和理论。

  • 通过官方文档或者github了解PyG和DGL是如何构建图数据以及构建图神经网络， 选择性安装上述库。

  • 学习图数据的构建和特点：DGL: Graph & PyG: GET STARTED。

  • 学习图神经网络核心机制-消息传递:DGL: Message Passing | PyG: TUTORIALS。

    跟着实例，动手去写代码，注意去辨识DGL和PyG的库差异性(Graph-centric vs Tensor-centric)。

  • 完成一个算法库实战。

• 第二周

  • 继续学习上述，消息传递机制。

    查看文档公式和源码，使用PyG和DGL自己复现一遍GraphConv、GATConv、SAGEConv。

  • 完成源码复现。

回答下列问题:

• GraphConv中提到的公式和文档中的消息传递范式是如何对应的（指出消息传递范式中每一个符号对应公式的哪一个部分）。
• GATConv和SAGEConv中提到的公式，请做出相同的对应分析。
• SAGEConv里面提到的公式concat在源代码中应该是哪一行，分析二者的异同点。

• 第三周

  • 参考视频：图神经网络从入门到精通 选择性观看部分章节，进一步了解图神经网络的整个pipeline。
  • 也可以参考DGL官方文档的第3-5章节。
  • 了解GNN下游任务， 如节点分类、 链路预测和图分类等。
  • 在PyG和DGL上分别实现一个可以运行的demo。

• 第四周

  • 了解实验室两个算法库GammaGL和OpenHGNN。

    • GammaGL是一个同时支持TensorFlow、PyTorch、PaddlePaddle和MindSpore的多后端图神经网络算法库。用户可以用同一套代码支持不同的深度学习后端，并使用和PyTorch Geometric(PyG)相似的以张量为中心的编程风格。详细内容可参考Github、启智社区、论文。
    • OpenHGNN是一个基于 DGL (Deep Graph Library)和 PyTorch 的开源异质图神经网络工具包，集成了异质图神经网络的前沿模型。OpenHGNN提供了易用性和拓展性，帮助科研人员和工程师快速进行异质图相关的研究和应用。详细内容可参考Github、启智社区、论文。

  • 逐步开始阅读经典论文， 如GCN， GAT， HAN等。

第三个月至第五个月

• 了解各个算法库使用的后端框架。

• 使用算法库实现一个最简单的模型。

• 分配论文：

  • 阅读论文，了解论文的大致内容（摘要、背景、拟解决的问题和大致思路等）；
  • 对照论文的源代码，将论文的公式和代码内容对应；
  • 准备论文汇报PPT并汇报论文，一般不超过半个小时。

• 由负责同学带领，实现论文模型，达到论文的性能。

  • 根据论文和源代码，在指定平台上进行模型复现；
  • 运行实验，要求模型的性能基本达到论文性能；
  • 撰写模型文档。

• 找出算法库中设计不合理的地方，欢迎大家提出宝贵的意见。

如果您对该计划感兴趣，欢迎大家邮件至yaoqiliu@bupt.edu.cn。