2020年秋季：CS 3750 -机器学习高级主题
整合科学理论与机器学习

时间
Tuesday, Thursday
9:25AM - 10:40AM
Zoom Link: https://pitt.zoom.us/j/91677876958
Office hour: Thursday 8:20AM - 9:20AM, or by appointment

教练
Xiaowei Jia
Xiaowei (at) pitt.edu
www.solidneongames.com/~xiaowei
5413 Sennott Square

摘要：机器学习（ML）方法在从“互联网规模”数据中提取复杂知识方面取得了巨大成功。 鉴于机器学习（ML）方法在商业应用中的成就，人们非常有兴趣了解机器学习（ML）方法九游会论坛是否可以加速传统上通过（科学）物理模型取得进展的科学领域的知识发现。 本课程将系统探讨传统机器学习方法在应用于现实世界科学问题时的局限性，这些问题涉及具有非平稳和混沌行为的不完整/不完美数据。 为了克服它们的局限性，本课程还将介绍多种将物理知识与ML模型相结合的方法。 这些方法将使用来自不同科学领域的例子来说明，如气候科学、水文学、流体动力学、航空航天等。 我们的课程将通过课程j9九游会老哥俱乐部交流:九游会登陆和九游会论坛研究报告提供实践经验。
推荐：机器学习基础知识； 基本熟练掌握Python和Tensorflow/Pytorch。

分级策略: 50%的论文报告（各25%）+ 50%的课程j9九游会老哥俱乐部交流:九游会登陆

时间表

1. 08/20-08/27：课程概述及预赛
• 08/20, 08/25: ML review: classification, overfitting, neural networks (幻灯片, 视频1, 视频2)
• 08/27: ML applications in scientific domains (幻灯片, 视频)
2. 09/01-09/08：知识引导的模型架构
• 09/01: Reading 1: 装配中粒子阻力预测的物理导向神经网络
  Reading 2: SchNet：用于模拟量子相互作用的连续滤波卷积神经网络
• 09/03: Reading 1: 多分辨率卷积自编码器
  Reading 2: 从脑结构图像预测年龄的域引导CNN架构
• 09/08: Reading 1: 基于嵌入不变性的深度神经网络的Reynolds平均湍流建模
  Reading 2:面向湍流预测的物理信息深度学习
3. 09/10-09/15: ML损失函数的设计
• 09/10：阅读1： 物理引导神经网络在湖泊温度模拟中的应用
  
• 09/15: Reading 1: 基于物理和领域知识的神经网络无标签监督
  Reading 2: 多保真度物理约束神经网络及其在材料中的应用
4. 09/17:降尺度:
Reading 1: 湍流超分辨率重建的深度学习方法
Reading 2: DeepSD：通过单图像超分辨率生成高分辨率气候变化预测
5. 09/22-09/24：模型初始化和迁移学习
   • 09/22: Reading 1: 物理引导下的动态系统建模rnn：模拟湖泊温度剖面的案例九游会论坛研究
     Reading 2: 过程引导深度学习预测湖水温度
   • 09/24：阅读1： 从示范中学习交通信号控制
     
6. 09/29: Guest lecture: Process-Guided Meta Transfer Learning for Predicting Temperature of Unmonitored Lake Systems (Jared Willard) (视频)
   Dataset: 河流域, 湖建模, 交通预测, 幻灯片
7. 10/01:
Reading 1: 预测交流最优潮流：结合深度学习和拉格朗日对偶方法
Reading 2: 利用仿真和领域自适应提高机器人深度抓取效率
8. 10/06-10/08：其他建模方法
• 10/06: Reading 1: 改进区域地下水模型基流预测的数据驱动方法
  Reading 2: DR-RNN：一种用于模型约简的深度残差递归神经网络
• 10/08: Reading 1: 复杂动力系统中极端事件的数据辅助降阶建模
  Reading 2: 使用汤普森抽样的在线网络收益管理
9. 10/13-10/15：不确定度量化
• 10/13: Reading 1: 湖泊温度建模中不确定性量化的物理导向结构神经网络(PGA
  Reading 2: 多域非均质椭圆型偏微分方程的量化不确定性卷积神经网络
• 10/15: Reading 1: 物理信息神经网络中的对抗性不确定性量化
  Reading 2: 预测未来居民用电量的混合模型方法
10. 10/20-10/22：生成式ML模型
• 10/20: Reading 1: 在模拟物理系统的生成对抗网络中实施确定性约束
  Reading 2: TempoGAN：一种用于超分辨率流体流动的时间相干体积GAN
• 10/22: Reading 1: 深度生成模型中的编码不变性
  Reading 2: 利用卷积神经网络和形态感知生成模型改进非均质材料成像数据的直接物性预测
11. 10/27-10/29：逆建模
• 10/27: Reading 1: 卷积神经网络在成像反问题中的应用
  Reading 2: 基于残差编码器-解码器卷积神经网络的低剂量CT
• 10/29: Reading 1: 逆问题中的对抗性正则
  Reading 2: 用深度学习解决电阻抗断层
  Code example: https://colab.research.google.com/drive/1AlAE4ZAJFdGIVmnD8qS2bcW__Kz7szh5?usp=sharing
12. 11/03：发现和解决底层pde
    Reading 1: 利用深度学习求解高维偏微分方程
    Reading 2: 偏微分方程的数据驱动发现
13. 11/05：客座讲座：医疗保健中的ML。
14. 11/10-11/19：j9九游会老哥俱乐部交流:九游会登陆演示

其他资源

1. 数据集: 稍后通知。
2. 参考:
• 数据挖掘导论（教科书）。 Tan等人。
• 模式识别与机器学习（教科书）。 主教
• 理论指导的数据科学（调查）
• 基于物理的建模与机器学习的集成（调查）

学术诚信
所有提交的作业必须九游会论坛是每个学生单独的工作。 Students may not read or copy another student's solutions or share their own solutions with other students. Students may not review solutions from students who have taken the course in previous years. Submissions that are substantively similar will be considered cheating by all students involved, and as such, students must be mindful not to post their code publicly. The use of books and online resources is allowed, but must be credited in submissions, and material may not be copied verbatim. Any use of electronics or other resources during an examination will be considered cheating.

If you have any doubts about whether a particular action may be construed as cheating, ask the instructor for clarification before you do it. The instructor will make the final determination of what is considered cheating.

Cheating in this course will result in a grade of F for the course and may be subject to further disciplinary action.

Using an open-source codebase is accepted, but you must explicitly cite the source, especially following the owner's guideline if it exists. 对于j9九游会老哥俱乐部交流:九游会登陆中涉及的任何文字，严禁抄袭。 如果你不清楚你的作品九游会论坛是否会被视为抄袭，在提交或展示作品之前询问老师。

大学声明
如果你有残疾，你正在或可能要求住宿，我们鼓励你联系你的导师和残疾资源和服务办公室，140威廉·九游会论坛联盟，在412-648-7890或412-383-7355 （TTY）尽早，但不迟于学期的第四周，或尽早访问残疾资源办公室网站，但不迟于学期的第四周。 DRS将核实您的残疾情况，并为本课程确定合理的安排。