主体信息
知识蒸馏,模型压缩与教师-学生范式奠基。
相关人物
杰弗里·辛顿
Geoffrey Hinton 是多伦多大学名誉教授、Vector Institute 首席科学顾问,深度学习三巨头之一。剑桥与爱丁堡大学背景,1970-80 年代推动反向传播在神经网络的应用,2012 年与学生 Alex Krizhevsky、Ilya Sutskever 提出
Oriol VinyalsOriol Vinyals 是 DeepMind 研究副总裁,Gemini 大模型联合负责人。南加州大学(USC)博士(导师 Ron Parr、Yann LeCun 影响),曾参与 Seq2Seq、AlphaStar(星际争霸 AI)。研究方向覆盖序列到序列学习、强化学习智能体与
杰夫·迪恩Jeff Dean 是 Google 首席科学家。华盛顿大学博士,1999 年加入 Google,主导 MapReduce、BigTable、Spanner 等分布式系统,2011 年联合创立 Google Brain,后参与 PaLM、Gemini 等大模型研究。是 Googl