讲解最新的科技进展，报道硅谷大大小小的事件。
他开始了斯坦福的第一个深度学习课程，现在又沉迷于听课。
——
文|杜晨编辑| |VickyXiao标题来源|斯坦福大学网站
几年前，斯坦福大学的博士生安德烈·卡帕西(Andrej Karpathy)做了一件AI界非常推崇的事情:他在学校开设了一门深度本科课程，并将所有视频免费提供。
作为深度学习的早期研究者和教育者之一，卡帕西赌对了方向。经过十多年的快速发展和技术创新，深度学习技术目前已经驱动了搜索、图像识别、社交网络、工业自动化、自动驾驶等多个关键领域和行业。
由于其出色的研究成果，卡帕西本人也成为了应用AI技术发展的受益者。他走出学术界进入业界的第一份工作是特斯拉的特斯拉担任AI部门总监，领导自动驾驶的RD和整个特斯拉自动/辅助驾驶技术项目，带领公司进入机器人等更多前沿领域。
上个月，卡帕西宣布正式从特斯拉离职。
当人们还在关注他接下来的去向时，他却出人意料地“重操旧业”，当起了“老师”。
/把“锤子”交到大家手上/
就在上周，卡帕西重新启用了已经注册多年但从未使用过的YouTube“小号”，并发布了一个2.5小时的教学视频，题为“手拉手带你穿越神经网络和反向传播:构建micrograd”。
他说，这个视频是迄今为止关于反向传播和神经网络构建工作的最低门槛和最全面的解释。他还声称，只要观众对Python有基本的了解，记得高中水平的一点微积分，就可以轻松上手:
“如果我看完不知道反向传播和神经网络的核心，那我就活吃鞋”
图片来源:安德烈·卡帕西
通过这门课程，Karpathy利用基本的Python编程方法和自己的Micrograd引擎，完成了神经网络构建、损失函数编写、手动调优等基本操作，并在过程中系统地介绍了反向传播等关键知识。
至于授课风格，卡帕西也很理解当代年轻工程师写代码时的烦恼，并贯彻了“说的便宜，给我看代码”的理念:全班大部分时间，他基本都是自己播报屏幕，手把手教大家写代码...
图片:安德烈·卡帕西/YouTube
卡帕西在多伦多大学和斯坦福大学学习，杰夫·辛顿和李菲菲教授是深度学习的领导者。他也是OpenAI的创始成员之一。曾在早期的Google Brain、Google Research、DeepMind等知名研究机构实习。
作为深度学习领域的知名学者和实践者，卡帕西频繁出现，经常在CVPR和NeurIPS等知名学术会议上发表论文和演讲，也是NVIDIA Geforce技术大会的主要发言人。
相当搞笑的是，2014年，他在ImageNet挑战赛中用自己的“血肉之躯”挑战了一个卷积神经网络并获胜，因此被学术界和工业界戏称为ImageNet的“人类标杆”。
图片来源:安德烈·卡帕西
但是，很多人印象最深的还是卡帕西，他们最感激的是他在博士期间做的一件大善举:
建立了CS231n，斯坦福首个本科生深度学习课程。
图片来源:斯坦福大学Andrej Karpathy
CS231n以计算机视觉为主攻方向，深入浅出地探索深度学习技术。创建第一年，共有150名学生报名，2016年翻了一番，次年又翻了一番。目前，这门课程已经成为斯坦福所有院系中最受欢迎的课程之一。课程的TA有16个学生；与卡帕西一起创立这门课程的李菲菲现在仍然是主讲人。
更重要的是，从创建课程的第二年起，卡帕西就将CS231n的所有教学视频、讲义、作业、笔记等相关资源公开化，放在互联网上。不仅仅是报名的学生，其他高校没有报名的学生，甚至世界上任何人，只要有网络，都可以免费听课。
五年后，随着Udacity、Coursera等公司的成立，“海量开放在线课程”的概念早已广为人知。在这些知名公司的平台上，也有很多计算机科学和机器学习的课程。
但CS231n的horizontal 空的问世，尤其是其更加先进、实时的课程设计，以及不带任何商业味道的开放性，使其成为向全社会普及前沿深度学习技术的关键节点。
图片来源:斯坦福大学Andrej Karpathy
至于为什么要免费提供课程，卡帕西曾表示，他当时强烈地感觉到，深度学习将成为一项革命性的技术，它有望广泛应用于社会的方方面面，就像一把有用的锤子。
但在那个年代，很多人连锤子都买不起，更别说知道它的能力和用法——是他决定站出来，做那个免费赠送锤子的人。
这门课程最有趣的经历是，它没有一个永远不会偏离的预定课程:
“课堂上的其他科目可能是关于19世纪的知识。在我们班上，我们今天经常谈论的论文都是上周甚至昨天才发表的，”卡帕西说。“我们不是在说核物理，也不打算空。你只需要微积分和代数的基础知识，就可以理解我们的课程，了解和掌握目前正在发生的新事物。每次课程都在变，感觉很不一样，但大家都很享受这种体验。”
由于卡帕西在课程创建时还是一名博士生，当老师确实占用了他大量的时间和精力。一年教两次，每次四个月，一次课，他要投入120%的精力，连博士学位相关的研究工作都要坚持下去。
"尽管如此，我仍然认为这门课程是我博士学习的亮点."
安德烈·卡帕西图片来源
如果单纯浏览卡帕西的简历，大多数人可能不会认为他是一个教学型学者。但其实他真的很热衷于传道授业，尤其是分享自己的学习成果和掌握技能的独特经验。
他曾经在读博士生时写过一些经验之谈，发表在斯坦福官网和他的个人播客上。比如对于准备考试的本科生，他诚恳地告诫大家“熬夜不值得”、“多找ta”、“备考前期自学，考前多交流”等等。对于正在纠结要不要读博的学生，他写了一篇一万字的《博士生存指南》，从前期准备、导师选择、研究课题、著作发表、学术演讲等方面分享了很多指导思想和具体经验...
图片来源:安德烈·卡帕西
如果你觉得他只讲深度学习，那你就看不起别人了:
对于非专业内容，他也会利用业余时间做长期的、系统的研究和测试，然后写文章。比如他曾经在GitHub账号上写过一篇关于“生物黑客”的文章，分享了他在体育锻炼、禁食、验血、物理医学、睡眠研究等方面的测试经验。
鲜为人知的是，卡帕西也是专业的魔方老师...
在解魔方的过程中，他有一个叫巴德梅菲斯托的另一个自我。他有一个专门教授魔方知识的网站，做了一个教你如何解魔方的app，在YouTube上上传了大量的教学视频，总浏览量超过900万次...
哥哥真的上课上瘾了...
卡帕西在谷歌实习期间通过内部渠道获得了一副谷歌眼镜，并在自行车上录制了这段解魔方的视频动画。资料来源:安德烈·卡帕西
/AI大佬爱讲课/
值得注意的是，不仅是卡帕西，深度学习/AI领域的大佬级人物，都特别爱“讲课”。
这么说有点无厘头文学...因为这些老板很多都有知名大学的固定或终身教职，而且一些进入行业的人之前都有很强的学术和教学背景。然而，即使他们现在忙于行业内的高职位，他们仍然对深度学习知识的传播和普及充满热情。
比如多伦多大学卡帕西的老师杰夫·辛顿教授。他是反向传播等深度学习核心算法的发明人，深度学习领域“三剑客”之一，图灵奖获得者。有一段对他的评价:当别人还在质疑机器/深度学习的时候，辛顿在多伦多默默教学，同时继续推进自己的研究，最终靠自己复兴了机器学习研究和产业，是深度学习之父。
自2013年DNNResearch被谷歌收购以来，Hinton一直在谷歌担任职务，但实际上他的主要研究工作是在多伦多大学计算机科学系。虽然这几年他对常规课程谈的不多，但还是花了很多时间和精力指导学生学习，参与论文写作。而且他还参与录制了一些深度学习神经网络的免费在线课程。
截图:Coursera
三剑客的另外两位成员Yoshua Benjio和Yann LeCun也有自己的教职。
本吉奥是蒙特利尔大学的教授。他还创建了Mila人工智能研究所，并担任科学主任。他仍然在学校和Mila研究所领导和指导大量的研究生、博士生和博士后研究人员。他经常参加各种外部机构的讲座和教学邀请，后续的视频会在网上发布。
LeCun是meta的副总裁兼首席人工智能科学家，也是纽约大学电气和计算机工程系的教授。他曾真诚地说，他可能无法及时查看和回复学校的邮件和电话留言。然而，至少在去年，他在纽约大学的数据科学中心教授与深度学习相关的课程。此外，由于疫情等原因，乐存在NYU教授的深度学习课程——CDS将于2020年全部完全上线并免费公开:
回到中国，腾讯人工智能实验室的前主任张彤也是一个有趣的例子，他在几年前离开了学校去教书。他是机器学习领域的国际知名专家。他曾在美国大学担任终身职位，在IBM研究院、雅虎研究院、IDL担任研究和管理方面的高层职务，也是ICML、NIPS等一系列国际顶级学术会议的主席或域主席。
不过，或许是因为更享受这里的教学和学术环境，张彤在2019年初离开了腾讯AI实验室，来到了HKUST数学与计算机科学工程系，直接拿到了为成绩突出的学者设立的讲座教授资格。
当然，他并没有完全离开这个行业。他在HKUST和创新工厂之间架起了桥梁，并帮助这两个机构建立了一个联合实验室，专注于基础科学研究。现在，他在HKUST大学做研究和带学生。这学期还教了COMP6211E和MATH6450J两门机器学习优化相关的课程。
这些热爱传道、授业、解惑的顶尖学者向我们展示，即使在当今高度商业化的时代，一项技术、一门知识，仍然可以通过经典的教育形式和“免费在线课程”的创新手段，更高效、更公益地普及。
这样的大佬，请多来，不要停。
免责声明：本平台仅供信息发布交流之途，请谨慎判断信息真伪。如遇虚假诈骗信息，请立即举报
举报
