Kaggle机器学习/数据科学现状调查

Kaggle 是互联网上最著名的数据科学竞赛平台之一，今年 3 月 8 日，这家机构被谷歌收购，6 月 6 日又宣布用户数量超过了 100 万人。最近，这一社区首次进行了机器学习/数据科学现状调查。在超过 16,000 名从业者的详尽答卷中，我们可以一窥目前业内的发展趋势。有趣的是，Kaggle 也将调查结果封装成了匿名数据集以供大家自行分析。

有史以来第一次，Kaggle 对人工智能领域进行了全行业深度调查，试图全面了解数据科学和机器学习概况。本次调查收到了超过 16,000 份回复，众多受调查者的数据向我们提供了有关从业者人群、业界最新动态以及如何进入该行业的洞见。以下报告包括本次调查的所有主要结果，其中包含的主要内容有：

虽然 Python 很可能是机器学习最常用的编程语言，但统计学家更多地使用 R 语言。

平均而言，数据科学家的年龄在 30 岁左右，但是这个数字在不同的国家有所不同。例如，印度的受访者要比澳大利亚的平均年轻 9 岁。

有关被调查者教育程度，最普遍的学位是硕士，但是工资最高的（$150k+）人群中，拥有博士学位的人稍稍多一点。

Kaggle 已经公开了该调查的匿名数据集，以供大家进行探究：https://www.kaggle.com/kaggle/kaggle-survey-2017。

如何定义数据工作者？

观察数据从业者的方式有很多，但本文将从有关数据科学从业者的工作和背景的人口统计学信息开始。

调查对象的年龄

如图可见，本次调查对象的平均年龄大约 30 岁，但这个值在各个国家之间有变动。例如印度的调查对象的平均年龄就比澳大利亚的小了 9 岁。

你目前的就业状况如何？

受调查者中，有 65.7% 表示自己有全职工作。

你的职位是什么？

尽管我们把数据科学家定义为使用代码分析数据的人，我们发现数据科学领域可涵盖的工作非常多。比如在伊朗和马来西亚，数据科学从业者最流行的工作头衔是「科学家或者研究者」。

你的全职年薪是多少？

中位数$55,441，不过由于很多人没有全职工作（收入为 0），所以这一数字不甚准确。尽管在我们的调查中「补偿和福利」的重要性排序稍微比「职业发展机遇」的低一点，不过知道什么是合理的补偿依然不错。在美国，一般机器学习工程师带回家最多的是培根。

131 个回复由于超出最大值而没有显示出来，但它们被算进了中位数。

你的最高学历是什么？

因此，你需要再获得一个学位吗？通常来讲，数据科学从业者中最普遍的学历是硕士，但是获取最高薪水（$150K - $200K 和 $200k+）的那些人多是有着博士学位。

被调查者的平均水平是数据科学家职称，30 岁左右，硕士学历，年薪$55,000 左右。但实际情况并不如此平均。这些最初的几个人口统计学问题只是展示了复杂的 Kaggle 数据科学社区在年龄、性别、国籍、工作职称、薪水、经验和学历方面的表层差异。

数据科学家的工作内容是什么？

我们把数据科学家定义为写代码以分析数据的一群人。他们的日常工作内容是什么？以下是我们的调查结果。

工作中使用什么数据科学方法？

Logistic 回归是工作之中最为常用的数据科学方法，不过神经网络使用更为频繁的国家安全领域除外。总的来说，数据科学中更常见的还是使用经典的机器学习算法，简单的线性与非线性分类器是数据科学中最常见的算法，而功能强大的集成方法也十分受欢迎。我们看到目前神经网络模型的使用频率要高于支持向量机，这可能是近来多层感知机要比使用带核函数的 SVM 更加广泛的表现。

工作中使用最多的语言是什么？

Python 是数据科学家最常用的语言，也是最常用的数据分析工具。不过，还有很多数据科学家仍然保持着对 R 语言的忠诚。

以上仅展示了 15 个回答，还有 38 个回答被隐藏。

在工作中常用的数据类型是什么？

关系型数据是开发者在工作中最常用的数据类型，因为大多数产业工程师都十分关注于这种关系型数据。而学术研究者和国防安全产业则更注重于文本与图像。

如何分享工作中的代码？

尽管很多受访者（58.4%）使用 Git 在工作分享他们的代码。但大公司中的开发者更倾向于将代码保留在本地，并通过像 Email 那样的文件共享软件来分享他们的代码。而初创公司可能需要在云中共享以保持更加敏捷的反应。

工作中遇到的障碍主要是什么？

脏数据（dirty data）显然是排在了第一位，也就是说数据科学家一般最常见的困扰就是需要对数据进行大量的预处理工程。除了数据预处理工程以外，还有很多问题困扰着数据科学家，比如说众多的机器学习算法各有各的擅长领域，所以理解它们的性能也会有一些困难。不过我们注意到向其他人解释数据科学是什么也会困扰着数据科学家，解决办法可以是推荐机器之心呀。

上图仅展示了前面的 15 个回答，还有 7 个回答没有展示。

此外，如果你们点击选择条件，那么就能按照条件过滤回答。很多行业的受访者表示他们缺少数据科学相关的人才，所以数据科学家目前是十分幸运的。

数据科学家新手如何入行？

当开始一个新的职业生涯的时候，看看别人的成功秘诀是很有帮助的。我们调查了在数据科学行业工作的人们，询问他们是如何做到的。以下是我们最喜欢的几条建议：

你们会推荐数据科学家新手最先学哪门语言？

每一位数据科学家都有自己的对选择第一门语言的想法。事实证明，那些仅使用 Python 或 R 语言的人们做出了正确的选择。不过如果你问一下使用过 R 和 Python 的人们，他们有两倍的可能会推荐 Python 给你。

你们使用哪些数据科学学习资源？

数据科学是一个快速变化的领域，有很多有价值的资源可以帮助你学习并保持业内的顶尖位置，从而不断提升你的竞争力。已经在数据科学领域中工作的人们会更多使用 Stack Overflow Q&A，Conferences 和 Podcasts，以对不断涌入这个领域的人们保持自己的优势。如果想要发布内容或开源软件，请时刻记住刚进入这个领域的人们通常更多使用官方的文档和观看 Youtube 视频。

你们在哪里获取开源数据？

没有数据，就没有数据科学。当需要学习数据科学技巧的时候，知道如何找到干净的开源数据集用于练习和开发项目相当重要。很高兴得知我们的数据集聚合器（dataset aggregators，https://www.kaggle.com/datasets）正发展为数据科学社区成员中最频繁使用的工具。

你们怎么找工作，怎么找到的？

找工作的时候，可能到公司网站上，或在指定技术方向的招聘信息上，但是根据已经在数据科学领域工作的人们的经验，这些方式是最差的选择。而直接联系招聘者或建立自己的网络以进入这个领域才是他们的首选。

Note：少于 50 名受访者的组别被合并进了「Other」类中。其中一些柱状图为了美观而做了缩放处理，希望查看所有问题和结果的原始数据可访问：https://www.kaggle.com/amberthomas/kaggle-2017-survey-results。