人工智能伦理学家的职业或工作机会

聚光灯

类似标题

人工智能伦理专家、人工智能伦理顾问、人工智能伦理官员、人工智能伦理标准分析师、人工智能政策与伦理顾问、人工智能治理专家、人工智能责任发展经理、人工智能伦理决策顾问、人工智能伦理与合规官员、人工智能伦理框架开发人员

工作描述

人类是有缺陷的、有偏见的、充满矛盾情绪的集合体。我们经常做出错误的决定，往往在这个过程中伤害了自己或他人。那么，当人们试图构建人工智能程序，让它像我们一样思考和行动时，会发生什么呢？

人工智能就像一个孩子，它会吸收我们传达给它的一切信息，包括好的、坏的和丑陋的。我们提供给人工智能模型的数据中，即使不是大部分，也有很多是我们人类自己的观点、偏好和偏见。然而，我们却期望人工智能的输出--它的反应--是客观的、合乎逻辑的和不带偏见的。

我们希望人工智能在某种程度上比我们更好。这怎么可能呢？与孩子不同，人工智能并不是真正有知觉的。它（还）不能真正独立思考，也不能识别自己什么时候做 "错了"。微软的必应人工智能就是一个例子，它开始"侮辱他人、欺骗他人，甚至在情感上操纵他人"。

这些问题正变得越来越普遍，但有越来越多被称为人工智能伦理学家的专家正在解决这些问题。正如德勤所解释的那样，"人工智能伦理学家......的主要职责是在人工智能系统的设计、开发和部署中加入伦理、社会和政治视角，从而改进人工智能的工程方法。其他主要职责包括就人工智能的伦理实践提供建议，防止行为不当的人工智能产生意想不到的后果，以及确保人工智能相关决策和行动的问责制"。

职业生涯的回报

帮助改进人工智能系统，更好地为人们服务
在一个变革性行业工作，该行业有可能在许多方面改善人们的生活
丰厚的薪酬和良好的就业前景

内幕消息

工作职责

工作日程

人工智能伦理学家全职工作，根据目标和时间安排，可能需要加班。他们的工作在室内进行，但可能需要偶尔出差。

典型职责

创建、评估和实施负责任的人工智能 (RAI) 实践和工具
评估与 RAI 有关的组织准备情况
与团队合作，在人工智能模型开发过程中纳入伦理考虑因素
对用例和系统进行伦理分析
分析各种伦理问题，如偏见、隐私和自主权
开展学术研究并撰写论文概述研究成果
制定人工智能开发和部署的道德框架
为政策制定者和利益相关者提供有关伦理影响的指导和教育
帮助制定标准和最佳做法
确保人工智能模型的行为符合既定的道德原则和价值观

额外责任

RAI 项目咨询
编写培训材料
与跨职能团队合作解决问题
保存完整的程序文件
了解行业的最新进展和趋势

工作中需要的技能

软技能

适应性
分析性的
协作
沟通技巧
创造性
批判性思维
注重细节
纪律严明
富有同情心
伦理
独立的
诚信
循序渐进
有组织的
病人
演讲技巧
解决问题
健全的判断力
团队合作
时间管理
写作技巧

技术技能

了解人工智能技术，包括机器学习算法、自然语言处理和计算机视觉
数据分析方法和程序
编码常识（如 Python 或 R）
熟悉数据隐私法律法规
网络安全原则
以人为本的设计原则
人工智能系统风险评估

不同类型的组织

私营商业企业
人工智能研究公司
大学

期望与牺牲

人工智能伦理学家的工作范围相当广泛。他们负责制定伦理框架和准则，并进行全面、客观的评估，以确保人工智能模型以合乎伦理的方式行事。这涉及大量跨学科合作，有时会出现分歧甚至冲突。

正如西伦敦大学的保拉-博丁顿（Paula Boddington）博士所指出的，人工智能伦理 "要求我们不断质疑我们的伦理决定是否正确"。人工智能伦理学家必须保持正直和坚定，同时识别他们认为存在的伦理风险，例如有偏见或歧视性的人工智能模型行为。他们必须诚实，有时要告诉决策者和利益相关者他们可能不想听的话。

当前趋势

最近，人工智能（如 ChatGPT 和谷歌的 Bard）凭借其令人印象深刻的一系列能力掀起了波澜。事实上，许多技术领导者现在都在敲响警钟，担心事物发展得太快，没有足够的防护措施来保护公众或企业。

例如，存在版权问题，因为谁 "拥有 "人工智能程序的作品？人工智能伦理学家也会为意外泄露敏感信息而寝食难安，比如人工智能无意中泄露了受保护的私人数据。

由于复杂的人工智能生成模型的冲击，许多职业领域都受到了威胁，但这只是人们提出的众多担忧之一。人们对人工智能怪异行为的担忧也是有道理的，比如必应的人工智能进入了"强迫性跟踪 "模式。这些有害内容只是人工智能可能出问题的冰山一角。不乏神经质的末日预言家，他们认为人工智能是对人类生存的威胁，就像《终结者》电影中的天网一样！

从事这一职业的人在年轻时喜欢做什么样的事情......

人工智能伦理学家可能从小就热衷于技术。他们可能对数学、计算机编码、编程语言甚至黑客感兴趣。同时，他们也可能喜欢分析问题或阅读哲学、社会问题或公共政策方面的书籍。

团队合作是这一职业领域的重要组成部分，但人工智能伦理学家有时也必须愿意在出现分歧时独自发表不同意见。他们的工作就是确保人工智能的道德操守。这种坚持正义的能力可能是通过童年的经历培养出来的。

需要的教育和培训

需要的教育

人工智能伦理学家确实需要大学学位，但工作资格要求各不相同。没有一个特定的学位或学位等级（如学士、硕士、博士）适用于每一个人工智能伦理学家职位。
热门专业包括哲学、计算机科学、法律、心理学和社会科学。
拥有高级学位会有所帮助，但拥有广泛的相关教育背景也很重要

例如，雇主可能希望应聘者拥有计算机科学学士学位（侧重于人工智能）和哲学硕士学位（侧重于应用伦理学或道德哲学）。

雇主还希望应聘者具有与人工智能开发、决策和研究相关的实际工作经验。有些雇主可能还希望应聘者具备自然语言处理、机器学习和大型语言模型方面的经验。
常见的课程主题包括

人工智能与政策
人工智能与社会
人工智能伦理与哲学
人与人工智能的互动
人工智能的法律问题

学生还可以自学或通过课程学习Python等编程语言
Class Central提供一系列免费人工智能伦理在线课程的详细信息
还可以查看 Coursera 提供的课程和认证服务，如《人工智能：概述》专业课程。

德勤公司指出，要找到一个具备所有必要资质的候选人非常困难。"试图找到一个在所有这些领域都拥有可靠经验和知识的人实际上是不可能的。相反，企业应该采取团队合作的方式来处理人工智能伦理问题，通过学习如何无缝协调和整合来自不同专业专家的见解，来实现所需的多学科能力和经验。"

在大学中需要注意的事项

首先，确定自己的主修专业。哲学和计算机科学是热门专业
查看学校专门针对人工智能伦理开设的课程
考虑双学位或联合学位课程（学士学位和硕士学位一起攻读），您可以根据最适合人工智能伦理工作的情况来调整自己的学业。
查看该计划的毕业生就业统计数据
考虑学费、折扣和当地奖学金的机会（除联邦援助外）。
在决定报读校内课程、在线课程或混合课程时，请考虑您的时间安排和灵活性！

高中和大学里的事情

注册计算机科学、编程、英语、写作、辩论、修辞、哲学、商业法、社会科学和公共政策课程
想方设法培养团队合作、项目管理、解决问题和解决冲突的技能
从Coursera、Udemy、微软、DeepLearning.AI 和其他网站选修人工智能相关在线课程
通过与 NLP、ML、LLM 和/或编程相关的兼职工作获得实际经验
开始制作简历，并在学习和积累工作经验的过程中对其进行补充
提前查看招聘信息，了解平均要求是什么。人工智能伦理学家职位的教育要求可能不尽相同
要求与在职的人工智能伦理学家进行一次信息访谈。询问他们的教育之路，以及他们可能采取的不同做法
列出您的联系人名单（包括电子邮件地址或电话号码），这些人可能会成为您未来的工作推荐人
阅读书籍和文章，观看有关当前人工智能伦理挑战的视频
参加在线论坛辩论和讨论。在人工智能社区内建立联系和社会资本
参与专业组织的活动，学习、分享、结交朋友、拓展人脉。可以考虑加入的组织包括

典型线路图

如何找到你的第一份工作

完成相关学位，如计算机科学或哲学，侧重于人工智能伦理
在申请之前，尽可能多地获得NLP、人工智能、法学硕士等方面的实践经验
如果你的大学课程没有提供足够的相关课程，可以通过选修与人工智能伦理相关的特别课程来充实你的简历
查看就业门户网站，如Indeed、Simply Hired、Glassdoor、AI-Jobs.net 和The AI Job Board 。
注意招聘启事中列出的教育和经验要求，并记下可在简历中重复使用的关键词。关键词可包括

人工智能审计
人工智能技术
解决冲突
批判性思维
跨职能合作
数据隐私和安全
决策
新兴技术
伦理分析
制定道德框架
解决问题
项目管理
遵守法规
研究与评估
风险评估
透明度和问责制

查看在线人工智能伦理学家简历模板并查看潜在的求职面试问题
向学校的就业中心咨询，以获得撰写简历、进行模拟面试、学习如何着装以获得面试成功的帮助，以及寻找招聘会的帮助。
向在职的人工智能伦理学家请教求职秘诀！
向你的学术顾问、教授和导师请教有关开创事业的建议
让你的关系网知道你在找工作！大多数工作仍然是通过熟人找到的，因此请开始利用你的社交资本！
搬迁到有工作的地方。根据Versa Networks 的统计，人工智能领域招聘人数最多的州是：加利福尼亚州、德克萨斯州、纽约州、华盛顿州、弗吉尼亚州和马萨诸塞州：加利福尼亚州、德克萨斯州、纽约州、华盛顿州、弗吉尼亚州和马萨诸塞州
请求允许在求职申请中将某人列为个人推荐人
在 LinkedIn 上建立个人档案，开始撰写有关人工智能伦理的文章！

如何爬梯子

了解正确的人工智能模型训练的重要性，以及一旦出错给企业带来的后果。谷歌母公司Alphabet的 Bard 聊天机器人一经推出......就给出了错误的答案，几乎在一夜之间损失了 1000 亿美元的市值。
与此同时，必应在开发出名为 "悉尼 "的奇怪另一个自我后，不得不对其人工智能进行控制
遵循并认真记录程序，确保一致性和准确性
询问你的雇主，你可以提高哪些技能来更好地满足他们的需求。这可能是一个更高级的学位，也可能是一个证书，或者只是一些额外的课程。
展示高尚的道德价值观、诚信和商业头脑
与同伴有效合作，但不要屈服于同伴的压力。专注于解决问题
全面培训新的伦理学家，但也要倾听他们的观点。保持开放的心态，因为这一领域有许多主观因素（毕竟它植根于哲学！）。
与专业组织保持联系，了解最新突破。人工智能发展日新月异，世界各地的团队正努力将其推向更高水平
不要只关注当前的问题。预测可能出现的增长问题或潜在问题，并制定应急计划！

随着人工智能的不断发展，人类应该如何对待它？人工智能最终会达到具有自我意识的程度吗？如果是这样，我们会相应地对待它......还是仅仅把它当作一个程序而不是一个有生命的创造物来利用？

长期以来，科幻小说家们一直对这些问题耿耿于怀。从艾萨克-阿西莫夫（Isaac Asimov）的小说《我，机器人》（I, Robot）到《星球大战》（Star Wars）中对 C-3PO 等机器人的歧视性待遇，人工智能生命体的前景往往被描绘得黯淡无光。星际迷航：下一代》（Star Trek: The Next Generation）在"一个人的尺度"（The Measure Of A Man）一集中详细探讨了这一伦理前沿问题，在这一集中，飞船舰长皮卡德必须 "证明戴达（具有自我意识的机器人）在法律上是一个有生命的存在，根据联邦法律享有权利和自由......"。

推荐的工具/资源

网站

书籍

人工智能伦理》（麻省理工学院出版社基本知识系列），马克-科克尔伯格著
人工智能的伦理学》，廖世昌著
牛津人工智能伦理手册》，作者 Markus Dubber、Frank Pasquale 和 Sunit Das

B计划

成为人工智能伦理学家的道路并不像大多数职业那样一目了然。随着人工智能技术的不断进步，情况可能会发生更大的变化。如果你想从事与技术相关的工作，但又想考虑一些其他选择，请查看以下选项！

人工智能提示工程师
大数据工程师
商业智能开发人员
计算机硬件工程师
计算机程序员
计算机系统分析员
数据库架构师
数据科学家
信息安全分析师
数学家
机器学习工程师
机器人工程师
软件工程师
软件架构师
网络开发员

新闻联播

编辑 Gladeo

人工智能伦理学家

聚光灯

新闻联播

特色工作

在线课程和工具

类似职业