文章主题：人工智能, 管理人工智能, 信息技术管理, 数字创新管理
文献综述
编者按：
人工智能（AI）的广泛应用已经渗透至企业、产业和社会的各个领域，其独特的性质使得其在管理上与传统的信息与通信技术（ICT）有着显著的不同。管理AI涉及的关键决策涵盖了从制定人工智能战略到监督系统开发和实施的全过程，同时还需要借助AI进行客户分析、定位以及调整组织流程等操作。然而，在这一过程中，管理者将面临诸多挑战，例如技术方面的寻找高效的人机交互解决方案，以及克服信任难题等道德和伦理方面的问题，如保护劳工和消费者的隐私、确保公平性避免歧视等。因此，我们需要从AI的特性出发，深入探讨如何有效地管理AI。
在本期中，我们将深入探讨一篇发表在2021年的《MIS Quarterly》上的文献综述，该文主要针对管理人工智能这一主题，目的在于为读者提供一个全面且深入的理解框架。
管理人工智能
（Managing Artificial Intelligence）
摘要：
管理人工智能(AI)的出现,标志着信息技术管理进入了一个新时代。在这个领域中,管理者需要掌握并运用沟通、领导、协调和控制等技能,同时参考人类智能,来处理越来越复杂的问题。这就需要在推动人工智能性能和范围不断向前发展的工作中,对人工智能的三个特性做出决策——自主性、学习性和不可理解性。本文介绍了人工智能技术的发展历程,并探讨了本特刊中七项研究如何帮助我们深入了解管理人工智能的前沿。同时,我们也展望了管理人工智能未来的发展方向,以及信息系统领域学者可能在这个主题上发挥的作用。作为文章写作高手,我们需要表达出管理人工智能的重要性和挑战性,并介绍相关研究的成果和未来趋势,帮助读者更好地理解这一领域的现状和前景。
Abstract:
在人工智能（AI）的管理下，我们正在进入一个新时代的信息技术管理新时代。AI管理涉及与人类智能相结合，领导、协调和控制不断发展的计算领域前沿，以应对越来越复杂的决策问题。这包括在推进AI表现和范围方面，对自主性、学习和不可解释性等三个相关相互依存的人工智能方面做出决策。随着时间推移，我们展示了AI领域的边界如何发生变化，并解释了专题 issues 中包括了七个典型研究，帮助我们了解在AI前沿的管理方式。最后，我们推测了未来在管理AI方面的前沿领域，以及信息系统学科在探索和塑造这个未来中所起的作用。
1
研究问题
本文探讨如下两个问题：
1、 人工智能的特性是什么？
管理人工智能时有哪些挑战以及如何应对？
2
研究贡献
这篇文章以人工智能为基础，提供一个全面的定义，同时深入剖析了人工智能的三大独特特点。文章还讨论了管理人工智能领域的未来研究方向，旨在为信息系统领域的人工智能技术研究和战略/组织领域的信息技术管理研究做出贡献。
3
研究概述
在本篇文章中，我们将首先阐述人工智能的基本概念，接着明确人工智能领域的研究范畴，并探讨当代人工智能的三大特征。在此过程中，我们会回顾相关文献，以便更好地理解这一领域的发展。最后，我们将对人工智能特性对管理问题进行深入思考。
针对四个方面，作者进行了完善详尽的阐述：
1. 人工智能定义
这篇文章主张，传统观念中将人工智能视为一种过程而非现象。我们将其定义为计算科学领域的前沿，具备借鉴人类智慧的能力，以应对日益复杂的决定问题。这一定义主要突出了三个核心观点。首先，人工智能并非单一现象、技术或程序，而是一种理念，它是不断发展的现象的目标，而非现象本身。其次，这一定义强调了决策在理解人工智能在组织中的作用中的重要性，因为人工智能的本质是自主决策。最后，定义突显了人工智能与人类行为之间的联系，特别是在模拟能力方面，这既为管理带来了机遇，也带来了挑战。一方面，人工智能的模拟能力有提升劳动生产率的潜力；另一方面，这也引发了人们对安全和伦理问题的担忧。
2. 人工智能前沿范围界定
这篇文章强调了人工智能在计算领域中的领先地位，这并不意味着它在任何时间都是该领域的极限。事实上，人工智能正在不断地摆脱过去的计算方式，重新设定计算的新边界。随着这种新的人工智能计算的出现，它不再被视为前沿，而随着时间的推移，它变得越来越简单。因此，我们可以认为人工智能只是一种短暂且不断变化的现象，并始终明确地界定自己的边界。这一点在性能和范围两个维度上的演变尤为明显。
性能维度：应用人工智能的任务不断完善的执行。性能不仅与算法的进步有关，而且与原始处理性能的进步有关。这种计算能力直接影响了机器学习算法解决各种领域复杂问题的能力。随着人工智能技术性能提高，范围也在扩大。
范围维度：人工智能应用的不断扩大的环境范围。涉及人工智能的任务变得越来越普遍，不再局限于组织中的决策问题，已远远超过工作本身。
3. 人工智能的三个特性：自主权、学习、不可预测。
本文认为当代人工智能的形式在本质上不同于前几代，主要表现在三个普遍且相互关联的方面：自主性（Autonomy）、学习能力（Learning）、不可预测性（Inscrutability）。
◼ 自主性（Autonomy）：当代人工智能在没有人类干预下，自主行动的能力日益增强。人工智能做出自主决策，并以一种具有物质成果的方式在世界上行动。例如：软件控制的自动面试汽车等。
◼ 学习能力（Learning）：进行数据和经验进行归纳式自动改进的能力是人工智能的核心概念。近来大数据的可用性使深度学习和强化学习大规模进步。新发现的学习能力使人工智能能够进入更复杂的决策设置。
◼ 不可理解性（Inscrutability）：随着自主性和学习能力的进步，当代人工智能越来越有能力输出算法模型。这些模型只有特定人群能理解，在某些情况下，人类根本无法理解。
这三方面相互依存，相互促进。学习有助于自主，并从自主中获得结果。自主和学习都会带来不可预测的结果。
4. 人工智能三个特性可能带来的管理问题
◼ 管理自主权：人工智能本质上以新的方式帮助自动化和信息，随着技术的强大，管理者会将更多的权力下放给它们。人工智能与IT不同的之处在于人工智能越来越多地处理不是由人类直接委托的信息，实现真正的“自主代理”（autonomous agents）。它们通常由自己控制信息和根据自己的意愿做决定。随着人工智能自主性增强，人类与人工智能的互动呈现出各种不同的配置。一方面，人类以各种方式委托给自治的代理人。另一方面，自主代理可以指导、评估人类。人类与自主代理传统的互动关系为：技术更适合解决已被理解的问题，人类负责解决复杂性的任务。这种关系已经开始转变。人类与人工智能之间泾渭分明的界限正在模糊。人类与人工智能之间的互动可能是这个时代的关键管理问题。互动关系之前被称之为“增强”。虽然增强可以实现自动化，但是也有可能存在负面依赖效应，人类越来越依赖自主工具，当任务变得困难时可能产生有害后果。
◼ 管理学习：目前至少有两个关键问题与人工智能学习有关。第一，人工智能不再只是从专有数据集学习，而是以组织边界外的各种数据为基础，这会带来隐私、信任、知识产权、数据所有权等问题。用于人工智能学习的信息从人类明确的编码转变为与隐性知识相关的一般模式。理解隐性知识与机器学习之间的关系是管理者需要考虑的一个重要前沿。第二，在技术上用于基本操作的软件和硬件的进步，降低了人工智能学习的成本，它们越来越少地涉及人类的监督，从本质上消除许多领域的人类调解。
◼ 管理不可理解性（Inscrutability）：不可理解性是指与特定一方相关的人工智能程序的可理解性不足。不可理解性具备四个相互依赖的重点。第一，不透明性（Opacity）指算法缺乏可见性。例如一些先进算法的逻辑根本无法访问。第二，透明度（Transparency）是指算法所有者的公开程度或者公开意愿，以及这些所有者希望公开的数量。这是一个基于保密愿望的战略管理问题。第三，可解释性（Explainability）指的是一种算法至少能被某些人编码和理解。第四，可理解性（Interpretability）指的是特定人类可以理解算法在做什么。当人工智能被黑盒化时，通常会出现伦理问题。因此，管理不可理解性往往会出现许多与人工智能相关的伦理问题。
4
未来研究机会
如何处理于AI相关的实体物质（physical, tangible material）
如何管理基于对抗性学习的新算法
基于人工智能的不可理解性，管理者在不同社会背景下如何对人工智能做出合法、适当以及充分的解释
编后语
随着人工智能技术的迭代与成熟，人工智能受到了学者和企业的关注。在做人工智能技术的相关研究时，首先需要理解人工智能的定义以及其独特内涵，进而对话相应文献做出贡献。本文从管理人工智能的角度出发，给出了综合性的人工智能技术的定义以及其特性，对未来的研究具有一定借鉴意义。
文献来源：Berente, N., Gu, B., Recker, J., & Santhanam, R. (2021). Managing artificial intelligence. MIS Q, 45(3), 1433-1450.
文字：
董久钰，浙江大学管理学院博士生
（dongjiuyu@zju.edu.cn）
研究方向：数字创新管理
应震洲：浙江大学管理学院博士生（yingzhenzhou2011@163.com）
研究方向：数字创新管理
编辑：唐敏遐
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号AIGC666aigc999或上边扫码，即可拥有个人AI助手！
