4.3 面向企业风险智能分析的“人在回路”范式
当前复杂多变的环境下，企业往往生存和发展于各种风险和挑战中，提前对风险进行感知和预防是提高企业竞争力和维持可持续发展的重要手段。同时，企业间的连接越来越紧密，当一家企业发生风险时，风险很容易向其他正常企业蔓延，导致在关联公司之间引起连锁反应，严重时可能引发系统性金融风险。因此，企业风险智能分析受到越来越多专家和学者的重视。
随着人工智能技术的发展，机器学习、深度学习等模型被逐渐应用到企业风险分析上。以机器学习为代表的人工智能技术在特定领域任务已经表现出强大的信息处理和数据挖掘能力，能够有效地弥补人类分析决策中有限理性的局限。人工智能技术所具备的计算和感知能力，是模型与数据结合并以大量计算为特征所形成的机器智能，其在存储、搜索、感知和模式识别等严格定义的问题上性能表现优异，但在高级认知和复杂决策方面与人类智慧依然相去甚远。企业风险智能分析是一项高风险性的复杂管理任务，本身具有不确定性、非线性及动态性等内禀属性，仅依靠人工智能技术已经不足以应对风险智能识别和复杂管理决策中的挑战。为此，弥合风险智能分析任务的不确定性和机器模型能力的确定性，人类决策的鲁棒性和机器模型的脆弱性，数据分析的综合性和机器能力的片面性，是企业风险智能识别的未来发展新方向。
因此，本文构建了面向企业风险智能分析的“人在回路”新范式，引入人的智慧与决策，强调人、机器及数据之间的优势互补，
有机协作。同时，本文还分析了人类智慧与机器智能在“人在回路”新范式中具备的能力和发挥的作用，最后归纳出了人机协作的四种有效模式。
4.3.1 相关工作
（1）“人在回路”范式的相关研究
“人在回路”这一框架被提出用以提高系统的人机耦合性能，建立科学的人机协作机制。该框架尝试从更高维度设计混合智能管理系统，将人类真正融入系统构建、部署、决策的全流程中，并从机器智能的能力构建，以及引入人类智慧的人机协作模式构建两个层面切实推进人类智慧和机器智能协同合作，从而提高机器辅助决策分析的适用性和可靠性，解决面向更高层次的处理复杂问题的能力。
当前学术界对“人在回路”学习框架的相关研究主要是从以下三个方面展开，一是机器智能的能力构建，主要从性能、可解释性和可用性三个角度进行研究；二是人机协作模式的构建，主要从人类角色、交互接口和反馈方式三个角度进行研究；三是人类智慧和机器智能的任务分配，以财务规划、新的人机混合范式来预测强对流天气中的紧急决策、胸片诊断和皮肤癌诊断。
上述研究仍存在一些局限性。例如，当前研究主要针对机器学习任务流程中的某一环节提出人的介入，相关工作呈现碎片化，尚未有相关工作讨论全流程人类智慧的深度融合。另外，面向单一机器学习任务的基础能力构建，尚未有相关工作面向复杂决策系统提出灵活协作的“人在回路”范式。同时，在管理科学领域，面向企业风险智能分析的人机回路的协作范式也研究较少。
（2）基于人工智能技术的企业风险分析方法
早期对企业风险的预测与评估主要通过传统的专家判别法和数理统计模型，如 5P 原则、LAPP 原则、Z-score、Zeta 和 Logistic 回归模型等。随着人工智能技术的发展，机器学习模型逐渐被应用到企业风险预测上来。
基于机器学习的企业风险分析方法主要可分为两类，一类是基于企业自身属性特征进行建模。用于建模的数据仅和企业自身有关，比如企业的基本信息、财务指标、股权结构和年度报告等数据。常用算法主要包括支持向量机（SVM）、集成学习算法、决策树和神经网络模型等。近些年，为解决企业风险预测的动态性问题，循环神经网络及其改进模型开始广泛应用到风险预测中。另一类是基于企业的关联特征属性建模。由于企业及其相关主体（企业和金融机构等）间的依赖性日益增强，通过交易、担保、借贷等方式形成了错综复杂的关联关系，研究人员开始尝试以网络或图结构的形式表示这些企业关系，通过图表示学习等深度学习方法对这些企业关联关系进行表征，预测出目标企业的风险概率。
然而，企业风险的产生和发展是一个动态的过程，具有典型的非线性复杂系统的特征，其多层次和多重反馈特性使得企业风险识别变得异常复杂，动态性及关联性特点也增大了人们对风险预见规律的认知难度。单纯依赖端到端的机器学习模型得出的结论很难验证和可信，同时也很难通过统一的模型为企业给出一个确定的方案。
因此，本文构建了面向企业风险智能分析的“人在回路”新范式，将人类智慧引入企业风险智能分析这一高风险性、高不确定性的复杂管理任务中，通过人类智慧和机器智能的有机协作，实现对
企业风险精准、安全、稳定、动态的混合智能决策。
4.3.2 “人在回路”基本范式设计
“人在回路”新范式考虑以机器智能模块化的方式重新构建处理流程框架，如图 4-1 所示，从模型输入、中间结果、决策流程和优化目标等角度引入人类智慧，形成多模块和松耦合的学习框架，人和机器的关系是以人为核心，人指导机器，人机相互协作。其中，机器智能的参与过程可以总结为：①人对实际问题进行问题分解，转化成机器可以处理的任务，并将不同的任务下达给机器；②机器作为实现工具，完成被分配的任务后，将结果返回到系统中，由人类或其他模块进行后续处理；③人通过介入、调节、修正和反馈等方式与机器进行合作，将人类的经验智慧与机器的计算能力相融合，给出最后的判断。
图 4-1 “人在回路”范式的流程框架
“人在回路”范式下的机器智能由多个结构简洁、目标明确的
模块组成，每个模块负责单一的任务，模块间保持低耦合度。与没有人类智慧介入的机器智能的主要区别在于：①模型输入。不限于任务开始时接受的数据，而是将人的倾向性具体化到模块中。②模块输出的中间结果。需要根据置信度评估来选择决定是否交由人来协助处理，人也可主动选择调节不同模块的权重来引导模型或取舍结果。③决策流程。机器智能的输出结果不再是决策结果，而是候选决策，以及相应的支撑信息，如决策可信度和相关案例分析等，最终让人来决定最终决策。④优化目标。不再是单一的精准率等，而是模块间的耦合度、人的参与程度和系统运行的综合绩效等。
此外，能够实现与人动态交互的机制是“人在回路”范式的首要条件。人从外部进行的动态交互方式是丰富的、多元化的，每个模块需要按照实际输入情况设计人介入的接口，同时以参数设置等方式让人来选择当前是否介入和介入程度等。另外，我们拟引入反馈回路，将这些输入再次反馈给模型，加大对人类反馈的关注，进而提升模型的可信度。
4.3.3 “人在回路”范式中人类智慧和机器智能的能力
（1）人类智慧引导的机器智能模块协作能力
从“人在回路”的流程设计来看，人类智慧与机器智能的协作可划分为两个阶段的回路：线下开发回路和线上预测回路。
在线下开发回路中，需要预先设计和开发多种机器学习模型，以及多个自动化分析模块，关键在于将知识工作划分为离散的任务，降低模块间的耦合度。人可以根据实际使用场景对机器智能的功能模块进行调研和设计，根据功能和结构进行拆解，降低模块间的耦合度，使得每个模块的职责相对独立，形成工具化、模块化的机器
智能工具箱，提升算法的复用性和可拓展性。
在线上预测回路中，为了完成实际任务，需要选择的合适的模块组织起来，借助不同模型或者模块提供的信息，从性能指标、可解释性、可用性多个角度使模块组合达到最优。
（2）基于多策略的高效数据增长能力
目前在机器学习中，利用开源数据进行分析的瓶颈之一是缺少大量的标注样本，且获得高质量标注样本的成本很高。“人在回路”的范式通过人的介入与协作，缓解机器智能面临的小样本和低资源的问题，实现机器智能的高效数据增长能力，降低数据成本。在线下开发阶段，利用主动学习策略让机器主动优先选择最有价值的未标注样本进行标注，以尽可能少的标注样本达到模型的预期性能，用少量的人类工作参与达到高效的数据增长。人的介入，除了实施具体的数据标注，还负责不同标注策略的选择及迭代次数的控制。同时，对于多模态数据，应用数据增强策略来实现数据的多元化增长，在不标注新样本的情况下以不同的方式进行数据补全和扩充。
（3）基于迁移学习的应用任务拓展能力
在“人在回路”范式下，我们更希望将一个经过精心设计、训练完备且性能尚可的机器学习模型价值最大化，尽量避免由新任务带来的模型重构的时间成本和人力成本。因此，本文设计的“人在回路”范式，利用迁移学习的方法来提升模块的应用任务拓展能力。以企业风险级别预测模块为例，假设我们已根据有标记的原领
𝑖=1
域𝐷𝑠 = {𝑥𝑖, 𝑦𝑖}𝑛 构建并训练了一个用于预测企业风险级别的机器学习模型 Ma，然而随着时间的推移，受市场环境、相关政策变化等因素的影响，领域专家对企业风险等级的划分标准可能进行了更改，
𝑛+1
即产生新的目标领域𝐷𝑡 = {𝑥𝑖, 𝑦𝑖}𝑛+𝑚，此时数据分布和标签均发生了变化，𝑃(𝑥𝑠) ≠ 𝑃(𝑥𝑡)。基于迁移学习的思想，我们无需从头开始重新构建一个新的机器学习模型来应对这种变化，而是可以基于预先训练好的模型，借助𝐷s的知识，更快速地获得一个可用于新的目标域𝐷t下的企业风险等级预测任务的模型。迁移学习的思想保留了在企业风险预见场景中已经构建的模型的部分结构，将已有模型拓展应用到其他的相关任务中，增强了已有模型的应用价值，同时帮助机器和人更快速地完成新模块的实现。
4.3.4 基于“人在回路”的企业风险智能分析框架设计
我们将“人在回路”基本范式具化到企业风险智能分析这一任务中，得到图 4-2 所示的框架。
图 4-2 基于“人在回路”的企业风险智能分析框架
首先，人类根据企业风险智能分析场景的实际情况进行任务定义，拟定研究对象的企业类别、行业等，并确定任务的具体输出，如风险的类别、风险的等级等。其次，人类基于领域知识和专业经
验确定企业风险影响因素，指挥机器从合适的来源获取相应的开源数据，并在机器的辅助下完成数据标注和质量的管控。之后，人类根据企业风险智能分析任务的需要，构建多个低耦合的机器学习功能模块，并对每一个模块进行训练。在实际风险分析任务场景中，研究人员对功能模块灵活选择与组合后进行线上预测，模型将基于预测结果从风险预测准确度、资源成本消耗度、模块组合灵活度、人机协作适应度多维指标进行评估，并根据人类的反馈予以修改和提升。最终，经过迭代优化的机器智能模块作为工具，辅助人类做出合适的企业风险决策。
4.3.5 “人在回路”范式的人机协作模式
我们从“人”的角度出发，考虑了人机混合智能系统中人类智慧参与的多种差异，如介入时机、交互内容、扮演角色的不同等，归纳出组织型、监督型、决策型和合作型四种人机协作模式，在不同任务和场景中实现高度灵活的智能融合。
（1）组织型人机协作模式
机器在处理任务时具有单一性和特定性，更倾向于在小任务上达到“专”和“精”。而人擅长综合分析处理，因此，在图 4-3 所示的组织型人机协作模式中，人作为组织者，将项目分解成为多个特定的、具体的学习任务，交由不同的机器处理，从不同维度进行知识挖掘，将人的综合性和机器的单一性结合起来。而多种机器模型，则作为随需调用的工具包，支撑完成每个子任务。这种由人来完成任务设计与任务分配，将机器模型工具化、组件化的人机协作模式，是“人在回路”的机器学习范式的核心思想。
图 4-3 组织型人机协作模式
（2）监督型人机协作模式
机器智能的另一个局限性在于其对数据的敏感性，即轻微的噪声扰动也可能会干扰到结果的正确性。因此，监督型人机协作模式是将人引入进来作为监督者，在关键决策点给出专业判断。如图 4-4所示，该模式主要应用于两个阶段：①在线下开发回路中，人以数据标注、数据修正、数据反馈和结果分析等方式与机器协作，这个过程本身也是一个回路，旨在使用较少量的数据，使模型达到尚佳的性能。②在线上预测回路中，则面临的是信息量过大的问题，此时机器是处理海量信息的主力，人的介入主要是辅助筛选、甄别机器把握不准的信息，防止重要信息的遗漏。模型通过设置可疑性和敏感性指标，将超过阈值的结果反馈给人，由人来监督判断后，再返回给机器。
图 4-4 监督型人机协作模式
（3）决策型人机协作模式
人类常采用动态决策的策略，即根据情况的不断发展作出当前最合理的决策。而机器给出的结果是确定的，无法动态调整，我们将之称为机器对决策结果的脆弱性。实际上并不需要完全由机器作出决策，只需要将机器学习模型工具化，让它给出可选的决策候选集，最终的判断还是由人来把控，从而实现决策的动态性。在图 4-5展示的决策型人机协作模式。首先，判别出全流程中的关键决策点，确定需要人介入的位置。关键的决策点可能是中间节点，也可能是末位节点，目的在于通过人机协作来提升中间结果的可信度；然后，根据机器给出的置信度、以及动态环境的变化情况等，由人决定是否介入决策。当需要人的介入时，机器通过给出候选决策集、相似案例提示等信息支持，以生成最终决策。整个过程需要形成一套标准化的分析流程。
图 4-5 决策型人机协作模式
（4）合作型人机协作模式
机器学习，尤其是深度学习模型，在决策过程中的可解释性很难得到保障，造成人与机器合作的障碍。此时，如果人完全依赖于机器，容易引发自动化偏差的问题。
合作型人机协作模式考虑了人的自主权和纠错能力，保证决策的合理性，同时，需要把人在决策时的衡量因素传递给模型，提升模型在可解释性的方面的表现。如图 4-所示，在交互过程中，人以提供经验和知识的方式介入到机器学习的流程中来，这些知识可以首先由人整理，生成大规模的知识库或领域先验知识，然后通过学习或者互动的方式集成到模型中来；然后由人评估机器的表现，并生成反馈，以反馈的方式与机器连接，在迭代中不断改进。在不同的实践环境中，根据不同的任务分工，四种模式可以单独或是共同使用。这种灵活的按需组合使用的人机协作机制为人类提供自主权来指导、监督和反驳机器，可以增加算法的透明度，提升人的把控和对算法的信赖，防止由于算法的错误或偏差造成决策失误，实现人机共融和人机制约。
图 4-6 合作型人机协作模式
尽管当今人工智能技术发展的如火如荼，然而其蕴含的机器智能在解决复杂决策任务时存在诸多问题和局限，如对数据质量的高度依赖，预测结果缺乏可解释性等，在企业风险管理领域的实践中仍很大局限性。可见，在面对高级认知和复杂决策特点的企业风险智能分析任务时，人类智慧不可缺失。本文分析了“人在回路”的基本范式以及人类智慧和机器智能在该范式下发挥的模块协作能力、高效数据增长能力以及任务拓展能力。基于此基本范式，本文创建了面向企业风险智能分析任务的“人在回路”创新范式，使风险预见、感知和分析决策的关键机制更多的回归到专家知识和智能技术的自然融合。最后，本文还归纳出了“人在回路”范式的组织型、监督型、决策型和合作型四种人机协作模式，具有深刻的理论意义和广阔的应用前景。