< 上一个 | 内容 | 下一个 >
5.5.3 发展可信可控的神经网络模型
目前的神经网络模型普遍基于纯粹的数据驱动学习范式，学习得到的模型以黑盒的形式工作，不具备可信性和可控性。研究者在报告中表明大模型可以通过伪装的方式欺瞒人类以达成目的。虽然科研人员通过人机价值观对齐等方式来降低风险，但是大模型的强大能力和种种不可控的表现仍然引起了越来越多国内外研究者的强烈担忧。发展可信可控的神经网络模型将是未来研究中最为重要的目标,也为神经网络的数学原理提出了更具挑战的目标。