2019伊始 IBM研究院回望2018 AI亮点

70多年来，IBM 研究院一直在人工智能（AI）领域处于领先地位。近日，IBM研究院对2018年在AI方面的主要进展进行回顾，并用三个词加以概括：促进（advance）、扩展（scale）和信任（trust）AI。

从促进AI（Advancing AI）来看，IBM认为主要包括了“听懂”、“窥一斑而知全豹” 、“学生变教师”、“问题与解答”等维度的进展。

其中，能真正“听懂”的 AI的进展是 ：IBM研究院让AI的机器听力能够听懂辩论性的内容。该功能源于IBM的Project Debater，它能将当前的AI语音理解功能扩展到简单的问题回答之外，使机器能够理解人们的争论。“窥一斑而知全豹”主要体现在今天的AI方法通常需要数千或数百万个标记图像以精准地训练视觉识别模型。IBM研究院的AI 开发了一种新颖的“少数镜头”学习方法，该方法能够从少至一个的示例中精确地识别新对象，无需额外的数据或标签。此功能将AI的适用性扩展到数据受限的领域。对于“学生变教师”，两个人通常比一个人好，这个说法在AI代理上同样成立。今年，IBM研究人员首次提出了一种框架和算法，使AI代理之间能够学会相互教学和团队合作。通过交换知识，代理能够比以前的方法学得更快，并且在某些情况下，他们可以学会协调现有方法失败的地方。而关于“问题与解答”IBM 研究院的 AI 详细介绍了开放域问答（QA）方法的重大进展。通过采用了一种新的方法，该方法可以对跨多个段落的证据进行重新排序和汇总，以生成更准确的答案。此团队已经在公共开放域QA数据集上取得了相较此前最先进的方法的重大改进。

关于信任AI（Trusting AI）的进展，主要集中在“消除偏见的斗争”、打破“黑匣子”、预测对抗性攻击等。其中在”消除偏见的斗争“方面，随着AI系统越来越多地用于决策支持，AI系统必须做到公平、无偏见。然而，消除偏见是具有挑战性的，因为用于训练AI系统的数据通常包含固有的社会和制度偏见及相关性，这是通过统计学习方法捕获和概括的。IBM研究院的AI 介绍了一种消除偏差的新方法，训练数据在其中被转换以实现最小化偏差，使得后来从中学习的任何AI算法将尽可能减少不公平。在将此方法应用于两个大型公共数据集时，我们的团队能够大幅减少不必要的群体歧视，不会显著降低系统的准确性。关于“打破“黑匣子”方面，深层神经网络有很多黑匣子，即使当网络做出正确的决策，也常常难以理解做出这样决策的原因。这种固有的缺乏解释性使得用户对AI系统的信任造成障碍，并且难以推断潜在的故障模式。为解决这些问题，IBM 研究院AI科学家开发了一种名为ProfWeight的新的机器学习方法，它探测深层网络并构建了一个能够达到与原始网络相似性能的更简单的模型。由于它们降低了复杂性，这些更简单的模型可以提供有关原始网络如何工作以及它为何做出某一个决策而不是另一个决策的洞察。在两个大型数据集上测试这种方法时，ProfWeight模型能够产生更多可解释的决策，同时保持较高的准确性。在“预测对抗性攻击”方面。今天最先进的机器学习模型可以实现前所未有的预测准确性，但它们也很容易受到精心设计过的，被称为“对抗样本”的恶意输入的愚弄。例如，黑客可以在不知不觉中改变图像使得深度学习模型被欺骗以将其分类为攻击者期望的任何类别。从语音识别到自然语言处理，各种新攻击每天都在出现。作为防范这些攻击的关键步骤，IBM 研究院 AI 提出一种新的“攻击不可知、稳定性经过认证的方法，称为CLEVER（Cross Lipschitz Extreme Value for nEtwork Robustness），可用于评估神经网络抵御攻击的强度。CLEVER评分能够评估成功攻击、愚弄给定的深度网络模型所需的最小攻击“强度”，使得更容易推断AI模型的安全性，并为检测和防御部署系统中的攻击提供指导。

关于扩展AI（Scaling AI）的进展，主要体现在“8位 精度加速训练”、“新的模块化神经网络方法”、“触手可及的设计”等。其中“8位 精度加速训练”主要体系在深度学习模型非常强大，但训练它们需要巨大的计算资源。2015年，IBM发表了一份具有里程碑意义的论文，描述了如何使用16位精度（较常用的32位精度的一半）训练深度学习模型，同时又不会降低准确性。IBM研究人员首次证明能够以8位精度训练深度学习模型，同时完全保留所有主要AI数据集类别（包括图像，语音和文本）的模型精度。与今天的16位系统相比，这些技术将深度神经网络的训练时间缩短了2-4倍。尽管以前认为进一步降低训练精度是不可行的，但IBM期待8位精度训练平台在未来几年成为广泛采用的行业标准。关于”新的模块化神经网络方法‘’IBM认为，BlockDrop是一种加速深度神经网络中推理的新方法，它学习选择跳过深层网络的哪些层或“块”，从而在保持准确性的同时减少总计算量。使用BlockDrop，平均可以获得20％的推理加速，对于某些输入，可以高达36％，同时在ImageNet上保持相同的top-1精度。在“触手可及的设计”上IBM研究人员开发了一种新的神经网络结构搜索技术，可以减少设计神经网络所需的繁重工作量。该方法定义了称为“神经细胞”的重复神经结构模式，这些模式随后通过进化过程得到改善。这种进化可以设计出神经结构，在图像分类任务中实现最先进的预测精度，无需人为干预，在某些情况下，与以前的神经结构搜索方法相比，可实现高达50,000x的加速。

人工智能在2018年取得重大进展，预计明年人工智能行业将迎来更大的进步。面向2019，IBM研究院认为AI的三大趋势为：信任和透明将继续是AI热点。企业将应用新的去偏见技术，结合内部和行业道德咨询小组的指导，使产品和平台更加公平。“因果建模”技术的改进——直觉能够帮助人类理解因果关系，例如摁一下开关灯就会开，但它对机器而言却是一个巨大的障碍。明年我们将看到“因果建模”技术的改进，该技术将推动AI基于可能的行为从询问“发生了什么”变成询问“将会发生什么”。量子计算将进一步扩展AI模型—— 这是IBM继续推动量子计算在真实世界应用的一个重要探索领域。