在今天，大数据、人工智能、算法已经和我们的生活密切相关了，但这个算法到底是怎么样运作的，事实上普通人是很难知道的，只有很极端的案例出现时，我们才会发现其中的不合理。比如前段时间的河南发生的滥用权力随意赋予储户红码的事件。大多数时候我们对大数据是怎么运作的，只能是感到一头雾水，这个时候，算法就变成了“黑箱”。
“黑箱”这个词，原来是指飞机或者火车上的数据记录仪，但今天，也可以指一个神秘的运作机制，这就是算法。我们可以获得黑箱输入和输出的信息，却无法弄清输入数据在这个箱子中是如何变成输出数据。
网络图
打个比方，一家银行的理财经理向你推荐了一款理财产品，他告诉你，这是一款AI产品，也就是人工智能产品，听起来很厉害。很快你就发现，所谓的人工智能连银行活期存款也不能跑赢。
理财经理一定无法说清，这款产品到底是怎么运作的，银行里大多数的人也无法告诉你，除了设计产品的工程师，产品的核心就是“算法”，至于算法是什么，那可天机不可泄露。
再比如说，当你拿到某科技公司给你的信用评分400分或者500分，你不知道这究竟是怎么来的，但是一个糟糕的信用评分会让借款人损失巨大。一个猎头公司通过算法将某人归为“不可靠”或“高成本”，一个婚介公司通过算法将某人归为“优质男”，这都将改变一个人的一生。那么这些算法到底是怎么运作的，你可能永远不知道。
事实上，人工智能远没我们想象的那么智能，任何的算法都是人为在操作的，有人就有利益，要不然怎么会出现随意赋予公民红码的事件。
网络图
有个真实的案例：2012年，美国爱达荷州的数千位残疾人士收到通知，他们的医疗补助被大幅削减了，而做出这个决定的是卫生部门最新投入使用的一款高科技“预测工具”，这款软件自动计算出每个人应得到的财政支持。
4000名利益受到损害的居民开始了集体诉讼，此案耗时4年才得以尘埃落地。医疗补助团队强调软件算法属于“商业机密”，不得与外界分享。但法官并不买账，这款神秘的预算工具最终得以公诸于世，原来它并不是什么高端人工智能，也并非严格编写的数学模型，只不过是一个Excel运算表。
今天，算法越来越像是个看不清的黑箱，但是它所掌握的权力却越来越大，因此，在事关民生的领域，算法不应该是不透明的，它应该告诉普通人，这些究竟是按照什么原则怎么运作的，即便普通人看不懂，但只要公开受到公众监督，它才可能变得透明和公正。
策划：陈军 方薇