周涛：大数据最大的挑战是伦理问题

　　新浪财经讯 “新莫干山会议·2017”定于2017年9月15-17日在浙江省德清县莫干山举行，主题为“科技创新与社会变革”。电子科技大学教授周涛出席致辞。他指出，表面上看，技术是中立的，不会带来偏差，但实际上这些设计和数据背后可能会带来很大的偏见。互联网上的歧视也有很多。比如你在互联网上买东西，如果你总是喜欢按价格排序，总是倾向于去点击收藏购买那些最便宜的东西，那个性化推荐系统推荐给你的全部都是特别便宜的商品。这背后是价格和经济上的歧视，系统会认为你很穷。

　　以下为演讲实录

　　周涛：在大数据时代，我们面临的最大矛盾，就是可获取数据总量的爆炸性增长和普通人分辨甄别数据的矛盾。亚马逊上有500万本书，淘宝上有12亿单品。人类是通过几百万年的时间，才慢慢适应从一个树上活动的猴子变成在大地上行走的人，但是短短半个世纪，我们从一个信息匮乏的社会，变成信息极度充裕的社会。不管从身体，还是大脑，我们其实并没有做好在一个高度信息化社会生活的准备。与其说我们是信息的主人，我们去驾驭这些信息，不如说我们很多时候是出生的婴儿，我们被互联网、服务机构、中介一勺一勺的喂下去这些信息，但我们不知道这些信息背后到底哪些是营养，哪些是副作用。

　　所以今天我们讨论的问题，是看我们这一代人是否真正做好了进入大数据时代的准备，还要做什么样的准备？在我看来，大数据时代，或者我们说未来数据时代，带来最大冲击和挑战，还不在于数据的安全和隐私，而是在数据可能带来的伦理问题。

　　我给大家讲两方面的东西，第一方面，我想谈一下数据中立性的问题。我们表面上看起来，技术应该是中立的，它本身不会带来偏差。实际上这些设计和数据背后可能会带来很大的偏见。举个例子，这是半个多世纪以前，美国有一个设计师叫罗伯特·摩西斯，这个人有一定的种族歧视，但在那个时代很常见。他在给纽约城市做设计，过两边桥口都有一个低矮的桥，这个口实际上是公共汽车过不了，只有私人小轿车才能过，而那个桥又很长，这就使得往往穷人乘坐公共工具，他们是到不了这些公园，这些公园则变成了能够乘坐私家车的富人之地。

　　虽然说它没有把歧视写进某个文件中，但这个设计本身就使得歧视嵌入在城市中。在五六十年前在美国这种歧视是非常常见的，但现在是不得了的歧视。

　　那互联网上比这个还要更隐讳的多。我是从2007年开始做一些个性化推荐的工作，个性化推荐，其实不是一件神秘的事情，他本质上就是去看，一个人原来的消费记录和他消费的习惯，去判断他喜欢什么东西，忍受什么价格，然后给他们推荐。在个性化推荐中，对一个人会给出充分的画像，其中很重要一块就是价格敏感度，就是这个人对价格是不是很敏感。

　　大家可以想像，如果一个人，他平时很穷，或者就像学生党，一般没什么钱。那我在搜索一个类型的商品之后，我总是喜欢按价格排序，总是倾向于去点击收藏购买那些最便宜的东西。如果我长期有这样的习惯，将来你搜索任何一个东西，因为你在系统中价格敏感度这个维度得分特别高，所以你能看到，所有推荐给你的，和你看到前N页全部都是特别便宜的。这是一个小事情，但是它的背后其实代表着是，我根据计算机表面上做起来是非常中立，我是为了提高你的点击率做了这个判断，实际上他背后带来是价格和经济上的歧视。比如LV店门口挂一个穷人与狗不得入内，肯定会被砸掉，但是互联网上这些歧视会隐讳的多。

　　我们假象，走到一个城市里面去看，我们如果需要设计一日游一条线路，很多时候我们都把它交给计算机来设计。有的时候到系统中去看我们的顾客，有几百万顾客可以选择，很多时候计算机会做推荐。当我们在大学的时候，规划我们的人生，也许将来依赖于人工智能。随着人工智能能越来越深入清晰的去了解我们的过往，包括了解我们的经济生活水平，了解我们的家庭，它原则上能够作出越来越适合的推荐。

　　在未来一个穷人，一个富人，会抵达城市中不同角落，他会下载不同的课程，会规划不同的人生，那在那个时候，我们原来在虚拟世界，正是因为人工智能获取越来越多的数据，所以它更好了解我们的家庭，我们的习惯，我们的背景。

　　那么这些看起来越来越精准的信息推荐，实际上可能使得我们穷人和富人，抵达了不同的角落，规划了不同的人生，选择了不同的课程。而未来在虚拟世界带来的差异可能更大，从而他们有可能从小这些出生好家庭的人和一般家庭的人，可能他的人生观，他的视野，他的格局，以及他的成长轨迹可能会变得更不相同。

　　其实技术本身发展的不平衡，也会带来一些中立性的偏差。那中国是一个在几千年来都重男轻女的一个国家，正是因为这个原因，很多女婴一出生就夭折，甚至被活活的淹死，被活埋掉等等。虽然现在扼杀女婴的事情在现代中国已经很少，但直到现在我们依然不允许公立医院的医生告诉爸爸妈妈，婴儿是男是女。

　　我们除了男女抛开不提，我们现在有了更多的技术，通过B超，通过彩超，通过基因技术可以发现出生前的重大残疾。如果发现重大残疾，医生一般建议流产，这是很好的技术，没有什么坏处。但是我们想想，由于彩超技术发展在前面，所以能够被B超发现的一些重大残疾，这个孩子活下来的可能性就变小了。最近基因技术的发展突飞猛进，很多重大的隐形疾病可以通过基因发现。如果基因技术发展跑到B超前面，显然容易被基因发现的这些问题，可能小孩出生的概率就会变小。

　　看起来哪怕是同样严重的先天性的疾病，一个孩子，有多大概率能够出生出来，我们且不说出生下来是好是坏，很大程度上是取决于不同生物医疗技术发展的现状，其实是这些技术从某种意义上决定了要不要放弃这个生命。

　　现在我们通过一些代谢的分析，我们是可以找到一些疾病的，它能够在二三十岁以前，他都能够生活的很健康，但是它二十多，三十岁以后，可能会遗患重大的疾病。有些人的智商他不是弱智，但他好像比平均的智力要稍微低一点。当我们对一个人未来健康、生理、心理能力描摹越来越清楚的时候，那这些人未来有没有机会出生？还有多得大机会？这些都是涉及到技术，会不会由于它自身发展不平衡，或者技术本身带来一些中立性偏差。

　　第二个大的问题跟大家讨论技术时效性的问题。

　　我翻译一本《大数据时代》，曾经举了一个很极端的例子，说将来我们能够有技术去预测犯罪，从而在你没有犯罪的时候就逮捕你，这样的例子好像在现实生活中还没有发生。但是美国国土安全局已经在反恐系统中，通过人脸识别以及轨迹和记录，来判断一个乘坐飞机的人，多大可能性是恐怖分子。如果你被判断疑似恐怖分子，就可能有几个小时的检查，经常会误掉这些飞机，这依然是相对比较极端的例子，它背后的问题是，尽管这个技术能够提升社会安全度，但是我们应不应该为尚未发生的罪行来买单？如果这个例子跟我们生活还。

　　那我再举近的例子，也就是酒驾的例子。酒驾背后其实也有很强的数据支撑，但是酒驾本身法理是微妙的，因为你喝了酒，所以发生交通事故的可能性大，因此在没有发生交通事故的时候就先把你逮起来。但是它背后依然想做的事情，是为了避免更严重的公共安全事故，所以把它写进法律。如果我们觉得酒驾习以为常也都能接受，那我们再往后看未来三四十年，如果无人驾驶变得非常普及，大家可以想像，人驾驶毫无疑问，在一半以上无人驾驶车辆中是最危险的因素，因为其他人通过物联网早就排好队了，现在我们看到酒驾入行可以接受，那再过二三十年，我们会不会接受手动驾驶入行，因为在那个时候，可能90%交通事故都是由真人造成的，那是不是要剥夺我们手驾的行为。这就是我们要不要为可能性来买单。

　　我们每个人都可能在年轻的时候有过很多不该做的事情，犯下不该犯的错。举个例子，比如说当大家在中学的时候，可能打过一次架，因为这次打架，可能在公安部门有过一些不良记录。在大学为了爱美，为了爱虚荣，买iPhone，借了校园贷，拖欠很多年。这样的事情在现在数据分析能力中，都能够被记录下来，所以十多年前的一些问题，可能会影响三十岁的你去买车，买房，而影响你的创业，第一笔融资，尤其是债权融资，可能影响你在婚恋网站中的排名，使得你找不到心仪的对象。

　　我们经常有一句话说，我们要怀揣梦想，但绝大多数都还生活在当下。如果说某一天，我们生活前五年，十年，二十年的时候会影响现在，而我们现在的行为自然又会影响五年，十年，二十年以后的生活。大家可以想像，这到底是一种幸福，还是一种巨大的负担。在那个时候，尽管中国有一句古话：浪子回头金不换。是说我们犯了错误，我们的兄弟姐妹，爸爸妈妈会原谅我们，但是计算机会遗忘这些问题吗？人工智能会相信我们吗？当长期信息被记录，我们可能最好的选择，按照主流价值观，按照最正确的方式前进，这个时候所有的特立独行，所有的放荡不羁，恐怕要付出的代价都比以前更大了。

　　最后我想说，随着人工智能、大数据的发展，未来除了它会带来伦理问题，未来整个伦理和道德规则的建立也许不再掌握在我们自己手中。举一个简单例子来看，为什么说将来我们连道德伦理法则制定可能都不能拿在手上。依然回到自动驾驶这个例子，我们想象一个场景，我们在路上开车，突然路上窜出来一波人，这波人是违反交通规则的，横虫马路。一种方式是开过去，压死这些人。另外一种可能性，左转一下压死旁边这个人，但这个人是无辜的，但可以少死。另外一种是干脆，我右转，自己会受重伤死亡，但其他人都不会死。

　　有的人牺牲自己，不愿意伤害别人。但有些人相对自私一点，愿意伤害别人，不愿意伤害自己，但不管我们那个时候做什么样的抉择都是自己的抉择。

　　但是我们现在坐在一辆车里面，我们需要人工智能机器人，帮你判断你到底是牺牲自己，还是压死四五个违规者，还是压死一个无辜的人。在这种大的道德伦理拷问的背后，也许作出回答的是人工智能或者至少他需要我们，把我们的道德伦理变成一条条冷冰冰的规则，然后再变成一行行代码，最后写在机器里面去。那个时候，一个很大的问题就是，我们人类的尊严会受影响吗？我们谈我们人类的道德和人格力量会受影响吗？如果有越来越多的传感器在我们人类社会中逐渐渗透到社会里面，我相信很多原来需要我们做决策的地方，会逐渐由计算机来做决策。

　　我们不知道未来的世界，现在我们人类很厉害，在这个世界中是绝对的统治，但是任何一个物种都有盛衰，它也会消亡。我们不知道人类会因为什么样的原因，某一天走向衰落或者走向灭亡。比如说是小行星碰撞，把人类撞没了，也有可能由于自己导致环保问题埋了自己，也有可能人工智能发展改变了这个物种或者重塑了这个物种。

　　回过头去看几千万年前，可能有某一只猴子，他从树上下来行走，最后变成了人。假设这些猴子都能活到现在，有人这么聪明思考，他可能会埋怨这只猴子，因为这只猴子变成了人，所以其他的猴子被赶出了栖息地。如果我是这一群猴子的话，我会觉得很骄傲，也许我生活的家园大幅度缩小，但是从我背后走出了一个更强大，更智慧的种族。

　　所以我不知道在人类往后发展，通过机器的进入，通过基因工程，通过很多大的变化，我不知道人类最终会走向何方？会不会从我们下面几代就有一个更高的智慧。作为一个研究人员，我仍然希望科学家，还有我们的艺术家，还有经济学家，社会学习，依然包含热情在前沿上探索。不管是为我们自身，还是为下一个新的智能形态做最好的准备，谢谢大家。 

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。