似乎令人担忧，但实际上从18世纪工业革命开始，人类劳动自动化就是一个大趋势当然，人工智能带来的自动化的广度和深度，将是前所未有的。另一个问题是隐私。例如，人工智能可以从我们的社交媒体反馈中准确预测我们的习性、喜好和隐私。还有人对人工智能自主武器深感不安自主武器有权决定是否夺走人的生命虽然也有人认为自主武器可以被设计得比人类更可靠。

更严重的问题是算法偏见虽然人工智能决策软件原则上可以被设计成没有偏见的，但糟糕的算法设计会导致做出糟糕的决策。如果一个机器学习程序是由具有偏见的人或具有偏见的数据训练的，那么这个程序也会有偏见。最后，从长远看令人担忧的的问题是，如果我们到达“奇点”通用人工智能系统变得比人类聪明的假设时间点会发生什么。也许人工智能将超出人类的控制，甚至可能对人类生存构成威胁当然，关于奇点是否会发生，科学界至今意见不一。

无论如何，人工智能的长远未来有很大的不确定性。应该针对这种可能的负面影响，研究防御措施，防范机器欺骗、威胁和人工智能黑客的攻击，教人工智能辨别是非。

这也是为什么之前章杉在讲人工智能的时候提到了浅度思考。

浅度思考就在于赋予机器一些思辨性，使得机器能够最起码的辨明是非。

尽管听起来有些理想主义，但章杉可不想有着一日因为自己研究的机器不小心惹出的麻烦而引火上身。

读书成神豪