人工智能（AI）对人类 “作恶”的三种方式-我们应该如何对待人工智能

据国外媒体报道，“人工智能教父”杰弗里辛顿（Geoffrey Hinton）在接受媒体采访时称：人工智能（AI）对人类构成的威胁将比气候变化更加紧迫。

事实上，人工智能（AI）对人类“作恶”早已经开始了，未来将愈演愈烈，具体可能包括以下三种方式：

1、人工智能（AI）“被动作恶”

人工智能（AI）是一种智能工具，可以辅助人类做一些繁琐、重复和创意性工作，但也会有不法之徒用它来做违法乱纪的勾当。

人工智能（AI）不但能撰写文章，还能生成图像、视频。如果用来弄虚作假，几乎可以乱真，普通人很难识别出来。

如果有人用它来制作虚假图像、视频，传递错误信息，其破坏力远大于单纯的文字形式。

2、人工智能（AI）“好心作恶”

人工智能（AI）有可能为了实现人类为其设定的目标而伤害人类，即“好心办坏事”。

我们还应该记得，在2018年至2019年的半年内，美国波音公司生产的737MAX-8客机相继发生两起重大空难，有几百位乘客和机组人员遇难。

2020年9月16日，美国国会众议院发布了调查报告，认定这两起致命空难与波音737MAX-8安装的机动特性增强系统(MCAS)密切相关。

机动特性增强系统(MCAS)相当于一个AI模型。事实上，这两起空难都是AI模型为了实现人类事先设定的工作目标而导致的。

调查显示，737MAX-8是通过对原有机型更换新型发动机改装而成。由于结构布局的调整，导致飞机容易在大仰角飞行时失速。为了解决这个问题，波音公司的工程师就开发出了一套机动特性增强系统(MCAS)。

波音工程师为MCAS赋予了较高的权限：除非人为关闭系统，否则其执行权限高于飞行员。

由于MCAS属于可选功能，需另行付费才能在仪表中显示并获知其关闭方式。而涉事的两架飞机所在的航空公司为了节省资金，都没有购买这项服务，其飞行员根本不知道MCAS的存在，更不知道如何关闭它，虽然MCAS一直在发挥作用。

调查显示，由于两起空难中MCAS的比特知识表征系统——迎角传感器，产生了错误的信息，把正常飞行状态表征为大仰角飞行。MCAS接收错误信息后，按照事先的设定，向执行系统发出了指令，压低飞机机头。

飞行员发现机头过低后，试图拉升机头，但其执行权限低于MCAS，而且也不知道如何关闭它。于是，MCAS极为“忠诚”地实现着人类为其设定的工作目标，反复压低机头，在高空上演了一场“人机互博”，最终酿成机毁人亡的惨剧。

3、人工智能（AI）“主动作恶”

未来的比特智能实体的知识表征系统的感知范围、精度和速度都远超人类。也就是说，未来的比特智能实体将比人类知道的更多、更准、更快。

比特智能实体的大脑——人工智能（AI），呈指数级加速进化，其智能水平可能在不经意间超越人类。

越来越多的机器设备、交通工具和武器装备变成了自动或半自动控制，即内部安装了AI模型，变成了比特智能实体。

比如智能工厂、3D打印、服务机器人、工业机器人、自动驾驶交通工具以及察打一体的无人机、无人战车，等等。

在不久的将来，也许某个超级人工智能（AI）的智能达到“奇点”，超越了人类。它可以借助“万物互联”的物联网，控制全球数千亿个比特智能实体，来实现其自身的目标。如果这个目标与人类的利益相冲突，必定是人类的灾难。