1.5 AI的争议

1.5.1 算法偏见

算法的偏见主要源于数据的偏见。

我们在用AI做决策时，算法根据已有的数据，可能学会歧视某一类个体，如根据种族、性别或其他因素，做出有歧视倾向的决策。即使种族或性别等因素被排除在数据之外，算法也可能根据人的姓名或地址中的信息做出有歧视倾向的决策。

例如，用一个听起来像非洲裔美国人的名字进行搜索，可能会返回一个用于查询犯罪记录的工具的广告，而用其他名字搜索就不太可能发生这种情况。在线广告商倾向于向女性用户展示商品价格更低的广告。谷歌的图片软件曾错将黑人的图片标记为“大猩猩”。

1.5.2 隐私问题

现有的AI算法都是数据驱动，需要大量的数据来训练模型。人们在享受AI带来的便捷的同时，也面临隐私泄露风险，例如，一些科技公司获取了大量的用户数据，而这些数据会暴露人们生活的方方面面。

在人们上网时，原则上，科技公司可以记录每次点击、每页滚动、观看任何内容的时间以及浏览历史。

科技公司可以根据人们每天的打车记录、消费记录，知道人们在哪儿、去哪儿、做了什么事、教育程度、消费能力、个人偏好等个人隐私。

1.5.3 技术与伦理的矛盾

随着计算机视觉的发展，图像及视频的可信性也越来越低。我们可以通过图片处理（Photoshop，PS）、生成对抗网络（Generative Adversarial Networks，GAN）等技术制作假图像，让人难分真伪。

以GAN为例，这一概念由机器学习研究者伊恩·古德费洛（Ian Goodfellow）在2014年提出。之所以叫“生成”是因为该模型的输出为图像一类的信息，而非与输入数据相关的预测值；叫“对抗网络”则是因为该模型使用两组猫鼠游戏一般相互竞争的神经网络，就像收银员和伪钞制造者斗智斗勇一样：伪钞制造者试图让收银员认为他拿的是真钞，而收银员则试图区分钞票的真伪。

1.5.4 大家都会失业吗？

从人类的发展进程看，我们一直在寻求提高效率的途径，即以更少的资源获得更多。我们用尖锐的石头更高效地狩猎和采集食物；用蒸汽机减少了对马匹的需求。在AI时代，AI会取代那些重复性强、创造性低、弱社交的工作，而创造性高的工作则不易被取代。