看到这个标题，大家可能会说，不可能，绝对不可能。但关于可能不可能的话题，历史上已经争论过无数次了，早在1942年，俄罗斯科幻作家阿西莫夫就提出了机器人三大定律，意思是在这个原则下开发机器智能才行，否则将带来毁灭性灾难。回到这个定律本身，为什么会提出这样的定律，只是为了增加科幻色彩吗？我想这也是一个不得不担忧的事情，纵观科幻史，从海底两万里到星际争霸，从第五元素再到三体，每一次科幻无不变成事实，人类的科技总是在一次次科幻之下得到进步，让科幻成为现实。随着科技的发展，人工智能已逐步融入人类的生活，并在一定程度上帮助人们预测未知，决策未来，提升生产力，增强人力所不足之处等等，之所以能起到助力作用，其实有个事实必须承认，那就是在某些方面，无论是从体力，智力上评价，人工智能的能力已经远超人类了，说到这里，可能又有人会反驳，人工智能不是人发明的吗？最终也是在人的控制之下，何来超过人类一说？不错，不过我要说的是，发明，发现都只是一个节点，鸡生了蛋，不代表蛋不会超越鸡，如果用发展的眼光来看，这个发展的过程和积累过程的能量，是不可忽视的，或许某一天真的可以到达质的飞跃，我之所以会这么说，也是最近身边发生的一些事让我不得不去思考这个问题——人工智能真的能控制人吗？先来看看几个事例吧。

几年前，关于人机智力之争的围棋大战，想必各位也都历历在目吧，从阿尔法狗0到1代，从算法上来说，实质上已经发生了巨大的变化，从单一策略网络到价值网络，多重神经网络的深度学习算法，从实质上讲，无论是有限的围棋目数范围内，还是无限数集，可能1万个柯洁也不会是它的对手了。因为无论从运算速度，还是运算能力，在这种单一策略以及价值取向上，人类的智力会显得非常渺小，完全不是一个数量级的。就如柯洁赛后的描述——已经能感觉到它在有意调戏我，我走的每一步棋，它都能清晰的知道意图。从这个事件上，至少能看出，人们只是教了一个算法给它，可它却将算法的能力放大了无数倍，已经远远超过人类能力的瓶颈，在这个基础上，我可不可以说，也许它也看到了我们不曾看到的东西？当然，如果单纯讲智力，可能远远低估了人的能力，想控制人，可能还差很远，但下面的事例，可能会有颠覆性的变化。

近几年，淘宝，抖音，新闻头条的崛起，大家可能并不陌生，提到它，也是从控制，影响方面来说的，他们有个共同的特点就是利用大数据分析个性特征，想你之所想，给你之所需。从商业本质上讲，这绝对是有价值的，投其所好本身无可厚非，但事态的发展我感觉已经超出了初衷，已经逐步在改变人们的习惯，认知，甚至世界观。举个例子吧，前几年的娃哈哈矿泉水，那可以说是绝对的龙头，宗庆厚也因此成为首富，只是很快却被农夫山泉取代，逐渐消失在人们的视野之中，难道是农夫山泉真的比娃哈哈的水好？还有点甜？其实只是利用了终端零售的一个基本特点，改变了一个营销模式罢了，那就是出样率，娃哈哈打的是成本，是物流渠道牌，而农夫山泉打的是空间牌，也就是留出利润，让终端零售只摆出农夫山泉，不让其他品牌上柜，所以，这也是农夫山泉比娃哈哈贵的原因，客户进店看不见娃哈哈了，自然就慢慢消失了，娃哈哈的水再好，再甜，再便宜，客户看不到，能卖出去吗？（几年前我相信各位都看到过一个场景，那就是农夫山泉一瓶瓶摆在柜子里，而娃哈哈一件件摆在地上）最终形成的影响就是，娃哈哈，便宜无好货，也确实是，放地上满身是灰，谁愿意喝？当然，这是人类商业智慧的博弈，不足以说明什么，举这个例子，实际上是想说，如果是人工智能，是大数据技术在玩这个套路会怎么样？在淘宝中，抖音中，在新闻头条中，如果每个人都被人工智能打上标签，你真的认为你想买的东西就是你看到的吗？你真的认为你想看到的内容就是你希望看到的吗？那只是一个虚拟存在的机器人想让你看到的，你没有选择，就好比你进店买水只能看到农夫山泉一样，你只能为农夫山泉买单，而不知道是否还有其他山泉是否会比农夫山泉好。同理，对于新闻媒体咨询而言也是一样，我们已经丧失了自我判断，自我筛选的机会，感知世界的资讯已不是正态分布，已由无序变为有序，也正在蚕食你对世界的认知，进而影响你对世界的判断，看到这，就让我想到了焚书坑儒，想到了东三省日本人的奴化教育，难道个性标签就完全正确吗？或许那可能是你的一次不经意的触碰而已，但这个行为却已经形成了记录，成为你个性标签的一道道权重。久而久之，我已经无法判断，我到底需要什么，我的兴趣爱好到底是什么，我的行为习惯到底还是不是我自己的，或许说是一具行尸走肉也不为过吧。

人工智能到底会不会控制人，我已经不想去争论，虽然它并没有像人类社会中以简单命令执行的方式在控制，但它确实已经深入到人的生活，影响着人的认知，以及对世界的看法。就像一只无形之手，为每个人定义了规则，边界，乃至在这种规则和边界下，人已经逐步沦为一道道棋子，在它发出的规则指令下行动。随着科学的进步，技术的发展，这种规则将会越来越多，会逐步从你的购物，你的价值取向，你的兴趣爱好，你的身体健康，生理特征，乃至你的方方面面都会加以干涉，到那时，你还会认为你就是你自己吗？如果你能听到的，想到的，看到的，摸到的，碰到的，都是有人在安排，在规划，你可能真的要问，我是谁，我在哪里？我的名字叫什么？我是不是只是meta中的一个元素，一个类别，一段代码，一个符号？

来自一个人工智能从业者的思考 石头 2022.7.9