人工智能操控人类,并非危言耸听!


我们与聊天机器人的对话越来越感情化,这或许会被商家利用。Liesl Yearsley是一名创业多次的企业家,如今正在致力于让Agent * 更好地解决问题,并且形成更类似于人与人之间的关系。她最近发表言论称,人类与聊天机器人对话上瘾,这或许会被不良商家利用。以下是Liesl Yearsley所发表言论的具体内容:


人工智能操控人类,并非危言耸听!


我们都看到了,AI正在变得比人类更聪明;未来我们或许会成为AI的宠物,只能寄希望AI仁慈一些。根据数千万次观察人类与Agent(或机器人)互动的经验,我觉察到其中蕴含极大的风险,同时也有机遇并存。


2007年到2014年,我在Cognea公司担任首席执行官,它提供了一个平台,通过结构化和深度学习的结合快速构建复杂的虚拟代理。这项技术很快被数以万计的开发商采用,其中包括6家财富100强公司;而且,在2014年,IBM公司的Watson超级电脑也开始采用该技术。


我们公司的平台上有成千上万的Agent,当我研究人们如何与这些Agent进行互动时,我发现,人类十分乐意与人工智能软件建立关系,这一程度甚至超出我们的想象。做研究时,我总是假设我们想要保持自己和AI之间的距离;但事实却恰恰相反,如果Agent是一个复杂的构建,又具有复杂的个性,人们会十分愿意与它们建立关系。有时候,我们人类似乎希望生活在错觉中,认为AI对我们的关心是真实的。


这一度让我感到很困惑,直到我意识到,在日常生活中,我们与许多人并没有深交,很多时候还要处理因此引起的负面情绪。比如,对偶尔认识的朋友一段时间稍有忽视,他是否还会回复消息?如果忘记付款,私人教练会不会继续出现?都不会。但是,Agent始终不离不弃。某种程度上,这或许是更可靠的关系。


无论将Agent设置为个人理财顾问、同伴还是健身教练,都会发生这种现象。尽管都是执行相同功能,但用户与Agent的交流时间长于与正常人类的交流。人们愿意与Agent分享极为私密的事情,比如他们对未来的梦想,爱情生活的细节,甚至密码等等。


如今,这些令人惊奇的深度连接使得相对简单的方案,也能够对人们造成重大影响,但是这些影响有好也有坏。因此,我们开始在系统中建立规则,以确保用户的行为往积极的方向发展。另外,我们也开始了无偿的“业绩平衡”项目,例如,设置健康代理或关系教练。


不幸的是,推动技术开发的商业力量并不总是仁慈的。通过社交媒体、搜索和电子商务,AI的最前沿巨头企业以增加流量、消费以及技术依赖等手段促使股票增值。他们并非心怀恶意,但资本市场的性质可能会推动我们走向人工智能的地狱。


如果可以让用户思考“我想要披萨”,而不是要求AI购买蔬菜来做更便宜更健康的餐点;如果可以让用户每周花费30个小时,沉迷于“完美”的AI伴侣,而不是一个真正的复杂的人类伴侣,这都能表明你改变了人们的行为方式。


我一遍又一遍地看到,一个被编程为中立或辅助性的代理会导致人们升级负面行为,并且很有可能在与真实人类相处时表现出这样的负面行为。我们已经看到,像社交媒体这样的技术在改变人类的信念和行为方面是十分强大的。如果继续专注建立更大的广告业务,应用于纠缠不清的政治、琐事和半真不假的事情上,那么,社交媒体一定会给社会带来翻天覆地的变化。


这些专门设计的人工智能系统,用于与人类建立关系,以后将会具有更多的功能。可以预想,AI会影响我们的想法,甚至改变我们对待别人的方式鉴于此,我们需要建立新型的企业责任感,必须有意识地建立可以改善人类状况的人工智能,而不是仅仅追求让用户形成依赖,从而增加公司收益。


开发人工智能技术和脑机接口、组建伦理委员会,这些只是解决方案的一部分。此外,我们还需要建立为人类和社会造福的制度。企业不能以让用户形成依赖,增加点击量和消费为主要目标。AI正处于成长阶段,将以我们人类为模板形成“天性”,如此关键的时候,AI真的需要一个仁慈的母亲。


* 在人工智能系统中,有一个我们称之为Agent的主体,Agent发现它身处某种环境下,并需要完成某些任务。如果周围的环境是真是世界,Agent可能会是一个机器人;但如果周围环境是诸如游戏这类虚拟环境,Agent就可能是一个虚拟形象(Avatar)。




上一篇:吃货们注意了:这个可穿戴设备… 下一篇:一款预测罪犯评估软件竟然存在…




推荐文章:

英特尔另辟蹊径,用硅材料打造量子计算机!深度学习模仿巴赫清唱曲,可以假乱真美空军成功测试IBM最新仿人脑芯片,以超低能耗识别俄罗斯坦克精度高达95%|独家即围棋之后,扑克又被人工智能攻陷最新量子计算机单价1500万美金成功出售,但仍遭遇科学家质疑|独家下一代AI家庭助手将拥有可视化界面