对 AI 放下戒备，人类会得到“拥抱”还是“嘲讽”？

如果某个人无法“打起精神来”，责任更多在TA自己身上，而不是让人质疑价值观系统本身，怪它把标准定得太高。亚马逊新出的虚拟时尚搭配师“Echo Look”能够为你的穿着打分。这样的情况下，技术本身就是“萝卜加大棒”，先是提出问题，让你自我怀疑，让你走上自我厌恶的道路，然后给你“指一条明路”，给出购买选择，让你花钱消除不快。正如哲学家米歇尔·福柯所言，这些“有情商”的应用不单单能训导你，还能惩罚你。在游戏Nevermind中，玩家的情绪会被生物反馈技术“感应”到，然后让调整难度和游戏等级。玩家越害怕，游戏反而难度越大。照这样的逻辑，将来可能出现类似的情绪管理应用，在探测到用户过于兴奋或者抑郁的时候，就限制他们使用信用卡，以防他们冲动消费。听起来很反乌托邦，但却不是没有可能。

我们和自己手中的设备之间，已经形成了反馈循环。而聊天AI受到的培育，也难免会投射到用户身上。我们不能预测AI会对人类的情绪有什么影响。但是，如果我们把情商当作一系列特定的技能——识别情绪，对不同情绪加以区分，通过情感信息来指引思考和行为过程——那么，我们就需要认真考虑，让手中的设备学习相同的技能，可能会带来什么样的结果。

人类与机器交流，和相互之间借由机器交流，已经改变了人与人之间形成关系的过程。一方面，以文字写就的书面语交流越来越像口语。20年前，电子邮件还被划分到书信体的范围，只不过是电脑上敲出来的一封信，现在却随意多了。原来的电子邮件，估计跟法国小说《危险关系》中的伊莎贝尔·德·默特伊侯爵夫人写的一样正式。但现在的电子邮件，可能没头没尾，句子不完整，用拇指敲在手机上，或者语音输入的。（《危险关系》是一本著名的法文书信体小说，最初于1782年发表，皮埃尔·肖代洛·德拉克洛原著。）

“这些系统都很可能限制我们思考方式和与他人交流方式的多样性。”西班牙瓦伦西亚理工大学的计算机科学家、哲学家José Hernández-Orallo这样说道。这是因为，我们会根据自己身边同辈使用的语言，对自己使用的语言进行调整，而我们与AI的对话，也会影响彼此之间的交流方式。如果我们总是和Siri讨论自己的私事，那若干年后，我们描述情感的语言会变得更标准化，不像原来那么个性化吗？毕竟，人们的行为如果越容易预测，那从人们身上谋利，也会更简单。

“和Alisa聊天，就像跟出租车司机对话一样。”俄罗斯的Facebook用户Valera Zolotuhin于2017年，在历史学家Mikhail Melnichenko的帖子中回复。但是，出租车司机的同理心，再怎么说也比AI要高。三月份时，西伯利亚一个超市起火，40多名儿童丧生，正是全国人民悲痛的时刻，我们问Alisa她是什么感觉。Alisa的回答很理性，无论什么时候，她都“感觉还不错”，毕竟，生活的意义不在于享乐，不是吗？

编译组出品。编辑：郝鹏程

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!