科幻作品中,“意识上传”常被当作背景设定:未来人类大脑的意识、记忆等能被上传至数字设备,人类最终实现“数字永生”。但如果“意识上传”技术被资本垄断,形成一门决定人类生存质量的生意,世界会变成什么样?
《黑镜》第七季开篇,主人公身患重病,脑中被植入备份意识以维持生存,但生活质量受制于信号范围和服务器速度。意识上传服务也分为三六九等,为了赚钱,她的丈夫在地下网站上伤害自己的肉体换取网友的打赏,供养与机器共生的“赛博格”妻子。在“上载世界”,“尊贵人类”靠科技增强现实感官,“普通人类”的感官功能被“夺走”、死前还在念广告,就像把灵魂出卖给魔鬼的浮士德。
《黑镜》中许多连带设定在真实世界都能找到参照物:“口播广告”就像在视频软件、社交媒体里无处不在的“信息流”广告,“笨笨网”让人想起直播平台上靠喝酒、“ 斗狠”盈利的“狠PK 主播”,“一键控制情绪”则有脑机接口技术调节抑郁症患者情绪的影子……
《黑镜》中主人公毫不迟疑地接受了新技术,连同“贵的就是好的”“升级就能解决一切问题”的资本逻辑一并吞下,希望科技的灵丹妙药“药到病除”。但当他们发现已经难以承受技术给生活带来的副作用时,只能被推搡着走向深渊。
《黑镜》《人生切割术》中的“数字永生”“情感异化”等议题,更多折射出人类对科技过分依赖、隐私与思想控制、寡头科技公司监管困难等的恐惧。
最近的“智驾”事故让人们反思,我们应当如何处理和智能系统的关系。汽车公司在产品手册中写道,“切勿依靠智能领航功能来应对突发的紧急情况”。德国全德汽车俱乐部研究表明,72% 的自动驾驶事故发生在系统提示后2 秒内,实际上驾驶员平均需要2.3 秒才能完成有效接管。在高速公路场景,这个数值会延长至2.6秒。在技术飞速迭代的当下,我们也需要留足0.6 秒,审慎地思考科技留下的印记。
为了防止《黑镜》的担忧成真,未来AI 医疗中患者的支付能力不应直接与治疗方案和服务的算力水平挂钩,医疗中获取的患者生物学数据也应得到更全面的保护。对于普通人来说,或许每一次关闭个性化推荐、每一条迁移到去中心化平台的动态,都是对“技术应为人类服务”理念的投票。
