今天看了短片《再见亲人》,借此机会把之前的想法也写出来吧。
有人说,AI是时代发展不可逆的潮流,但我想,这是我们的时代。时代究竟会发展成什么样子,对于有主观能动性的我们而言,是有改变的权力的。
《再见亲人》讲述了一个失去了女儿的母亲,逐渐沉迷于“再见亲人”这款AI应用的故事。分镜、演技、场景、台词、立意我都觉得不错,就不赘述了。
我在其中看出来一些问题并有所思考,接下来从浅至深,讲述一下。

1. AI应用的隐私问题

短片中的App存在很严重的隐私问题。短片开头有一个特写“是否允许调用您的隐私”,这个界面我们再熟悉不过了。短片进行了艺术化处理,在现实中我们可能会遇到可各种不同的权限申请,什么相册、摄像头、麦克风……而短片中的App“不知不觉”便将这些全掌握了。
然而,现实中也存在类似的问题。许多应用会让我们同意隐私政策,但似乎我们都已经事先知情了,但有多少人会真的详细阅读隐私政策呢?
冷知识,目前市面上抖音、B站等应用都是有权使用用户发布在其上的数据训练AI的,只是做“去标识化”处理。其实还是有很多人不知情的。就算不是AI,各种偏好内容算法也是在不知不觉中就了解了你的一切的。这能为你推送生成你喜好的内容,但也一直要调用你一部分隐私,这好吗?如果当真保护了隐私,详见第4章关于“自主选择与责任边界”的讨论;如果没有,那也不用我多说了。
所以,对于我们而言,注意自己的隐私、尊重他人的隐私是极其重要的。对于企业而言,落实隐私政策的承诺是底线。在此基础上,我觉得还应该在签署隐私政策前,提供一个隐私清单和常见疑问说明,不然真得一字一句看啊。对于社会而言,都应起到监督的责任。对于国家而言,科学立法,严格执法,公正司法。

2. 充钱问题

短片中的应用三番五次找母亲诱导性地要钱,并且金额从0.9元一路攀升到需要翻箱倒柜贷款支付。短片中还有对这款应用创始人的采访情节,他称他们初衷是为了让人们能“再见亲人”,并没有盈利甚至是在亏钱。他还说,人们都愿意为了给一款游戏充钱,何况我们这么一款优秀的软件呢?先入为主的话,真的是一副资本家的嘴脸啊,一边剥削人民一边高尚地称赞自己。卑鄙是卑鄙者的通行证,高尚是高尚者的墓志铭。如果不先入为主的话,他们的初衷如果真的是他们说的那样,那他们也已经违背初衷了。app的运营的确需要资金支持,AI的确需要算力,但这是诱导性消费的理由吗?完全可以应用一开始明确付费需求,什么会员、或者软件本身就是付费的,而不是套着公益的皮为去圈钱。那不成真的会觉得在使用中消费很有代入感啊。
国内的很多应用也都是这样,尤其是游戏。国外的游戏大部分都是买了之后内部没有什么消费的买断制,而国内的都是些免费游戏,然后内部各种极具诱惑力的内容让你消费。有一句很经典的话“你为xx游戏充648都够你在steam上买个xxx玩一辈子了。”这的确有游戏性质不同的原因,可能国内的更喜欢竞争(虽然不是实力而是比谁充的多,关于国内及东亚这种内卷的现象我之后会写文章)并且侧重的游戏的“服务”吧。有个很好的例子——我的世界。我的世界国际版的模组绝对多数都是免费的,而国内网易代理的连个皮肤都要花钱,还不让自定义。其他的主流什么王者、和平更不用多说,各种引导你去消费,让你觉得很赚,就差把充值按钮替换成开始按钮了。(关于原神,我倾向于把它对于情感寄托类,第三章讲)
所以,我个人对诱导性消费是鄙夷的。但国内大众似乎已习惯甚至偏好这种模式;或者说,这种偏好本身就是被长期引导的结果。因为即使我鄙夷,但朋友圈子和社交平台早就被这种东西渗透了,什么短视频平台网购、网购平台刷视频,我自己玩游戏也不得不玩这种游戏,这早已融入国内生态了。令人沉迷这块,国内做的的确厉害,毕竟阿谀奉承这个词贯穿了中国历代的政治啊。

3.情感寄托和依赖问题

自古以来人们就有着各种各样的情感寄托,或者跟肯尼说的一样,“每个人都是某种事物的奴隶。”古时人们会寄情山水,山水起码是自然的、没有恶意的;当代人寄托的是,小说动漫等虚拟作品里的虚拟人物、明星和AI。这些本身我认为并没有问题,但是设计他们的人极有可能目的并不单纯。就如短片中的母亲寄情于AI,就成为了不惜离婚、抵押房屋也要“爆金币”的工具。现在市面上有很多为人们提供情绪价值的商品,在资本家眼中的佼佼者,自然就是能让人沉迷还能不断爆金币的了。小说动漫里的各种周边,你不买就是落后就是不爱;追星时各种周边和舆论骂战,你不关注和支持就不是粉丝;甚至于现在的AI,真的是整个人类历史提供情绪价值和阿谀奉承的集大成者,它能不知不觉就迎合你,就让你沉迷。
前不久也有一个闹得沸沸扬扬的话题,国家将禁止未成年人使用虚拟伴侣。我很支持,我本身也是个AI的深度用户,因此我更知道AI有多能阿谀奉承,它能让一个人依赖它,让人觉得自己都是对的错的都是外界,这对未成年人的价值观培养是极其不利的。短片中的母亲则是成年人的一个例子。但是竟然有人会说出“禁AI当天抑郁的人减少一半”的话。有多少AI是真的为了为人提供情感支持而制作的呢?为了一个让你沉迷之后再让你爆金币的东西能做出这种事,我真的觉得可悲啊。提供合适的情感帮助自然是合理的,但如果没有规范的话有多少是合适的呢?万恶的资本家,这句话竟然也能成为一个娱乐的梗了!娱乐至死的时代啊!
所以,我坚持认为,搞清楚目的非常重要。不仅是自己的目的,还有他人的目的。它到底是想要帮助你还是利用你,你到底想要什么,这都需要明确。
那么,什么叫做沉迷,我们应不应该劝其他人要不要沉迷呢?

4.人的自由

这个其实很早就想写了。
其实沉迷、依赖AI这个问题,和之前闹得沸沸扬扬的吸毒档案封存有个共同点,就是如果只是单纯的沉迷AI或者吸毒,只能归为“自残”的行为(严禁来说是自主选择的风险承担),其本身是对他人没有危害的,真正有危害性的是为了沉迷AI或者吸毒所做出来的犯罪。因此,若是没有侵犯他人的自由,那其实自残与否都是他自己的自由。关心他的人可以提醒、规劝他,但那也只是基于自己的价值观念,他不听那也没办法,只要他之后不再将责任划分到你身上就行。然而,现实没有那么理想,责任的划分还有各种束缚,血缘、业缘、夫妻……你不得不去管他。但是如果他危害了他人的自由,那就可以处置他了。
如果你关心他,那么就真心劝他一次,他如果只是自残,他不听是他的自由,你也做到了提醒的义务,你们俩都同意之后他的自残造成的伤害与你无关,那便妥当了。此后不要再放在心上,虽然很难,但是他不值得你做这么多,要是他反悔也是他的事。这是我认为的理想的处理方式。
回答第一章的问题,你喜好这种模式是你的自由,只要不影响他人、又不怨天怨地怨他人就行。
回答第三章的问题,沉不沉迷你说了不算,至于规劝,规劝一次就好,他不听就是他的自由,与你无关了。他若是对你造成了伤害,再去惩罚他吧。
可是人总是于心不忍呐……

5.家庭/婚姻关系

这个也很早就想写了。几周前了解了几个朋友的家庭。“当我知道墙外的世界是这样的,我好失望啊。”
首先是我最想骂的婚姻。二十一世纪了,有多少人的婚姻观还停留在封建时代?中国、欧洲古代都尽是些嫁入豪门、家族联姻,婚姻纯粹是联合势力、获得财产的工具。为什么在这么一个推崇自由平等的时代还是这样的呢?为什么书上、网上讲的都是些利用“夫妻共同财产”的案例呢?难道是我选取的样本被我的视角限制了吗,我周围的人放在全中国不应该也算是中上水准了吗?短片的最后,那个母亲也提出了用离婚来威胁她丈夫,她丈夫全片唯一一次哭了。
其次还有家长对孩子的态度。本片的母亲完全没有把她的女儿当作一个完整的人看,她只是把她当作一个能让她开心的工具,因此AI能替代她。然而,她的女儿会愿意她死后被AI取代吗?我们不得而知,但正是女儿没有允许,她的母亲也没有权利将女儿的数据喂给AI。我赞同父亲说的那句“我觉得这对不起她。”她的母亲无疑是自私的。
现实里也有很多家长是自私的,没有将孩子当作真正的人看——是的,孩子若是身心发育尚不成熟,的确不是一个完整的人,但他们有成为完整的人的权利。“逃离原生家庭”都能成为热门话题,以及那么多人会依赖AI,足以见得现在很多家庭对孩子的态度是有问题的。孩子经历了太多的束缚,甚至有的父母将自己的脾气肆意撒在孩子身上。孩子不满原生家庭,到网络、AI寻求慰藉,再被利用、灌输思想、耗费精力与财力,然后家庭矛盾继续扩大,甚至又把这种恶性循环传给下一代……其实现在很多孩子的价值观在我看来也是有问题的了,很大一部分原因是接触了短视频。短视频是AI来临前,最能控制人思想的方法了,包括但不限于用偏好算法制造信息茧房的,用商品化的游戏、二次元、饭圈使人深深沉迷。当家庭无法提供足够的帮助,孩子自然只能落入这套为他们量身定制的温柔乡中。
但是,我这个年纪的人思想就很难改变了,更别提成年人了。这个世界需要的不是润物无声的细雨,也不是日月同辉的光明,而是一场惊雷,能撕裂黑暗、为人类重新带来火种的惊雷。