近日,音乐人包小柏发布了一段用AI复刻出的“数字女儿”为妻子唱生日歌的视频。女儿在2021年病逝后,包小柏花了两年时间与AI技术团队合作,重现了女儿的影像。
2023年,一位上海小伙也曾使用AI工具“复活”已故的奶奶,并和她视频对话。小伙表示,制作视频的初衷,是希望用AI技术填补与奶奶没有好好告别的遗憾。
有人评论,“这就是AI存在最大的意义吧!”有人反对,认为尊重死亡也是尊重生命,人类不要企图用高科技去超越死亡。所谓“复活的亲人”只不过是一串冰冷的代码,并没有太多实际意义。
上海数据交易所研究员林梓瀚此前曾做客澎湃问吧,与网友交流AI发展可能涉及的伦理与法律问题。你愿意用AI技术复活逝去的亲友吗?“数字生命”是否在挑战人类伦理?
用AI“复活”亲人违法吗?
@默博博:有人用AI换脸复活亲人,这违法吗?是否在挑战人类伦理?
林梓瀚:从法律的判断标准来看,目前是看这件事情是否违反公序良俗,用AI 来复活亲人单纯从法律视角看,并不违反公序良俗,最多是加强已故亲人的个人隐私保护。但是从社会伦理看,则有可能涉及道德问题以及社会文化,认知的问题。我们如何对待被“复活”的已故亲人呢,“它们”是不是类似于我们的电子宠物呢?是从属于我们的“物”吗?
但可以肯定的是,依照现有法律体系,产权大概率归于创作者,从单纯的情感到牵扯出利益问题,这就很容易涉及人的情感和道德界限了。再者,利用AI复活已故亲人很可能会对人类已有的对死亡的认知造成意识形态上的冲击,认为人可以以另类的方式实现永生,对社会的伦理影响是巨大的。
@小兔兔:智能应用是否应当受到限制?如果有一天,人工智能的开发者利用技术突破人的道德限制,这样的状况能否立法限制呢?需要什么样的强制力保证法律的实施?
林梓瀚:智能应用并不是一定就会被限制,最重要的就是要保证社会的“安全”和“发展”可以达到平衡。
人类的技术发展趋势是不可逆的,而且纵观这几个世纪那更是跳跃式发展,这是人类社会发展的规律。但是,技术的发展的根本目的是保障人类活得更好,更加可以解放人类,因此在技术发展的同时也得保证人类是“安全”的。
人类社会的道德观念、法律、惯例都是一定时期发展的产物,也会根据一定的技术发展去调整的,但是相对于技术发展来说会比较滞后一些。如果有一天人工智能突破人类道德限制,前提是判断是否会影响人类的安全,以及人类秩序的稳定,如果不会,那么就进行相应的观念调整,如果会,则进行相应的法律规制。
至于说需要什么样的强制力保证法律的实施,从政治学的角度来看,韦伯认为政府是合法垄断暴力的机构,因此法律实施背后靠的是政府合法垄断的暴力。
澎友评论
“可以理解”
@DFHSEFREGHEARS:医疗就是人类用高科技超越死亡、延续生命的方式。运用AI技术与逝去的亲人重逢,想法很好,值得鼓励。
@格鲁:心灵慰藉的事情,为什么要上升高度呢?
@璐洵nice:逝者安息,只是生者求个安慰,不商业化的行为总是有真心的。
@Monicaaa:不知道那些反对的人为什么可以那么理智…我看到这个视频就鼻子一酸,想再见到爷爷奶奶,让“他们”看一看长大后的我做着什么工作,过着怎样的生活。我支持数字生命代替祭扫的形式存在,而不是人类生命的延续、替代品,这会模糊掉生与死的边界。
“需要谨慎”
@一粒麦子524:不能过度投入感情,毕竟人已经逝去了。AI创造的只是数据而已。
@阿飞负传:英剧《黑镜》中有类似的情节,爱人不幸殒命,女主用科技的力量复活了一个仿生人,当这个仿生人越来越逼真,整个就很诡异了……
@可爱灵魂注入者:相濡以沫,不如相忘于江湖。
@喻娇 阳光:总感觉,接受生死也是生命旅程中的重要作业。当我们已经完全忘记了那段和他们的美好记忆,那个被爱着的人才是真正逝去了。