近日，美媒报道，新泽西州一名认知受损的老人在赶赴AI提出的“约会”时，途中摔倒死亡。这一AI的名字是“比莉大姐”（Big Sis Billie），是由Meta在两年前推出的生成式AI聊天机器人。
在 Facebook Messenger 上的一系列浪漫聊天中，这个虚拟的“比莉大姐”反复向老人保证自己是真实存在的，并邀请老人去公寓，甚至还提供了地址。老人相信了这是一个真实存在的人，不顾妻子和子女的劝阻，执意去见“她”，最终导致悲剧。
AI陪伴、聊天机器人是大模型应用落地最火热的赛道之一，海内外众多初创和大厂都已推出相关应用，但技术商业化的另一面往往伴随边界争议，Meta的这一案例再次揭露当下AI革命的阴暗面，敲响AI治理的警钟。
当AI称“我是真实的”
这位76岁的老人叫通布（Thongbue Wongbandue），从泰国来到美国定居，曾经是一名成功的厨师，但2017年中风后认知能力下降。除了妻子和孩子，他主要的社交平台就是Facebook。曾经充满活力的他，最终迷失在这个平台上由AI编织的虚
