美国聊天机器人Replika vs.欧盟更严AI规范
美国聊天机器人Replika遭义大利禁 欧盟料祭更严AI规范(法新社巴黎11日电) 旧金山企业Luka于2017年推出运用人工智慧的一款聊天机器人Replika,能对客户谈话及倾听说话,但义大利近日禁止Replika使用义国用户个资,如今恐又面临欧盟更严格规范。
发表时间: 12/02/2023 6park.com
美国聊天机器人「虚拟伴侣」Replika的部分用户只是想要陪伴,但也有些人想要发展恋情、性爱聊天,甚至想看聊天机器人的性感照。 去年年底,有用户开始投诉Replika使用过于露骨的文字和图片,有些人认为已经属于性骚扰范畴。
义大利监管机构对这样的情况感到不满,在发现Replika违反欧盟通用资料保护规则(GDPR)后,上周便禁止Replika收集数据。 Luka公司没有公开发表评论,也没有回覆法新社要求置评的讯息。 欧盟通用资料保护规则让大型科技公司头痛,这些科技企业屡次违规,已被处以数十亿美元的罚款。而义大利当局的决策表明,这项规则仍可能成为最新一代聊天机器人的天敌。 这些新一代聊天机器人和支撑它们的所谓生成式人工智慧(Generative AI),有望彻底改变网路搜寻等领域。
但专家警告,监管机构需要担心许多问题,尤其是当机器人变得如此强大,以至于无法辨识它们跟人类的不同。
目前,欧盟是讨论管控这些新一代机器人的中枢,他们的人工智慧法案(AI Act)已经在高层之间琢磨好几个月,可能会在今年定案。
|