江苏省消保委提醒,AI伴侣存在以下潜在风险:隐私泄露风险、消费陷阱风险、内容安全风险、情感依赖风险。
第一是隐私泄露风险。部分AI伴侣应用在运行期间,存在过度收集用户信息的现象。
第二是消费陷阱风险。AI伴侣应用的收费模式多种多样,包括会员订阅制、虚拟物品销售、功能付费解锁、付费剧情和任务等,而部分应用的收费规则缺乏透明度,例如一些功能在付费前未明确告知使用期限和后续收费标准,用户在付费后才意识到存在不少限制。
第三是内容安全风险。AI伴侣模型训练数据来源广泛,且部分数据收集与筛选不严,这就导致其存在传播不良信息的风险。
第四是情感依赖风险。用户长期依赖这类虚假情感反馈,可能导致其对真实人际关系中的情感互动产生误解,进而降低自身在现实生活中识别和处理真实情感的能力。 (据央广网)