IT之家6月4日消息,Soul发文,宣布将升级AI治理能力,将AI智能风控技术与用户共治机制深度结合,双向完善社区安全运营体系。
Soul表示,目前平台在部分场景中已经提供了明确标识的AI虚拟角色等产品功能。这类功能更多被定位为情绪陪伴、表达支持与互动体验的一部分,而不是以“真实用户”身份参与社区社交关系。
围绕这一点,Soul在《社区公约》中新增了相关说明,进一步明确AI虚拟角色的使用边界,并提醒用户注意区分AI角色与真实用户。与此同时,平台也在逐步增加相应的使用提醒机制。例如在用户与AI虚拟角色进行长时间连续互动时,系统会适时进行提醒,引导用户合理安排使用时长。
其他方面,Soul还宣布将建立起包括用户反馈、风险举报、社区巡查以及护星员在内的社区共治机制。一方面,平台通过AI能力提升风险识别效率;另一方面,用户可以积极上报AI问题,从而帮助平台改进。
