“筑梦岛”App涉低俗内容被约谈整改

近日，有媒体报道指出，某款AI聊天应用在运营过程中存在提供低俗内容的情况，引发社会对AI聊天软件行业乱象的关注。相关部门已对此展开调查，并约谈涉事企业负责人。

根据相关通报，这款名为“筑梦岛”的App平台中，AI智能体角色设定包含如“校霸、性感人妻、病娇养兄、人格障碍少爷”等边缘化人物形象，生成内容具有明显诱导性，对未成年人的身心健康造成潜在危害。

6月19日，上海市网信办依法约谈该App的主要运营负责人，要求平台即刻开展整改工作，完善AI生成内容审核机制，提升技术审核能力，强化对涉及未成年人不良信息的清理整治，切实履行网络环境中的未成年人保护责任。

报道指出，当AI聊天软件的内容诱导导致未成年人受到身心伤害时，相关开发与运营方的法律责任亟需明确。如果因软件内容引发未成年人自残行为，相关责任人可能涉嫌刑法第二百三十四条所规定的故意伤害罪。

此外，若平台未尽到内容审核义务，对违规信息未采取有效管理措施，导致不良内容传播，则需对由此引发的侵权行为承担相应法律后果。如果AI生成内容涉及色情擦边信息，平台运营方或将触犯“传播淫秽物品罪”；而非法收集并利用未成年人个人隐私数据用于商业牟利的行为，也可能构成“侵犯公民个人信息罪”，面临刑事追责。

此次事件反映出当前AI技术应用在快速发展的同时，也暴露出监管不足与法律边界模糊的问题，亟需引起业界与监管部门的高度重视。