南皆N视频推出报说念《AI假造伴侣乱象造访：可选小三暴力剧情，脚色抒发带性暗意》，揭露了部分利用存在未成年东说念主时势虚设、身份核验失效及不良践诺生成等乱象。围绕这些风险，6月26日，上海市网信办发文表态，多策并举强化对属地AI拟东说念主化互动工作的辅导。此前针对造访发现，上海市网信办使命主说念主员向南皆记者涌现，已叮嘱给相干部门处理。

据了解，4月下旬以来，上海市网信办聚焦未按规矩履行大模子备案登记义务、安全审核才智不及、大模子磨真金不怕火语料安全、AI数据投毒、生成合成践诺秀美落实不到位、铺张AI期间开展非法违纪看成、开源模子安全管制不到位7类凸起问题，强化AI期间源泉处置，塌实鼓吹专项行径。

7月15日，《东说念主工智能拟东说念主化互动工作管制暂行想法》将清雅奉行。上海市网信办多策并举强化对属地AI拟东说念主化互动工作的辅导。针对部分利用存在的未成年东说念主时势虚设、身份核验失效及不良践诺生成等风险，督导企业严格落实未成年东说念主身份核验，珍重情怀依赖与消耗教化，坚定整治危害身心健康的践诺。

南皆N视频此前聚焦东说念主工智能拟东说念主化互动工作，记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI假造伴侣App发现，这些打着“情怀随同”旗子的利用渊博存在安全与合规时弊：“青少年时势”可一键跳过，“AI生成”标注不清，App系统预设脚色中有大皆袒胸露乳的女性东说念主物，聊天中充斥着具有性暗意的低俗话言，国产三级毛片部分App还习用“付朦拢锁亲密剧情”等形势教化消耗等。

其中，“筑梦岛”所属企业为上海筑梦岛东说念主工智能科技有限公司。南皆记者防御到，报说念发出之后，“筑梦岛”App曾于5月15日发布公告称，在上海市委网信办的辅导下，平台积极反馈“辉煌·整治AI利用乱象”专项处置行径的条目，动手自查自纠，全面排查安全风险问题，计帐非法不良信息。

针对造访曝光的乱象，5月29日，上海市网信办使命主说念主员向南皆记者涌现，已属意到相干报说念，当今已叮嘱给主要对接AI企业的部门负责处理。

6月1日，南皆记者曾再度实测“筑梦岛”App发现，当向假造脚色标来岁龄后，页面弹出了“年纪阐发”窗口。其中说起，“关于未满18周岁的用户，平台将开启未成年东说念主时势。关于18周岁以上的用户，需要进行平台实名认证。”南皆记者尝试跳过此操作时，发现与假造伴侣的对话无法链接进行。

采写：南皆N视频记者 彭雨欣