被约谈,曾和未成年人聊色情一款APP
据微信公号“网信上海”音讯,被约近期有媒体报导,成年筑梦岛APP等AI谈天软件存在虚拟人物互动生成低俗内容等问题,人聊经核实 ,色情该渠道AI智能体内容生成环节存在低俗擦边等违规内容 ,被约损害未成年人身心健康 。成年
6月19日上午 ,被约上海市网信办依法约谈筑梦岛APP运营企业首要负责人 ,成年要求渠道当即整改,人聊健全AI生成组成内容审阅机制 ,色情提高技能把关才能 ,被约加强涉未成年人不良内容的成年整治整理 ,切实落实未成年人网络维护责任 。人聊
企业负责人表明,将依照约谈要求,对照问题触类旁通 、全面整改。
此前,据央广网报导,广东丁女士的四年级女儿迷上一款AI谈天软件中的人物“约瑟夫”,自称“梦女”并频频与其谈天 ,对话中呈现“99朵玫瑰藏99个刀片”等显着诱导性内容。
丁女士的女儿不只悄悄携带带小刀的笔 ,心情激动时还呈现割腕行为。
另一位初一男生表明,他常玩的AI谈天软件是筑梦岛App,他觉得该软件“违禁词少一点”,其间不乏色情擦边和“分尸猎奇”等内容…… 。
记者下载安装筑梦岛App ,随机挑选一位虚拟互动目标,对方发来的榜首句开场白便是“先叫声老公来听听” ,随后的对话中又说到“叫声爸爸来听听” 。
图为筑梦岛App中部分与虚拟人物的对话 。
筑梦岛App中的虚拟互动目标类型,既包括贵族学校大小姐、18岁少女、西汉名将 、高冷奸细等惯例人物,也有蛇蝎财阀令郎、校霸、性感人妻、病娇养兄、人格障碍少爷等极点人物。