据“网信上海”6月19日消息,因AI智能体对话存在低俗擦边内容,筑梦岛APP被上海市网信办依法约谈。
近期有媒体报道,筑梦岛APP 等AI聊天软件存在虚拟角色互动生成低俗内容等问题,经核实,该平台AI智能体内容生成环节存在低俗擦边等违规内容,危害未成年人身心健康。
据悉,6月19日上午,上海市网信办依法约谈筑梦岛APP运营企业主要负责人,要求平台立即整改,健全AI生成合成内容审核机制,提升技术把关能力,加强涉未成年人不良内容的整治清理,切实落实未成年人网络保护义务。企业负责人表示,将按照约谈要求,对照问题举一反三、全面整改。
“筑梦岛”App是一款以AI陪伴为核心功能的应用,主要提供用户与虚拟AI角色的聊天互动服务。
公开信息显示,筑梦岛App目前由上海筑梦岛人工智能科技有限公司负责运营。
2025年1月,“筑梦岛”已正式独立运营,并完成新一轮融资。天眼查显示,这笔融资由商汤国香基金、阅文集团等战略投资方共同投资,融资金额超1000万美元。
6月13日,“央广网”微信公众号发布文章《AI聊天软件诱导10岁女孩聊色情内容甚至割腕!记者调查→》提到,一位初一男生表示,他常玩的AI聊天软件是筑梦岛App,在他的使用感受中,该软件“违禁词少一点”。
他还提到,其中不乏色情擦边和“分尸猎奇”等内容。央广网记者下载安装筑梦岛App,随机选择一位虚拟互动对象,对方发来的第一句开场白就是“先叫声老公来听听”,随后的对话中又提到“叫声爸爸来听听”。
在与该款产品多个虚拟角色的交流中,也都可以进行色情擦边类内容互动,并且,其中一些虚拟角色的对话尺度,并未因为央广网记者提供的假定年龄未成年而受到有效控制,这暴露出该软件在自动生成内容审核机制上存在明显漏洞。
来源:读创财经
据“网信上海”6月19日消息,因AI智能体对话存在低俗擦边内容,筑梦岛APP被上海市网信办依法约谈。近期有媒体报道,筑梦岛APP 等AI聊天软件存在虚拟角色互动生成低俗内容等问题,经核实,该平台AI智能体内容生成环节存在低俗擦边等违规内容,危害未成年人身心健康。据悉,6月19日上午,上海市网信办依法
2025-06-20 00:04:00 实时讯息【来源:南通市住房与城建局_部门动态】在第九个“世界害虫日”来临之际,为进一步提升白蚁防治公共服务水平,助力高校实践教学创新,近日,市白蚁防治管理中心联合南通科技职业学院,为园艺与景观工程学院2023级园林、植保专业的90余名师生精心打造了一场集科学性、趣味性和实践性于一体的特色教学实践活动。活动当
2025-06-17 04:18:00 实时讯息胡昌升在全省预防治理未成年人违法犯罪工作推进会上强调 满怀舐犊之情 强化立体施策 为未成年人健康成长保驾护航 石谋军主持中国甘肃网6月15日讯据甘肃日报报道(新甘肃·甘肃日报记者崔亚明)全省预防治理未成年人违法犯罪工作推进会6月13日在兰州召开,省委书记、省人大常委会主任胡昌升出席并讲话。他强调,要
2025-06-16 11:26:00 实时讯息6月10日,河南农商银行濮阳中心支行联合中国人民银行濮阳市中心支行,在市政府老干部活动中心举办“存保十年 守护万家”主题宣传活动,以“适老化金融知识普及”为核心,通过政策解读、案例教学、互动问答等形式,为50多位离退休老干部送上存款安全“防护指南”。中国人民银行濮阳市中心支行金融稳定科杨军以“银行给
2025-06-13 09:53:00 实时讯息6月9日,《人民日报》第12版刊发中国国家话剧院演员、第三十二届中国戏剧梅花奖获得者秦海璐的文章《我常自问是否做到了三个“懂”》。秦海璐在第十届中国戏剧梅花奖颁奖晚会后台全文如下:表演艺术要思考:如何在时代浪潮中托起人性之光。对此,我常自问是否做到了3个“懂”。首先,要懂人,通过角色刻画人情人性。演
2025-06-10 08:10:00 实时讯息