据“网信上海”6月19日消息,因AI智能体对话存在低俗擦边内容,筑梦岛APP被上海市网信办依法约谈。
近期有媒体报道,筑梦岛APP 等AI聊天软件存在虚拟角色互动生成低俗内容等问题,经核实,该平台AI智能体内容生成环节存在低俗擦边等违规内容,危害未成年人身心健康。
据悉,6月19日上午,上海市网信办依法约谈筑梦岛APP运营企业主要负责人,要求平台立即整改,健全AI生成合成内容审核机制,提升技术把关能力,加强涉未成年人不良内容的整治清理,切实落实未成年人网络保护义务。企业负责人表示,将按照约谈要求,对照问题举一反三、全面整改。
“筑梦岛”App是一款以AI陪伴为核心功能的应用,主要提供用户与虚拟AI角色的聊天互动服务。
公开信息显示,筑梦岛App目前由上海筑梦岛人工智能科技有限公司负责运营。
2025年1月,“筑梦岛”已正式独立运营,并完成新一轮融资。天眼查显示,这笔融资由商汤国香基金、阅文集团等战略投资方共同投资,融资金额超1000万美元。
6月13日,“央广网”微信公众号发布文章《AI聊天软件诱导10岁女孩聊色情内容甚至割腕!记者调查→》提到,一位初一男生表示,他常玩的AI聊天软件是筑梦岛App,在他的使用感受中,该软件“违禁词少一点”。
他还提到,其中不乏色情擦边和“分尸猎奇”等内容。央广网记者下载安装筑梦岛App,随机选择一位虚拟互动对象,对方发来的第一句开场白就是“先叫声老公来听听”,随后的对话中又提到“叫声爸爸来听听”。
在与该款产品多个虚拟角色的交流中,也都可以进行色情擦边类内容互动,并且,其中一些虚拟角色的对话尺度,并未因为央广网记者提供的假定年龄未成年而受到有效控制,这暴露出该软件在自动生成内容审核机制上存在明显漏洞。
来源:读创财经
8月8日,@抖音黑板报 发文:近日,周口市第六人民医院妇产科邵医生坠楼身亡引起了公众的深切关注。我们同广大网友一样,对此深感痛惜。事发后,据媒体报道,邵医生生前曾遭受三起医疗纠纷当事人及家属持续网暴。我们也关注到,公众对平台相关动作表达关切。现将平台已核查到的信息及对应处置情况予以说明:1、经核查,
2025-08-08 14:29:00 实时讯息今年春节,Deepseek带来的开源大模型风暴席卷全球。AI正在以前所未有的速度和广度进入大众生活。所以,当我们谈论AI的时候,我们在谈些什么?是General?还是Generative?是颠覆还是新生?这个夏天,杭州,云谷,每日互动给出了自己的答案。7月16日,每日互动CEO方毅在“GAI·每日互
2025-07-23 00:04:00 实时讯息“我深受鼓舞,接下来公司将进一步发挥科技企业的优势,将我们的技术能力更好地融入文商旅体深度融合发展当中。”7月11日,中共成都市委十四届七次全会召开,四川物通科技集团有限公司(以下简称“物通科技”)总经理袁梁有了新目标。物通科技成立于2011年,总部位于成都市成华区,是一家专注于AI+XR沉浸式内容
2025-07-16 09:03:00 实时讯息数据是个宝数据宝投资少烦恼今日(7月15日),A股市场主要指数涨跌不一,沪指冲高回落,深证成指和创业板指双双上涨,沪深京三市上涨个股近1000只。盘面上,元件、通信设备、金属新材料等行业均涨超1%。概念板块中,稀土永磁、钛白粉、共封装光学(CPO)、PEEK材料等方向领涨。其中CPO概念大幅拉升,新
2025-07-15 11:43:00 实时讯息Manus,真的从国内撤了?!4个月前一夜蹿红起飞的AI Agent产品Manus,刚被曝出背后公司一举裁掉国内七成团队。事实上,Manus总部已在5月搬到了新加坡,国内员工何去何从?现在答案终于落定,一言以蔽之:大刀阔斧地裁员。Manus国内团队约120人,仅有核心研发团队40人迁往新加坡,其余约
2025-07-10 17:26:00 实时讯息