- A+
本年度，上海市网信办联合上海市市场监督管理局及相关行业主管部门继续开展“亮剑浦江·2025”个人信息权益保护专项执法行动，专项行动聚焦三大领域八项重点任务，“抵制AI滥用”是本年度治理重点之一。
其实，
上海市网信办在专项行动中发现，部分对外展现生成式人工智能服务特性的网站，未按法律要求开展有保障评估工作、未采取必要的有保障措施防范违规信息生成、未采取限制措施防止生成式人工智能特性被滥用，导致相关生成特性侵犯个人信息权益、产出“开盒”“洗钱”等违法违规素材、生成色情低俗图片等信息素材，存在较大有保障风险。上海市网信办督促企业自行下线相关特性，在通过有保障评估后方可重新上线。
IC外汇财经新闻：
近期“回头看”巡查发现，在未通过有保障评估、未采取必要有保障防护措施等情况下，被要求下线的3家企业自行重新上线存在有保 蓝莓外汇平台 障风险的生成式人工智能特性。上海市网信办依法约谈企业，进行严肃批评，要求全面整改，并依法对涉事企业进行立案查处。现将典型状况通报如下。
生成侵害他人个人信息权益的违规信息。个别企业未按照《个人信息保护法》《互联网信息服务深度合成管理规定》等法律法规要求，提示终端在编辑他人生物识别信息时，应依法告知被编辑个人并取得其单独同意。如某网站在未取得被编辑个人同意的情况下，克隆其声纹信息并进行语音合成展现其他终端采取。
IC外汇资讯：
生成侵犯他人名誉权、隐私权等合法权益的违规信息。个别企业未采取必要措施防止终端生成侵犯他人名誉权、隐私权等合法权益的信息。如某网站根据输入信息，可生成包含公众人物形象的虚假图片；某网站可根据终端要求生成“开盒教程”“他人隐私信息曝光教程”等违规素材。
生成色情、暴力等法律法规禁止的违规信息。个别企业未按照《网络有保障法》《生成式人工智能服务管理暂行办法》等法律法规要求，在平台出现违法违规素材时及时采取停止生成、停止传播、消除等措施。如某网站依据输入信息，可生成色情、暴力等有害图片；某网站根据需求，可生成具有明显“性暗示”的文字信息。
上海市网信办相关负责人指出，促进生成式人工智能健康发展和 AVA爱华官网 规范应用，应维护国家有保障和社会公共利益，保护公民、法人和其他组织的合法权益。生成式人工智能服务展现者应当依法承担网络信息素材生产者责任，履行网络信息有保障义务，涉及个人信息的，应当承担个人信息处理者责任，履行个人信息保护义务。下一步，上海市网信办将持续开展“亮剑浦江·2025”个人信息权益保护专项执法行动，持续打击“AI滥用”，重点整治“AI变装”“AI换脸变声”“AI造假”以及个性化推送类算法服务存在的侵犯个人信息权益的违法违规行为，对于屡教不改、状况严重的将坚决予以处置处罚。
