严打“黑公关”、围剿AI“黑手”，上海公布网络问题治理成果

近日，上海市委网络安全和信息化委员会办公室对外公布了“清朗浦江·2024”的8个典型处置案例，集中展示了针对自媒体造谣传谣、AI技术滥用，尤其是涉企侵权等突出网络问题的治理成果。

过去一年间，上海积极组织开展20多项专项行动，涵盖优化营商网络环境、抵制网络暴力等重点领域。经统计，累计清理违法违规和不良信息1008万余条，依规处置违规账号349万余个。

严打“黑公关” 整治自媒体涉企侵权行为

这次公布的8个典型处置案例显示，以发布负面信息敲诈企业获利，是当下重点整治的违法违规行为。部分自媒体账号编造不实内容向企业施压，借合作之名索要钱财。

比如“乳韵之家”等账号，就多次发布某乳品企业的负面信息。当企业主动联系沟通时，这些账号运营者便原形毕露。

遭到企业拒绝后，“乳韵之家”等账号仍不死心，继续向企业施压。无独有偶，“星空财富”“星空财研”等账号也使出恶劣手段。他们发布某互联网企业的不实内容，随后向企业提出，只要支付费用就能撤下这些负面文章，还要求企业交钱加入所谓“白名单”，暗示加入后就不会再被恶意曝光。

上海市委网络安全和信息化委员会办公室接到举报后查实情况，依法关闭涉事及关联账号，并将涉嫌敲诈勒索线索移交公安机关。

上海交大人工智能治理与法律研究中心秘书长 何渊：一旦出现这样的恶意勒索，正确的做法是向公安机关举报，或者向网信部门举报，寻求公权力的支持，由法律来惩办。

这类恶意行为常发生在企业首次公开募股、签订合同等关键时期，利用舆论施压，谋取不正当利益。

上海市委网络安全和信息化委员会办公室网络管理处四级调研员 陈廷雯：经过这几年持续开展优化营商网络环境专项行动，我们不断开展政策法规和案例的宣传，很多企业提高了维护合法权益的意识和能力。他们在接到自媒体提出的不合理诉求的时候，比如要求合作才能删稿，企业第一时间就会想到向网信部门举报处置。我们也会坚定支持企业维权，会同有关部门严厉打击违法违规的自媒体。

虚假兼职泛滥 网信亮剑整治

在此次专项行动中，上海市委网络安全和信息化委员会办公室发现，部分自媒体用虚假高薪兼职信息引流牟利的手段越发隐蔽，且形成了套路，严重破坏网络生态与就业市场秩序。

2024年3月，网上有“自媒体”账号大量发布“xx图书馆300/天，协助图书归类”“图书馆整理数据270元/天”等虚假招募信息，严重干扰网络生态。相关部门调查发现，这些信息其实是引流诈骗陷阱，依法依约对“兼职找搭子”“魔都驿站吧”“爱吃草莓”等违规账号予以永久封禁。

上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃：其实这些有偿兼职信息，实际上是通过标注高薪信息将网民引流到第三方平台，并逐步诱导不明真相的网民购买求职网站的会员，等消费者充值之后才发现，真正在招的岗位与宣传的不符。

经查，不法分子虚构岗位、夸大薪酬，诱使网民点击链接，接着用缴纳会员费、解锁报名资格、提交保证金预留名额等借口实施诈骗。这些信息常打着“官方合作”“公益招募”的旗号，甚至盗用图书馆、博物馆等公共机构名称，极具迷惑性。为此，上海市委网络安全和信息化委员会办公室迅速行动。

上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃：我们运用相关技术提高对不实信息的监测预警和快速识别能力，确保不实信息在刚刚冒头时就能迅速发现、及时处置，与相关部门建立网络谣言的巡查监测、核查反馈、会商研判、线索移送、打击处置的闭环机制，在相关谣言的处置中都起到了很好的震慑作用。

针对虚假招募信息隐蔽性强、平台审核困难的问题，相关部门督促平台针对“高薪兼职”“免试入职”等关键词建立样本库，进行前置过滤，同时对有历史违规记录账号的关联信息实施动态追踪。

上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃：网民在看到这些信息时，还是要谨慎分辨这些信息的真伪，要学会从网上找一些官方信息去核实，也要通过一些交叉对比的方式，去验证这些信息的真伪性。尤其是涉及钱财的时候，特别要谨慎，不要轻易去转账、充值等等。

围剿AI“黑手” 净化网络空间

随着AI生成技术日益成熟，原本服务公众的科技，却被不法之徒“魔改”，借“换脸”“换衣”传播低俗内容、设下诈骗陷阱。近期，上海市委网络安全和信息化委员会办公室向网络平台AI技术滥用乱象“宣战”，力求全方位净化网络空间，还网友一片清朗天地。

在专项行动期间，巡查人员发现“程序媛**”“小狗爱吃**”等账号，竟通过视频教程，明目张胆向用户传授利用AI技术达成“一键去衣”“换脸换身”等低俗的操作方法。而部分网络店铺竟公然售卖相关软件。

为此，上海市委网络安全和信息化委员会办公室指导属地平台开展全面排查，清理违规商品，关停违法店铺，对涉事账号采取禁言等处置措施。但整治工作不能仅依靠监管部门，平台自身也肩负重要责任。

上海某互联网平台副总编辑顾复俊：我们对账号认证注册信息的复核会严格把关，定期发布治理的公告，治理的内容包括网络暴力、网络谣言、诈骗信息。我们关注未成年人身心健康的方面，进一步完善了未成年人保护模式，用AI、用大模型来进一步辅助我们做好审核工作。

目前，部分网络平台已建立24小时举报处理机制，用户可以通过弹幕、评论等多种渠道举报违法内容。平台负责人表示，尽管AI大模型正助力审核，但技术发展速度仍赶不上犯罪手段的更新迭代。

上海市委网络安全和信息化委员会办公室网络管理处二级主任科员 周力君：单单靠平台自己的AI识别能力是有限的，我们的网民，包括技术研发专家，共同去加快相关的AI伪造信息的识别打击，我觉得才能形成更好的合力。

面对AI伪造内容难以识别，进而引发网络虚假信息泛滥、诈骗风险剧增等难题，科研人员与技术团队积极探索，一系列针对性技术手段正加速更新。其中，数字水印和特征检测成为破解难题的两大关键技术。

聚焦网络顽疾 “清朗”再出击

今年3月20日，上海市委网络安全和信息化委员会办公室联合多家单位开启了“清朗浦江・2025”网络生态治理旬行动。

继续针对涉企侵权、网络暴力等五大重点领域开展专项整治，并推出40余项主题日和平台开放日活动，积极推动健康网络生态建设。通过“监管+企业+网民”三方联动，将治理成果落地，切实优化网页呈现内容，为网民营造更优质、安全、清朗的网络环境。

来源：央视新闻客户端