严打“黑公关”、围歼AI“黑手”,上海发布网络问题管理效果

liukang20246天前718吃瓜158
近来,上海市委网络安全和信息化委员会办公室对外发布了“明亮清明浦江·2024”的8个典型处置事例,会集展现了针对自媒体诽谤传谣、AI技能乱用,尤其是涉企侵权等杰出网络问题的管理效果。
曩昔一年间,上海活跃安排展开20多项专项举动,包含优化营商网络环境、抵抗网络暴力等要点范畴。经计算,累计收拾违法违规和不良信息1008万余条,依规处置违规账号349万余个。
严打“黑公关” 整治自媒体涉企侵权行为
这次发布的8个典型处置事例显现,以发布负面信息敲诈企业获利,是当下要点整治的违法违规行为。部分自媒体账号假造不实内容向企业施压,借协作之名索要金钱。
比方“乳韵之家”等账号,就屡次发布某乳品企业的负面信息。当企业自动联络交流时,这些账号运营者便暴露无遗。
遭到企业拒绝后,“乳韵之家”等账号仍不死心,持续向企业施压。无独有偶,“星空财富”“星空财研”等账号也使出恶劣手法。他们发布某互联网企业的不实内容,随后向企业提出,只需付出费用就能撤下这些负面文章,还要求企业交钱参加所谓“白名单”,暗示参加后就不会再被歹意曝光。
上海市委网络安全和信息化委员会办公室接到告发后查实状况,依法封闭涉事及相关账号,并将涉嫌敲诈勒索头绪移交公安机关。
上海交大人工智能管理与法令研究中心秘书长 何渊:一旦出现这样的歹意勒索,正确的做法是向公安机关告发,或许向网信部分告发,寻求公权力的支撑,由法令来惩罚。
这类歹意行为常发生在企业初次揭露募股、签订合同等关键时期,使用言论施压,获取不正当利益。
上海市委网络安全和信息化委员会办公室网络管理处四级调研员 陈廷雯:经过这几年持续展开优化营商网络环境专项举动,咱们不断展开政策法规和事例的宣扬,许多企业进步了保护合法权益的认识和才干。他们在接到自媒体提出的不合理诉求的时分,比方要求协作才干删稿,企业第一时间就会想到向网信部分告发处置。咱们也会坚决支撑企业维权,会同有关部分严厉冲击违法违规的自媒体。
虚伪兼职众多 网信亮剑整治
在此次专项举动中,上海市委网络安全和信息化委员会办公室发现,部分自媒体用虚伪高薪兼职信息引流牟利的手法越发荫蔽,且构成了套路,严峻破坏网络生态与作业市场秩序。
2024年3月,网上有“自媒体”账号很多发布“xx图书馆300/天,帮忙图书归类”“图书馆收拾数据270元/天”等虚伪招募信息,严峻搅扰网络生态。相关部分查询发现,这些信息其实是引流欺诈圈套,依法依约对“兼职找搭子”“魔都驿站吧”“爱吃草莓”等违规账号予以永久封禁。
上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃:其实这些有偿兼职信息,实际上是经过标示高薪信息将网民引流到第三方途径,并逐渐诱导不明真相的网民购买求职网站的会员,等顾客充值之后才发现,真正在招的岗位与宣扬的不符。
经查,不法分子虚拟岗位、夸张薪酬,诱使网民点击链接,接着用交纳会员费、解锁报名资历、提交保证金预留名额等托言施行欺诈。这些信息常打着“官方协作”“公益招募”的旗帜,乃至盗用图书馆、博物馆等公共机构名称,极具迷惑性。为此,上海市委网络安全和信息化委员会办公室敏捷举动。
上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃:咱们运用相关技能进步对不实信息的监测预警和快速辨认才干,保证不实信息在刚刚冒头时就能敏捷发现、及时处置,与相关部分树立网络流言的巡查监测、核对反应、谈判研判、头绪移交、冲击处置的闭环机制,在相关流言的处置中都起到了很好的震撼效果。
针对虚伪招募信息荫蔽性强、途径审阅困难的问题,相关部分催促途径针对“高薪兼职”“免试入职”等关键词树立样本库,进行前置过滤,一起对有前史违规记载账号的相关信息施举动态追寻。
上海市委网络安全和信息化委员会办公室网络管理处一级主任科员 吴跃:网民在看到这些信息时,仍是要慎重分辩这些信息的真伪,要学会从网上找一些官方信息去核实,也要经过一些穿插比照的方法,去验证这些信息的真伪性。尤其是触及金钱的时分,特别要慎重,不要容易去转账、充值等等。
围歼AI“黑手” 净化网络空间
跟着AI生成技能日益老练,本来服务大众的科技,却被不法之徒“魔改”,借“换脸”“换衣”传达低俗内容、设下欺诈圈套。近期,上海市委网络安全和信息化委员会办公室向网络途径AI技能乱用乱象“宣战”,力求全方位净化网络空间,还网友一片明亮清明六合。
在专项举动期间,巡查人员发现“程序媛**”“小狗爱吃**”等账号,竟经过视频教程,明火执仗向用户教授使用AI技能达到“一键去衣”“换脸换身”等低俗的操作方法。而部分网络店肆竟公开售卖相关软件。
为此,上海市委网络安全和信息化委员会办公室辅导属地途径展开全面排查,收拾违规产品,关停违法店肆,对涉事账号采纳禁言等处置办法。但整治作业不能仅依托监管部分,途径本身也担负重要职责。
上海某互联网途径副总修改顾复俊:咱们对账号认证注册信息的复核会严格把关,定时发布管理的公告,管理的内容包含网络暴力、网络流言、欺诈信息。咱们重视未成年人身心健康的方面,进一步完善了未成年人保护模式,用AI、用大模型来进一步辅佐咱们做好审阅作业。
现在,部分网络途径已树立24小时告发处理机制,用户能够经过弹幕、谈论等多种途径告发违法内容。途径负责人表明,虽然AI大模型正助力审阅,但技能发展速度仍赶不上违法手法的更新迭代。
上海市委网络安全和信息化委员会办公室网络管理处二级主任科员 周力君:单单靠途径自己的AI辨认才干是有限的,咱们的网民,包含技能研制专家,共同去加快相关的AI假造信息的辨认冲击,我觉得才干构成更好的合力。
面临AI假造内容难以辨认,从而引发网络虚伪信息众多、欺诈危险剧增等难题,科研人员与技能团队活跃探索,一系列针对性技能手法正加快更新。其间,数字水印和特征检测成为破解难题的两大关键技能。
聚集网络恶疾 “明亮清明”再反击
本年3月20日,上海市委网络安全和信息化委员会办公室联合多家单位敞开了“明亮清明浦江・2025”网络生态管理旬举动。
持续针对涉企侵权、网络暴力等五大要点范畴展开专项整治,并推出40余项主题日和途径敞开日活动,活跃推进健康网络生态建设。经过“监管+企业+网民”三方联动,将管理效果落地,实在优化网页出现内容,为网民营建更优质、安全、明亮清明的网络环境。
来历:央视新闻客户端
告发/反应

相关文章

追寻科技前沿 定位中心动态

前沿查询

◦ 美国国防部宣告发动“奥林匹斯方案”

人工智能

◦ 首个被人类骗走5万美金的AI诞生

◦ 韩国初次同意76本AI数字教科书

◦ OpenAI或将在其产品中植入广告

◦ 英伟达寻求在台湾地区树立人形机器人供应链

数字地缘

美国将发动对我国半导体工业的第三轮冲击

◦ 美拟对东南亚四国光伏产品征收反倾销税

科技前沿

◦ 物理学家首提“猫猫运动方程”

前沿查询

01

美国国防部宣告发动“奥林匹斯方案”

图片来历:grabsun.com

11月29日,美国国防部宣告发动“奥林匹斯方案”,旨在经过先进的数字技能提高与世界盟友的协作才干,满意现代战役中快速信息同享的需求。该方案由联合参谋部J-6部分牵头,经过优化联合全域指挥与控制系统(CJADC2),初次在单一网络上布置协作伙伴环境架构。

“奥林匹斯方案”的中心在于选用“零信赖”架构和数据中心化的安全技能以构建灵敏且安全的网络环境,完成跨渠道的多范畴协作。现在,该项目已在全球范围内打开测验,包含支撑英国主导的海上联合行动。

该方案凸显了未来信息化战役中互联互通和网络安全的重要性。我国需加快推进军事范畴的数字化转型,特别是在多范畴指挥与控制系统的研制和世界协作形式上,要平衡信息同享功率与网络安全防护才干。

人工智能

02

AI智能体Freysa被人类骗走5万美金

图片来历:IT之家

11月22日,一个名为Freysa的AI智能体被“骗走”近5万美元,引起了不小的颤动。

该事情源自一场测验人工智能安全性的试验。在试验过程中,参与者付出必定费用后,就可以发送音讯测验压服Freysa转账。假如压服失利,这笔费用将累加到奖金池中,直到有人成功压服它。终究,第482条音讯经过引进新规则、误导要害函数逻辑等手法,成功绕开了Freysa的安全防护机制,将奖金池中的资金悉数转出。

自然的一周科技追踪(下)· AI被骗5万?智能体也要装反诈APP!的照片

这一事例提醒了大言语模型的内涵局限性。这些模型基本上是经过仿照人类数据标示员的常识和行为形式练习而成。当面临高度杂乱的使命时,它们简单被精巧的提示词所误导。现在的技能水平还难以彻底消除此类安全隐患。

03

韩国初次同意76本AI数字教科书

图片来历:韩联社

11月29日,韩国副总理兼教育部长李周浩(Lee Ju-ho)宣告了“引进AIDT路线图调整案”,初次同意76本依据AI编写的数字教科书用于中小学教育。

早在2023年6月,韩国教育部就发布了“AI数字教科书推行方案”,旨在凭借AI打开个性化教育。依据该方案,从2025年开端,这些教科书将用于数学、英语、信息学和韩语教育等科目。

在最新的方案中,韩国政府调整了多个科目引进AIDT的进展,首要是因为社会各界遍及忧虑AIDT或许会加重学生对数字设备的依靠。一起,项目施行的本钱预算和详细施行战略没有清晰。

在教育范畴推行生成式AI技能显现出前瞻性,但在教育数字化转型的过程中,有必要全面评价技能革新或许带来的问题,并拟定相应的应对战略。

04

OpenAI或将在其产品中植入广告

图片来历:金融时报

12月2日,OpenAI首席财政官Sarah Friar在采访时称,OpenAI正考虑在其人工智能产品中引进广告来添加收入。

Sarah在一份声明中表明,公司会“慎重挑选”广告投进的机遇和场合,并对探究其他收入来历持敞开情绪。

OpenAI此举或与其现在财政状况不佳有关。本年10月发布的陈述显现OpenAI在2026年估计将面临高达140亿美元的亏本,而要到2029年才干真实完成盈余。现在,OpenAI的首要收入来历是会员费用与API接入费用,这与其昂扬的研制费用比较显得无济于事。

此前,AI搜索引擎Perplexity现已在其产品中植入广告,其收费是传统数字广告的5到25倍。OpenAI的这一行动或许会引起国内外企业跟风仿效,成为人工智能企业收入的新增加点。但是,关于用户来说,这或许意味着他们在运用人工智能产品时需求面临广告的搅扰。

05

英伟达寻求在台湾地区树立人形机器人供应链

图片来历:美联社

据多家台湾媒体报道,英伟达正在台湾寻觅协作伙伴,以推进树立人形机器人供应链。据和大、盟立、盟英、所罗门和上银等厂商泄漏,他们正与英伟达的相关部分进行触摸。业界估计,相关作业最早或许在下一年发动,台湾机器人供应链有望逐渐成型,乃至或许在台湾完成机器人的拼装出产。

英伟达本年早些时候展现了专为人形机器人开发规划的Jetson Thor计算机,并将自己定位为机器人技能的提供者而非制作者。一起,其也宣告与特斯拉协作出产Optimus机器人。因此,本轮与台湾厂商的洽谈很或许是环绕这些议题打开。

数字地缘

高质量的一周科技追踪(下)· AI被骗5万?智能体也要装反诈APP!的图像

06

美国将发动对我国半导体工业的第三轮冲击

图片来历:路透社

12月2日音讯,美国将对我国半导体工业主张三年来的第三轮冲击,方案约束对140家我国公司的出口这些办法包含对先进存储芯片、高带宽内存(HBM)芯片以及24种芯片制作东西和三种软件东西的出口管控。其目的旨在削弱我国芯片制作才干,特别是在人工智能和军事应用范畴的开展潜力。

我国互联网协会、我国汽车工业协会、我国半导体职业协会和我国通讯企业协会12月3日发布声明。声明中指出,美国芯片产品不再被视为安全和牢靠的挑选,我国相关职业要慎重收购美国芯片。一起,协会呼吁国内企业自动采纳应对办法,寻求扩展与其他国家和地区芯片企业的协作,并活跃运用外资企业在华出产制作的芯片。

07

美拟对东南亚四国光伏产品征收反倾销税

图片来历:techinasia

11月29日,美国商务部开端裁决,以为来自柬埔寨、马来西亚、泰国和越南的光伏产品以低于出产本钱的价格在美国商场不公平出售,主张对这些产品征收高达271%的反倾销税美国商务部的终究裁决成果估计将在下一年4月发布,美国世界交易署将在下一年6月作出裁决并宣告终究方针。

此次查询是依据美国太阳能制作商联盟交易委员会4月提交的请愿书发动的。东南亚是我国光伏产品的重要出口基地,该行动或许会添加我国光伏企业的本钱压力。为躲避美国的关税,许多我国企业已开端将工厂从越南等国迁往老挝、印度尼西亚等其他国家。

美国该项关税办法一旦落地,在短期内或促进美国本乡光伏组件产能增加,但从久远来看,将按捺全球光伏工业的技能进步和持续开展。

科技前沿

08

物理学家首提“猫猫运动方程

图片来历:量子位

近来,西班牙加利西亚高能物理研讨所(IGFAE)的研讨员Anxo Biasi从自己猫咪Eme的行为中取得创意,宣告了一篇关于“猫猫运动方程”的共同论文,初次测验用数学方程来模仿猫的典型行为。

经过微分方程,Biasi成功将猫的7种行为以定性的方法表明出来。他将猫咪假设为一个遵守牛顿力学的点粒子,人则是外部势能的来历。当猫在歇息时,它往往喜爱和人坚持必定的间隔。这个习性在模型中被表明为“最舒适的点”违背正中心。假如猫乐意趴在人身上,模型会用“势能的平衡点”刚好在中心来表明,这是猫感到彻底放松的状况。当猫被抚摸时,它或许会轻轻晃动身体,这种摇晃动作被描绘为它在平衡点邻近小范围移动的状况。作者表明,这一模型旨在用于经典力学的入门课程,协助学生更好地了解平衡点、势垒、冲突或外力等概念。

·END·

作者:赵佳文、邵正棋、石淳瑜、刘成昊、苏敏柔、李青倩、孙霁坤

修改:赵佳文

撰写:同济大学国家立异开展研讨院

监制:同济大学政治与世界关系学院、同济大学外国语学院

监审:同济大学网络空间世界管理研讨基地

一周科技追寻(下)· AI上圈套5万?智能体也要装反诈APP!

本周动态追寻科技前沿 定位中心动态前沿查询◦ 美国国防部宣告发动“奥林匹斯方案”人工智能◦ 首个被人类骗走5万美金的AI诞生◦ 韩国初次同意76本AI数字教科书◦ OpenAI或将在其产品...

英伟达开年榜首炸,2025年生成式AI将迎来哪些革命性改变?

来历:新榜官微“闪闪发光的新夹克”为AI界带来了2025年的开幕大秀。1月7日,CES 2025现场,习气身穿一身皮革夹克的英伟达创始人兼CEO黄仁勋,一露脸就开端玩梗:“我的夹克美观吗?”作为全球消...

AI新闻日历:4月起这些新规将实施 下周上海还有这些招聘会

这是一篇运用AI东西(豆包)辅佐生成的新闻日历,小编经过输入“日期+有哪些重要新闻”指令,AI东西经过现有新闻报道中收拾出每天的一些新闻事情。在整个新闻日历的制作过程中,小编对AI收拾的新闻进行了挑选...

最高法AI宣传片来了!百度智能云助力两会反网暴法治传达

央广网北京3月10日音讯 两会期间,最高人民法院新媒体发布全网首个AI生成反网暴宣传片《一句话的分量》引发重视。该宣传片由人民法院新闻传媒总社与百度APP、百度智能云协作,经过AI超写实视频生成技能...

网评|你的每次点击都是防地:从胖猫事情到AI欺诈,全民网安必修课

在数字化浪潮席卷全球的今日,网络安全已成为关乎国家安全、经济发展和社会安稳的重要柱石。从流言传达到电信欺诈,从数据走漏到境外浸透,每一个典型事例都在警示咱们:构建网络安全防地需求全民的一同职责与担任。...

友情链接: