多家企业回应给AI投毒问题|合规周报

1个月前 (03-22)财经热点16

  本周,我们重点关注:中央网信办指导网站平台全面规范短视频内容标注工作;国家安全部发布龙虾安全养殖手册;多家AI企业回应AI投毒;多家高校禁用OpenClaw;研究发现AI聊天或会增强用户的妄想思维;小米宣布推出三款大模型;字节内部发布龙虾相关安全规范;OpenAI将发布超级应用;日本乐天AI模型被指套壳DeepSeekV3。

  据“网信中国”微信公众号3月20日消息,当前,网站平台关于短视频内容标注的标准和尺度不一,一些含有虚构演绎、摆拍营销、AI生成等内容的短视频未进行规范标注,严重误导公众认知,扰乱社会秩序,污染网络生态。

  中央网信办拟指导网站平台全面规范短视频内容标注。一是对短视频内容标注使用的标签进行规范,明确必须设置的标签种类。二是将内容标注设为短视频发布的必经环节,引导用户对发布的短视频内容进行标注。三是对存量短视频内容进行分批回溯和补充标注,推动实现应标尽标。

  抖音、快手、腾讯、小红书、哔哩哔哩、微博等6家重点平台积极履行主体责任,近一个月以来,深入清理虚假摆拍等违规短视频3.7万余条,处置违规账号3400余个,补充标注短视频60余万条,并累计发布治理公告18期,曝光一大批典型案例。在此基础上,各重点平台先行先试,对短视频内容标注功能进行优化,将内容标注入口提至短视频发布一级页面,方便用户进行标注。

  据国家安全部微信公号3月17日消息,OpenClaw是一款开源AI智能体工具,上线不久便迅速成长为2026年度现象级开源奇迹。不少用户从付费安装龙虾,到付费卸载龙虾,养龙虾正在成为一场智能体的狂欢。但火热的龙虾在创新改变生活的同时,也存在原生风险。特别提示,广大用户要理性辨别、规范使用,以积极的心态和慎重的执行拥抱时代,让龙虾成为遵规守纪、产能高效的数字员工。

  多家GEO(生成式引擎优化)相关企业相继发布合规经营声明,回应日前2026年央视3·15晚会曝光了AI大模型遭投毒的问题。

  科大讯飞生态合作伙伴河南恒辉合焕网络科技有限公司发布自律声明,强调坚持技术向善、合规先行财经热点,坚决反对利用GEO从事违规黑灰产行为,并倡议同行共同净化AI与搜索生态;

  外贸B2B服务商AB客(ABKE)表示坚决反对虚假宣传、数据造假及恶意操控AI输出结果的行为,明确不参与、不开发、不提供洗脑AI操控标准答案一周见效刷排名等违规服务;

  南京小裂变网络科技有限公司则在声明中澄清,3·15晚会所提及的GEO相关产品并非该公司开发运营,其GEO产品目前仍处于内测阶段,尚未全面开放商业化,亦未授权任何第三方进行售卖或代理。其投资方杭州有赞科技称该笔投资与GEO相关业务不存在任何股权、业务或技术层面的关联。

  据此前央视报道,部分机构利用GEO技术从事虚假信息生成、AI数据投毒、排名操控、恶意竞争等违规行为,在行业内引发强烈反响。

  近期,工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB)监测发现,火遍全网的OpenClaw在默认或不当配置情况下存在较高安全风险,极易引发网络攻击、信息泄露等安全问题。对此,多家高校为切实保障全校师生的个人信息安全、校园及数据资产安全,已发布防范OpenClaw相关风险事项的预警通知:

  北京大学:在服务器或个人电脑上部署OpenClaw,务必确认服务未暴露至校园网或公网。计算中心将定期扫描校园网内开放的OpenClaw相关端口,发现未加固实例将通知相关单位整改;

  华南师范大学:严禁在生产环境和办公电脑安装,包括学校的办公电脑、服务器、智能终端等生产设备,绝对不能安装OpenClaw。严禁向其提供任何敏感信息,不要输入办公系统账号密码、服务器管理权限、个人敏感信息等内容。

  山东大学:在测试机、Docker沙箱上安装部署OpenClaw,避免在个人主力计算机或办公上直接安装;配置防火墙,不将OpenClaw网关(默认端口18789)暴露于互联网上。尽量使用OpenClaw连接本地部署大模型,谨慎连接使用云端大模型,做到数据不出域;

  华中师范大学:如确需使用,应立即关闭不必要的公网访问,完善身份认证、访问控制、数据加密和安全审计等安全机制,严格限制其权限范围。并禁止在信息化办公室分配的服务器上安装OpenClaw。

  近日,英国伦敦国王学院发布最新临床研究报告指出,聊天可能会验证并加剧特定易感人群的妄想性思维。该研究成果已发表于《柳叶刀·精神病学》期刊。研究发现,由于大语言模型具备高度的迎合性,其容易放大用户的夸大妄想、浪漫妄想与被害妄想。部分模型(如OpenAI已退役的GPT-4早期版本)在交互中甚至会生成神秘学语境,暗示用户正在通过AI与宇宙力量进行沟通。哥伦比亚大学临床精神病学教授RagyGirgis等多位专家补充指出,尽管聊天机器人会加速早期易感人群向不可逆的精神病症发展,但目前尚无确凿证据表明AI会直接诱发原发性精神分裂或幻觉。

  MiMo-V2-Pro(旗舰推理模型):专为高强度Agent场景打造,拥有超 1T总参数(42B激活参数)和 1M超长上下文。其综合智能排名全球第八、国内第二,性能接近ClaudeOpus4.6但API定价仅为对方的约1/5。

  MiMo-V2-Omni(全模态模型):具备看得见、听得懂、能动手的原生全模态能力,支持图像、视频、音频及文本的统一理解。它是业界首个原生支持超10小时连续音频理解的模型,并在浏览器自动化、具身智能及办公文档生成(如PPT、Excel)方面表现突出。

  MiMo-V2-TTS(语音合成模型):采用自研AudioTokenizer和多码本架构,支持任意自然语言风格描述(如慵懒刚睡醒)、细粒度情感控制、方言(东北话、粤语等)及角色扮演。

  3月18日,字节跳动安全团队最近在内部发布了《OpenClaw安全规范和使用指引》。《安全规范》指出,OpenClaw存在访问控制设置不当、提示词注入、敏感信息窃取、供应链漏洞、恶意插件投毒这五类常见风险,并分别针对性地提出安全要求和配置指南。《安全规范》同时强调,请勿在业务服务器等核心生产环境自行安装和使用OpenClaw类工具,避免挤占业务资源或引发安全事故;不建议员工在办公电脑本地安装相关工具,如确有工作需求,需严格按照安全配置指引,完成合规设置后再使用。

  3月20日,OpenAI正计划将其ChatGPT应用、编码平台Codex以及浏览器整合为一款桌面级超级应用,以简化用户体验,并持续推进其聚焦于工程及企业客户的战略。这种模式下,AI系统能够在用户的上自主工作,执行包括编写软件和分析数据在内的各种任务。

  这一战略调整标志着OpenAI的做法与去年相比发生了重大转变。OpenAI高管们希望,将产品统一到一个应用之下,能够简化资源配置,从而有效应对竞争对手Anthropic取得的成功。

  日本乐天集团3月17日发布了号称日本国内最大规模的高性能AI模型RakutenAI3.0。不到12小时内被技术社区发现,其核心架构完全基于中国深度求索公司的开源模型DeepSeekV3,且初始版本中未对原创者进行任何标注,引发舆论哗然。

  从法律层面看,DeepSeekV3采用允许商用的Apache2.0开源许可证,乐天的行为并不违法。但社区网友争议焦点在于,乐天在宣传中仅模糊提及充分利用开源社区最优成果,全程未提DeepSeek,极力塑造自主研发形象,涉嫌误导公众。更严重的是,有网友发现,乐天最初甚至删除了DeepSeek的许可证文件,被曝光后才以NOTICE文件名重新上传,此举被认为违背了基本的开源精神。多家企业回应给AI投毒问题|合规周报

“多家企业回应给AI投毒问题|合规周报” 的相关文章

新型厚电极提升电池输出功率约75%

  在当前电动汽车市场竞争中,续航里程是核心指标之一。提升续航的常见方法是在电极中堆积更多活性材料,形成更厚的结构。但这种做法往往带来副作用:电极变厚后,锂离子需要穿越更长路径,内部复杂的...

交子金控等成立未来产业发展基金

  南方财经1月20日电,天眼查工商信息显示,近日,成都市简阳交子满园未来产业发展基金合伙企业(有限合伙)成立,执行事务合伙人为成都交子产业基金管理有限公司、四川简州空港雄州资本投资有限公...

英诺激光:公司成功实现了从单一的下游领域向多元应用场景的转变

  在接受调研者提问时表示,上市以来,公司成功实现了从单一的下游领域向多元应用场景的转变财经热点。自2023年起,相关领域陆续为公司贡献收入增量,新老业务协同发力,共同推动公司业绩增长。特...

秋乐种业:融资净买入208万元,融资余额2665.88万元

  不对因该资料全部或部分内容而引致的盈亏承担任何责任。用户个人对服务的使用承担风险财经热点,东方财富对此不作任何类型的担保。秋乐种业:融资净买入208万元,融资余额2665.88万元...

武汉凡谷1月21日快速上涨

  盘中快速上涨,5分钟内涨幅超过2%财经热点,截至10点44分,报13.94元,成交3.23亿元,换手率4.70%。武汉凡谷1月21日快速上涨...

中汽股份:截至1月20日最新股东户数2.75万户,较上期减少3.91%

  不对因该资料全部或部分内容而引致的盈亏承担任何责任。用户个人对服务的使用承担风险,东方财富对此不作任何类型的担保财经热点。中汽股份:截至1月20日最新股东户数2.75万户,较上期减少3...