媒体谈仿冒AI智能体层出不穷 误导信息频现
媒体谈仿冒AI智能体层出不穷 误导信息频现。近期,不少AI大模型平台开放了网友自制的AI智能体体验,其中一些打着官方旗号。这些带有官方Logo、语气专业的AI客服给出的回复和建议并不靠谱,引发大量误导。例如,有智能体声称可以提供“南方电网”的内推渠道,但事实上,南方电网从未开展过任何内推,所有招聘信息仅通过官方渠道发布。
在某大模型上搜出近70个“南方电网”智能体,却没有一个是南方电网发布的。这些智能体有的叫“中国南网电网”、“南方电网95598”,有的叫“南方电网面试官”,号称提供专业客服,解答电力相关问题,处理业务。相关AI大模型平台表示,企业在平台运营的官方智能体均带有认证标签;用户因个人需求自主创建的各类涉企业智能体,均未获得官方资质认证。后续平台将对未经授权、易造成混淆的企业相关智能体下架。
智能体从本质上讲是从“对话”走向了“行动”。以前的大模型像一个顾问,你问它答;现在的智能体像一个员工,你说了目标,它去执行。然而,各大平台推行的零门槛创建工具,在激发公众参与的同时,也让未经核实的信息搭上了技术的快车,放大了大模型固有的“幻觉”缺陷。尽管目前智能体还在初级阶段,可能会出现种种问题,但它的确是未来AI发展的趋势之一。
智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。面对层出不穷的AI应用,我们还是要提高安全意识,特别是辨别虚假信息、违规服务或诈骗行为,及时留存证据,通过正规渠道维权举证。对于冒充官方的AI智能体,其本质不仅是侵权,更是对公共常识的混淆。未来,提供创建工具的平台理应承担起前置审核义务,包括实名制认证和真实资质认证。媒体谈仿冒AI智能体层出不穷 误导信息频现