仿冒AI智能体层出不穷 有用户被误导 谁该担责?

  近期,有网友发现 ,不少AI大模型平台都开放了网友自制的AI智能体的体验,其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱 。这些引发大量误导的智能体究竟是怎么生成的?普通人又该如何擦亮双眼?

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第1张图片

  如果AI大模型上的智能体(Agent)告诉你,有“南方电网”招聘的内推渠道 ,这会是真的吗?近日 ,南方电网公司官方科普辟谣平台“南网求知 ”视频号发布视频,反映在大模型上竟搜出了近70个“南方电网”智能体,却没有一个是南方电网发布的。有关所谓内推信息 ,视频号辟谣说:

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第2张图片

  我问南方电网内训师智能体,南方电网有没有内推渠道,它让我联系某个私人手机号 ,顺着号码一查,发现竟是一个中介机构。事实上,南方电网从未开展过任何内推 。所有招聘信息仅通过官方渠道发布 。

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第3张图片

  对此 ,相关AI大模型平台表示,企业在平台运营的官方智能体均带有认证标签。用户因个人学习 、求职等需求自主创建的包括企业模拟面试官在内的各类涉企业智能体,均未获得官方资质认证。后续平台也将对未经授权、易造成混淆的企业相关智能体下架 。

  究竟什么是智能体 ,它和我们熟悉的DeepSeek等大模型有什么区别?工业和信息化部信息通信经济专家委员会委员刘兴亮指出,智能体从本质上讲,是从“对话”走向了“行动 ”。

  刘兴亮:智能体 ,英文名为Agent。简单地说就是它不只是回答问题 ,它是一个能替你做事的AI 。以前的大模型,你可以理解为它像一个顾问,你问他答。现在这个智能体 ,像一个员工,你说了目标,他去执行。本质上 ,智能体就是把一个机构的服务能力做成了一个“数字员工 ” 。

  既然具备“员工”的能力,为何会频繁出现误导用户的现象?刘兴亮表示,各大平台推行的零门槛创建工具 ,在激发公众参与的同时,也让未经核实的信息搭上了技术的快车,放大了大模型固有的“幻觉”缺陷。

  刘兴亮认为 ,尽管目前智能体还在初级阶段,可能会出现种种问题,但它的确是未来AI发展的趋势之一。

  刘兴亮:过去的我把他们叫作“生成式AI ” ,现在智能体这一波 ,我把它叫作“养成式AI” 。就是你得去养,AI给了一个能力,就像雇了一个实习员工 ,不是说来了就能很好地上岗,我们得去培训他,去教育他 ,让他变得越来越好。

  智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。面对层出不穷的AI应用,我们还是要提高安全意识 ,特别是辨别虚假信息、违规服务或诈骗行为,及时留存证据,通过正规渠道维权举证 。

  对于冒充官方的AI智能体 ,中国政法大学人工智能法研究院院长张凌寒认为,其本质不仅是侵权,更是对公共常识的混淆 。未来 ,提供创建工具的平台理应承担起前置审核义务。

  张凌寒:滥用他人名义的Agent ,是严重的侵权行为和混淆冒用的不正当竞争行为。实际上平台是有审核义务的,这种实名制的认证,包括真实资质的认证 。我们国家已经有一套对账户管理体系的完整的认证机制 ,相信未来这样的制度也都会延伸到有关Agent的审核当中去。

  在AI这位“实习员工”真正成熟之前,如果因为轻信这些山寨智能体造成了损失,制作智能体的个人创建者需要担责吗?北京航空航天大学法学院副教授赵精武给出了明确的法律界定:关键看是否为了商业牟利。

  赵精武:如果只是为了普及知识 ,了解一些业务咨询流程的指导,这不需要担责 。但假如研发者是为了引流 、获取一定的商业利益,在获取商业利益的过程中发生了欺诈 ,这种行为肯定是要担责的。

  但并非所有领域的智能体都能被随意创建。赵精武指出,针对电网 、医疗等特殊场景,以及AI生成内容的标识问题 ,我国现行法律体系已经划定了明确的红线 。

  面对防不胜防的AI生态,张凌寒教授特别提醒,尤其在涉及财产安全的领域 ,绝不可轻信。

  张凌寒:随着平台业务的延伸 ,大量的Agent入驻平台,尤其是在人工智能的“幻觉 ”还无法完全消除的情况下,对于医疗、金融等专业的意见和涉及财产健康方面的Agent ,实际上我们是不能够完全相信的,而是还要到官方网站去进行相关的服务和交易。

  赵精武提醒,当下的智能体尚处于发展阶段 ,切莫被部分技术概念炒作的营销口号迷惑,既要对新兴技术应用抱有积极客观的态度,也要警惕技术创新过程中不可避免的安全风险 。

  (总台记者 任梦岩)

标签:

相关推荐

  • 台风和疫情(台风与疫情)

    台风和疫情(台风与疫情)

    疫情算不算自然灾害〖壹〗、法律分析:不算,自然灾害是人类依赖的自然界中所发生的异常现象,而疾病是人类本身产生的灾害,虽然病原体大部分都是源于自然。〖贰〗、法律分析:新型冠状病毒疫情符合不可抗力的特征,但并非自然灾害。疫情突发性极强,公众无法预见,且至今无有效治愈方法,普遍无法避免。因此,“新冠疫情”满足不可抗力的构成要素。法律依据为《中华人民共和国民...

    2026/05/07
  • 疫情出省补贴(疫情出省补贴怎么申请)

    疫情出省补贴(疫情出省补贴怎么申请)

    怎么进入国家民政网申请疫情补助首先,打开微信,在我的界面,点帆差击【服务】。点击【城市服务】然后,进入服务界面,点击【城市服务】。点击【社会综合】接着,在服务界面,点击【社会综合】。选取【防疫补贴申请】进入社会综合服务里面,选取防控疫情里面的【防疫补贴申请】。了解当地疫情补助政策和申请条件:不同地区的补助政策和申请条件可能有所不同,因此需要先了解当地的具...

    2026/05/07
  • 全村疫情情况(村级疫情开展情况汇报)

    全村疫情情况(村级疫情开展情况汇报)

    户户有悲声,村村添新坟:疫情下有多少农村老人“悄然入土”?〖壹〗、疫情下悄然入土的农村老人数量保守估计以数百万计。以下从农村老人感染情况、感染后救治情况、家庭照料情况、相关数据推算等方面进行详细阐述:农村老人感染情况农村血缘宗亲多在本乡本土,疫情下家家户户的宗族或血亲中,几乎都有老人因感染病重或离世,呈现出“户户有悲声、村村添新坟”的景象。〖贰〗、在新坟...

    2026/05/07
  • 承德疫情李(承德疫情确诊病例)

    承德疫情李(承德疫情确诊病例)

    2020年有哪些人为战争疫情付出了贡献?〖壹〗、这个有很多啊,有一些专家工程院院士啊,很多的医护工作者包括志愿者啊,等等,这些人都为疫情贡献了力量。〖贰〗、总之,2020年最让我感动的是那些在疫情中无私奉献、英勇奋战的医护人员和各行各业的坚守者。他们用自己的行动诠释了什么是真正的英雄,什么是真正的伟大。他们的事迹将永远铭刻在历史的长河中,激励着我们不断前行...

    2026/05/07
  • 【久疫情,原来疫情已经这么久了】

    【久疫情,原来疫情已经这么久了】

    人类历史上持续时间最长的疫情〖壹〗、麻风病是人类历史上持续时间最长的疫情之一,它在世界上流行了近3000年,在中国流行了近2000年。麻风病由麻风杆菌引起,曾被称为“天刑病”,因其高度传染性、治疗难度大以及可能导致的容貌毁损和肢体残疾而令人闻之色变。麻风病曾是全球医学界面临的重要难题,影响深远。中国、埃及和印度被认为是麻风病的三大主要疫源地。〖贰〗、史...

    2026/05/07
  • 浙江清明疫情/浙江清明疫情最新情况

    浙江清明疫情/浙江清明疫情最新情况

    清明不能去哪里乱葬岗、无人打理的坟场这类场所是孤魂野鬼的聚集地,因长期无人供奉超度,戾气较重。清明节期间,阴气达到峰值,夜间进入或路过可能被“缠上”,导致运势低迷或健康问题。久无人住的荒村、荒屋长期空置的建筑易被邪气侵占,民间视为“另一个世界的入口”。清明时节有一些地方通常不太建议前往,主要原因如下:刚发生重大灾害或事故的地区比如遭受严重地震、洪水、火灾等...

    2026/05/07
  • 【莎车最新疫情,莎车县疫情风险等级】

    【莎车最新疫情,莎车县疫情风险等级】

    莎车县有几个高风险区〖壹〗、莎车县新增6个高风险区。根据《关于进一步优化新冠肺炎疫情防控措施科学精准做好防控工作的通知》最新规定,高风险区连续5天未发现新增感染者,降为低风险区。〖贰〗、截止2022年12月8日,有38个。经查阅莎车县防疫中心官方网站资料,有高风险区共38个。莎车县是全国最大的巴旦姆生产基地,被誉为中国巴旦姆之乡。〖叁〗、截至2022年11...

    2026/05/07
  • A股5月“开门红” 科技叙事激活市场情绪

    A股5月“开门红” 科技叙事激活市场情绪

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  证券时报记者胡华雄  “五一”假期后首个交易日,A股市场整体大幅上涨,其中科技类股票涨幅可观——科技叙事激活市场情绪,赚钱效应显著,国产半导体和芯片类相关股票表现尤为突出。  当天上证指数和深证成指分别上涨1.17%和2.33%,反映科创板上市公司证券整体表现的科创综指则...

    2026/05/07
  • 勉县疫情/勉县疫情防控最新消息

    勉县疫情/勉县疫情防控最新消息

    汉中南郑区有疫情吗汉中南郑区有疫情吗?有的【12月6日汉中新增本土“10+24”主要活动轨迹公布!】12月6日,我市新增10例新冠肺炎本土确诊病例(南郑区6例、汉台区3例、勉县1例),24例本土无症状感染者(南郑区10例、汉台区6例、洋县4例、勉县2例、略阳县2例)。0例。根据河南省疫情防控中心了解到,截止至2022年9月17日,汉中南郑地区降为低风险...

    2026/05/07
  • 农业银行获平安人寿保险增持4747.4万股 每股作价约6.16港元

    农业银行获平安人寿保险增持4747.4万股 每股作价约6.16港元

      香港联交所最新资料显示,4月30日,平安人寿保险增持农业银行(01288)4747.4万股,每股作价6.1568港元,总金额约为2.92亿港元。增持后最新持股数目约为67.84亿股,最新持股比例为22.07%。...

    2026/05/07
返回顶部