各平台开始整顿AI跑偏，到底是AI错了还是人错了？

tayun

近年来，人工智能（AI）技术的迅猛发展在为各行各业带来创新机遇的同时，也遇到了诸多问题。

近日，两则与AI应用相关的新闻事件再次将这一话题推向了公众视野。3月27日，淘宝宣布全平台启动AI假图治理，迄今已成功拦截近10万张过度PS或AI夸大的假图。这一举措表明，电商平台正在积极应对AI技术滥用可能带来的消费体验下降和商家权益受损问题。淘宝方面强调，AI的正确使用应当是提升用户体验、促进原创内容的创作，并保护合法商家的利益，而非成为黑灰产牟利的工具。

与此同时，3月25日，微信小店运营团队发布了针对教育培训领域的新规，明确禁止与AI商业应用相关的课程，如“AI创业”“获客”“变现”等内容。平台担忧AI技术在教育领域可能引发的虚假宣传和不当使用，尤其是涉及AI换脸和换声等技术的课程。微信小店此举旨在规范AI技术在教育行业的应用，防止其成为误导消费者的工具。

尽管技术本身并无过错，但在实际应用中，部分用户的行为偏离了正轨，导致了负面影响的产生。正如极目新闻所指出的，AI技术的应用需要在创新与监管之间找到平衡，以确保其为社会带来积极的价值。

AI狂飙突进中的“跑偏”样本

在AI时代，数据成为关键生产要素。然而，数据隐私与安全问题日益突出。安踏集团副总裁李玲在近期举办的2025全球数字经济大会？数据要素发展论坛上指出，数据隐私保护是AI应用面临的核心挑战之一。企业在AI应用过程中，掌握着大量消费者数据，如何确保这些数据不被泄露与滥用，成为企业必须面对的问题。

广电总局近期披露的数据显示，仅2023年下半年，全网累计监测到42.7万条AI魔改影视片段，其中《红楼梦》《甄嬛传》等经典IP被篡改为武侠、科幻题材的占比高达63%。这类内容通过算法批量生产，利用观众怀旧心理收割流量，导致“劣币驱逐良币”的文化荒漠化现象。

以《红楼梦》为例，其细腻的情感描写、复杂的人物关系和深刻的社会洞察是作品的精髓所在，而AI魔改后的“武侠版红楼梦”，将其变成了简单的打打杀杀，完全背离了原著的精神内核。这种现象不仅误导了观众对经典文化的理解，也破坏了文化传承的根基，长此以往，真正优秀的文化作品将被边缘化，文化创新也将陷入困境。

AI跑偏的现象还出现在电商中。淘宝数据显示，2023年“AI生成商品图”投诉量同比激增340%，涉及服饰、家居、美妆等12个类目。某服装店铺通过AI生成“超模同款”效果图，实际商品与图片存在色差、版型等23项差异，消费者投诉率达78%。这种“视觉诈骗”正在侵蚀电商平台的信任基石。

在电商领域，消费者主要通过图片来了解商品信息，AI假图的泛滥使得消费者难以判断商品的真实情况。当消费者收到与图片相差甚远的商品时，不仅会对购买的商品感到失望，还会对整个电商平台的信誉产生怀疑。以某家居用品为例，消费者在网上看到的AI生成图片中，商品外观精美、质感上乘，但实际收到的商品却材质粗糙、做工简陋，与图片完全不符。这种“视觉诈骗”不仅损害了消费者的权益，也破坏了电商平台的生态环境，影响了平台的长期发展。

此前复旦大学抽检发现，2023届本科毕业论文中12%存在AI深度介入痕迹，部分案例出现“数据篡改”“逻辑断裂”等结构性问题。更严峻的是，DeepSeek等工具已进化出“论文降重-框架重构-文献综述”的全流程代写能力，迫使高校设立“AI检测红线”。虽然在一定程度上可以遏制AI在学术领域的滥用，但也需要进一步加强学术道德教育，提高学生的自律意识。

湖南省医保局披露的典型案例显示，某患者在DeepSeek指导下自行调整胰岛素剂量，导致酮症酸中毒入院。这类“AI轻诊断”现象在基层医疗中尤为突出，2023年全国互联网医疗投诉中，38%涉及AI误诊或用药建议偏差。医疗关乎人们的生命健康，任何决策都必须谨慎。AI在医疗领域的应用本应辅助医生做出更准确的诊断，但由于技术的局限性和数据的不完整性，AI误诊的情况时有发生。患者对AI诊断的过度依赖，可能会导致严重的健康后果。如上述案例中，患者自行根据AI建议调整胰岛素剂量，结果引发了严重的健康问题。这不仅损害了患者的健康权益，也降低了公众对医疗行业的信任度。医疗行业需要更加谨慎地应用AI技术，加强对AI医疗产品的监管，确保其准确性和可靠性。

腾讯封禁的AI创富课程中，宣称“月入20万”的营销话术屡见不鲜。某头部MCN机构数据显示，AI教育赛道在2023年融资额达47亿元，但课程完课率不足15%，学员转化率低于0.3%，暴露出“割韭菜”式的商业模式。AI教育市场的快速发展，吸引了大量资本的涌入，但其中不少课程存在虚假宣传、质量低下等问题。一些课程打着“AI创富”的旗号，向学员承诺高额收入，但实际教学内容空洞无物，无法帮助学员实现目标。这种“割韭菜”式的商业模式，不仅损害了学员的利益，也破坏了AI教育行业的声誉。

打响“AI跑偏”治理第一枪？

电商行业中，AI假图泛滥已成为严重影响消费者体验和市场秩序的顽疾。AI假图是指利用AI等技术合成方式呈现显著失真的与实际不符的商品效果图，包括 AI虚构商品效果、抄袭拼接原创款式、篡改商品材质或功能、伪造拼接虚假场景等。这些AI假图的大量存在，既误导消费者，侵犯消费者知情权，又扰乱商家生态，导致劣币驱逐良币。

为解决这一问题，淘宝率先行动。3月27日，淘宝正式发布新规，明确认定“商品材质或款式不符”“效果失真或夸大效果”“不存在场景导致商品失真”“抠图贴图感明显失真”等AI假图典型场景，并上线识别模型，通过“源头拦截”“存量清理” 和 “标识提醒”等举措，对平台AI假图进行全面治理。

在商品发布端，淘宝实时检测和拦截失真图片；在商品详情页上线AI合成提示标识，保障消费者的知情权。截至目前，平台已累计拦截过度PS、AI夸大的假图近10万张。同时，淘宝向全行业发出倡议，呼吁规范使用AI生成图片，保障商品信息真实，共同加入对AI假图的全面治理，推动行业回归品质竞争。

在教育领域，AI的应用也引发了诸多问题，高校和教育平台纷纷出台限制措施。

高校学生利用AI工具辅助论文写作、完成作业的现象日益普遍，甚至出现学术不端行为。近三成学生在写论文或作业时使用AI工具，部分学生利用AI伪造研究数据、进行实验图片编辑等。为规范学生行为，复旦大学出台“六个禁止”规定，明确允许和禁止使用 AI 工具的范围，严重违规者论文成绩不合格；天津科技大学要求学生论文中智能生成内容比例原则上不超过40%；北京邮电大学、中国传媒大学等多所高校也在试行或出台相关规定。

教育平台方面，腾讯课堂宣布对平台上的AI课程进行全面下架治理整顿。当前 AI课程市场鱼龙混杂，部分课程存在虚假宣传、误导消费者等问题。一些课程夸大教学效果，承诺学员轻松月入二十万等不切实际的收益，引发大量投诉和纠纷。腾讯课堂此举旨在净化平台环境，保障消费者权益，促进 AI 教育行业的健康发展。

为遏制AI“魔改”乱象，广电总局发布《管理提示 (AI 魔改)》，要求排查清理相关短视频，落实生成式人工智能内容审核要求，对平台相关技术产品进行自查和严格准入监看。通过加强监管，规范 AI 在影视创作中的应用，保护原创作品的知识产权，维护影视行业的正常秩序。

在医疗行业，AI的应用虽然具有一定潜力，但也存在巨大风险。以DeepSeek为例，其在医疗领域的使用引发了诸多争议。广东一位医学博主称病人因 DeepSeek 质疑其治疗方案，还有医生博主遇到病人拿 DeepSeek 诊断方案要求开药的情况。

鉴于医疗安全的重要性，湖南省医疗保障局发布通知，严禁互联网医院使用人工智能等自动生成处方。国家卫健委等也出台了对人工智能使用的限制规定。从法律层面来看，个人使用DeepSeek 看病出现误诊，DeepSeek 一方通常无需担责；若医生直接采用其处方给患者，一旦发生医疗事故则需担责。专家也提醒，应审慎对待人工智能医疗建议，身体不适要去正规医院就诊，以确保医疗安全和质量。

AI健康发展需法规与自律协同

为应对AI发展带来的数据安全与隐私保护挑战，法规层面需进一步完善相关制度。比如应强制执行数据最小化原则，要求企业在AI应用过程中，仅收集与业务需求直接相关的数据，避免过度收集用户数据。安踏集团在AI应用中，就通过建立严格的数据访问权限管理机制，确保消费者数据的安全与隐私。

要完善《数据安全法》《个人信息保护法》等法律法规，明确数据所有权归属与数据使用规则。在数据交易过程中，应建立健全数据交易市场监管机制，规范数据交易行为，防止数据泄露与滥用。

算法透明化是保障AI公平性与可解释性的关键。法规应推行算法备案制度，要求企业对用于高风险领域（如医疗、金融）的AI模型进行备案，并通过可解释性测试，确保模型决策过程能够被理解与监督。

同时，建立AI算法风险等级评估体系，根据模型的应用场景、数据来源、影响范围等因素，对生成式AI内容实施分类分级监管。对于医疗、金融等关键领域的AI应用，应设定更高的安全标准与监管要求，确保技术的稳健性与可靠性。

针对算力与能源消耗问题，法规需制定算力基础设施建设与运营标准，推动国产芯片研发与应用，降低对进口芯片的依赖。在数据中心建设方面，应强制要求使用可再生能源，提高能源利用效率，减少碳排放。

企业在AI应用过程中，应承担起社会责任，建立健全AI伦理框架。推广“AI对齐技术”，确保AI模型的输出符合人类价值观与道德标准。腾讯在AI产品研发过程中，引入了伦理审查机制，对模型的设计、训练与应用进行全程监督，避免技术滥用。

同时，建立行业联盟，如“北京前沿算法协同创新矩阵”，整合行业内的技术、算力与数据资源，共同开展关键技术研发与安全防护体系建设，提升行业整体的技术水平与安全保障能力。

AI技术的“跑偏”，本质上是人类在技术应用过程中的失范，而非技术本身的问题。通过法规迭代与行业自律的协同作用，可以引导AI回归“赋能”本质，成为推动社会经济发展的重要力量。

未来，在发展AI技术的同时，需更加注重平衡创新与治理的关系，避免“技术巨兽”失控带来的风险。同时，积极推动全球协作，构建人类命运共同体，让AI技术真正造福全人类。


来源：36kr