产品中心PRODUCT CENTER

搜索

热门搜索

有道智慧体育塑胶跑道篮球场网球场健身器材运动服装

在岗记者被AI判伪造证件，AI幻觉不该让普通人买单

在岗记者被AI判伪造证件，AI幻觉不该让普通人买单智慧体育智慧体育解决方案公司动态经典案例趣动屏系统阳光跑系统 AI智慧体育1000

□刘昊成（文华学院）据中国青年报报道，持证在岗记者手持合规记者证，却被AI判定为伪造证件；当事人提出质疑后，AI又瞬间全盘推翻结论、致歉纠错。一场正常的采访工作就此泡汤，真实合法的官方资质，败给了机器一本正经的虚假论断。这桩荒诞个案并非偶然技术故障，而是AI大模型的结构性乱象：AI幻觉早已突破娱乐创作边界，深度介入现实公共判断，而行业规则缺位、平台责任松弛，最终让普通人为技术失控买单。此前百度AI捏造律师“获刑三年”诋毁他人声誉，此次大模型误判正规记者证造假，接连案例打破了公众对AI的权威滤镜。当下，不少人将AI视作真伪判定、信息核查的专业标尺，在资质核验、司法查询、身份甄别等严肃场景中全权依赖机器输出。但大模型的核心逻辑从不是“求真辨伪”，而是“概率猜词”，仅依托海量数据拼接流畅文本，不具备真实核查、事实求证的核心能力。当AI检索不到权威精准信息时，不会如实告知“无法判定”，反而会主动虚构细节、补齐逻辑，生成条理清晰、话术专业的“标准答案”。这类AI幻觉自带专业外衣，迷惑性远强于普通谣言，普通人很难甄别辨别，极易被虚假结论误导、裹挟。AI盲目自信、不懂装懂的乱象，根源是畸形的行业评测体系与逐利的产品逻辑。当前大模型训练考核沿用二元应试规则：给出确定答案即可得分，留白存疑、坦言未知则不得分。这套机制倒逼AI陷入永久“应试状态”，即便信息缺失、认知空白，也必须强行编造完整结论，从底层催生了机器的虚假笃定与武断判定。比技术失控更致命的，是公众思辨能力的被动退化。上海交大调研显示，近七成国人对AI幻觉感知极低，仅有少数人能精准识别机器虚假内容。AI秒级输出看似严谨的虚假论据，彻底颠覆了传统谣言传播规律，普通人的查证自证速度，永远追赶不上机器造假的传播速度。长期依赖AI包办判断，会逐步钝化人的独立思考、求证质疑能力。从业四年的资深记者尚且被AI虚假结论困扰、遭遇他人质疑，普通民众面对AI的“权威定论”，更是难以自证清白。机器一句无根无据的谎言，就能轻易摧毁人际信任、抹黑个人声誉、扰乱正常工作生活秩序。行业长期将AI幻觉包装为“不可避免的技术局限”，以此充当免责遮羞布，这一逻辑根本站不住脚。AI技术存在短板可以理解，但技术局限绝不等于可以放任机器伤人、随意妄断是非。娱乐创作场景的微小瑕疵可以包容，但在资质核验、司法舆情、个人征信等高敏感、高严谨领域，平台绝无放任自流的理由。反观行业现状，多数平台一味追求输出效率、内容完整性和用户体验，舍弃了最核心的审慎性与真实性。面对证件真伪、个人奖惩、资质合规等关键核查需求，大模型不对接官方权威数据库、不做交叉事实核验、不标注信息风险，反而随意给出“伪造”“违法”等定性结论，肆意制造虚假公共信息，侵害公众合法权益。整治AI幻觉乱象，无需苛责普通用户提升辨别能力，核心是压实平台责任、补齐规则短板、重构行业逻辑。首先，彻底摒弃应试式评测体系，优化大模型训练规则，允许AI对存疑、未知信息留白致歉，从根源杜绝强行编造、盲目定论的问题。其次，划定AI应用红线，严禁大模型在高敏感领域自主定性判真伪，强制对接官方查询渠道，以权威数据兜底核验。同时，平台需建立AI虚假内容溯源、纠错与追责机制，打破“技术无责”的行业惯性，对误导公众、损害权益的模型输出承担对应责任。社会层面也需重塑认知，打破对AI的权威迷信，坚守独立思考、主动求证的理性底线。技术的本质是服务人、守护人，而非误导人、伤害人。AI可以有认知局限、可以存空白未知，但绝不能不懂装懂、睁眼造假、随意评判对错。坚决杜绝AI幻觉肆意伤人，不让普通人为行业技术惰性与监管漏洞买单。本文为红辣椒评论原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。

特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。