博体育
端午临近，福建省闽侯县南通镇方庄村内斧凿声声，百年龙舟制作技艺一派繁忙。这座拥有700余年造舟历史的古村，是远近闻名的“龙舟村”。村里匠人坚守古法选材与手工工序，从选料、打造龙骨、榫卯拼接，到上漆、雕绘龙头，十余道工序一丝不苟。如今方庄村手工龙舟广受市场认可，产品销往国内多地及东南亚地区。随着不少年轻人返乡学艺，古老造舟技艺得到有效传承，一代代匠人以匠心守护民俗文脉，让传统龙舟技艺在新时代焕发勃勃生机。图为6月8日，在方庄村“龙舟世家”方忠雄龙舟厂内，工人正在给龙舟上漆。
博体育
所谓“AI投毒”，是向人工智能大模型的训练数据中，掺入伪装成正常样本的恶意数据或虚假信息，进而影响模型判断、操纵输出结果。“投毒者”可以批量制造虚假网页、新闻，让AI在抓取数据时一并“吞下”，在不知不觉中“学歪”博体育，最终固化为针对特定问题的“标准答案”；也可以在模型中植入隐蔽的后门指令，一旦触发特定关键词就输出预设信息。
首先，数据本身越来越复杂，大模型依赖对海量数据的学习训练，各种数据混杂在一起博体育，很难做到完全可控可信，一旦缺乏严格的核查机制，就会给“投毒”留下空间；其次，“AI投毒”门槛较低，不法分子借助GEO(生成式引擎优化)工具，短时间内便能批量生成高权重虚假内容，成本极低、隐蔽性强；第三，数据作为一种新型生产要素，相应的标准体系、责任机制、监管手段等还在逐步完善，客观上增加了治理难度。
面对“AI投毒”，治理还要往深处走。AI运营者要建立更加严格的数据筛选、标注与审查机制，提升数据的可追溯性和可验证性；通过异常检测、对抗训练等手段，提高模型对异常数据的识别能力，让“掺杂”的数据更难混入。主管部门应加快规则体系建设，在制度层面上进行约束。比如，明确数据使用责任、建立违法行为惩戒机制、推动行业标准制定等。公众同样不是旁观者，面对AI的回答，多一分质疑、多一次核实，不主动传播未经查证的诱导性内容，发现异常及时反馈，主动呵护良好的人工智能生态。
详情
