南非新移民白皮书曝出AI虚构内容,两名高官被停职

南非内政部4月30日宣布，在发现内阁批准的修订版公民身份、移民与难民保护白皮书中存在AI人工智能生成的虚假参考文献后，已立即暂停了两名高级官员的职务。这是不到一周时间内，南非政府第二份因被查出引用虚构来源而陷入丑闻的内阁批准政策文件。

内政部在声明中表示，负责该白皮书编制部门的一名首席主管已于周四（4月30日）下午被采取预防性停职措施，另一名参与起草工作的主管将于下周一（5月4日）同样被停职。该部已任命两家独立律师事务所，一家负责纪律处分程序，另一家则负责全面审查自2022年11月30日OpenAI向公众发布ChatGPT以来，该部门制定的所有政策文件。

内政部还承诺，今后将在内部审批流程中嵌入人工智能核查与相关声明机制。

这份引发争议的修订版白皮书由内政部长莱昂·施赖伯力推，被其称作一代人以来对南非公民身份和移民框架最根本的改革，并于4月3日获得内阁批准。内政部初步审查表明，可疑的参考文献疑似事后生成并添加到文件中，并未在正文中被引用。目前，参考文献清单已被撤回，等待独立调查结果。

内政部坚称，白皮书正文“继续准确反映政府立场”，并未因显而易见的“AI幻觉”而受到“实质性影响”。该部表示：“尽管如此，内政部仍为这一不可接受的疏忽真诚道歉”，并将这一事件视为“进一步推动内部流程现代化的契机”。

此次停职事件距离上一次类似丑闻仅隔四天。此前，南非通信与数字技术部长索利·马拉齐在News24网站的一篇报道揭露，该国《国家人工智能政策》草案的67条学术引用中至少有6条为虚构文献——这些虚假文章被归于真实期刊和从未涉足相关课题的作者名下。该草案已于3月25日获内阁批准，并于4月10日在政府公报上发布以征求公众意见，随后被部长全部撤回。

马拉齐在一份声明中表示，最合理的解释是“未经适当核实便纳入了人工智能生成的引文”，并承诺对负责起草和质量保证的人员进行“后果管理”。他称这一事件是“不可接受的疏失”，恰恰证明了“对人工智能的使用保持警惕性的人工监督为何如此关键”。

南非议会负责监督通信部的委员会主席库塞拉·迪科更是嘲讽称，该部在重新起草人工智能政策时，“这次不妨跳过使用ChatGPT这一步”。

接连发生的两起事件，引发了外界对未经核实使用人工智能的做法在南非公共部门中蔓延程度的尖锐拷问——这恐怕也是内政部决定审查过去三年半所有政策文件的原因。两起事件也让人们质疑相关质量保障流程：何以两份内阁批准的文件在短时间内接连带着捏造的参考文献通过内部审查，这背后的机制漏洞亟待审视。