人工智能在军事领域的应用日益广泛

作为最能掌握这项技术的国家，以色列在该地区率先部署人工智能军事技术，并常常造成毁灭性后果。以色列在2021年5月的战争中首次大规模运用这些技术，但自2023年10月7日以来，其对这些技术的使用呈指数级增长。据报道，在加沙战争爆发后的最初几周内，以色列就利用人工智能决策支持系统（DSS）“薰衣草”（Lavender）生成了一份包含37000个目标的清单。

以色列在人工智能（AI）的军事整合方面投入巨资，从在国防部国防研究与发展局内设立人工智能与自主管理部门，到授权精锐信号情报部队8200开发以色列国防军（IDF）自主研发的人工智能工具，均有涉及。虽然人工智能已被集成到武器系统中以提高目标跟踪和击杀率，例如“智能射击者”（Smart Shooter）公司的SMASH光学瞄准镜，但以色列最重要的创新在于人工智能决策支持系统（AI DSS）的开发。以色列的人工智能决策支持系统（AI DSS）包括：“薰衣草”（Lavender），该系统根据嫌疑人与武装团体的关联程度对目标进行评级；“福音”（Habsora），该系统生成目标列表；以及“爸爸在哪儿？”（Where's Daddy ? ） ，该系统在潜在袭击发生前追踪目标人物的位置。虽然将人工智能集成到决策支持系统中，使军队能够更快地分析数据并加快决策周期，但由于目标生成速度过快，无法进行有效的人工核查，以及机构对人工智能生成的评估而非人工生成的评估存在较高的偏见风险，因此也增加了出错的风险。

美国也在该地区部署这些技术。值得注意的是，美国战争部已利用人工智能决策支持系统（AI DSS）识别伊朗、伊拉克、叙利亚和也门境内的目标。最近，在“史诗狂怒行动”（Operation Epic Fury）中，美军在24小时内打击了伊朗境内的1000个目标。目标规模如此之大且选择如此迅速，关键因素在于美军使用了Palantir公司的Maven智能系统，该系统还集成了Anthropic公司的Claude人工智能，用于分析监视数据、创建目标列表并实现目标优先级排序。在伊朗，许多被打击的目标都是民用设施，包括学校、医疗机构和住宅，这凸显了快速生成目标的风险。作为回应，伊朗已将目标锁定在阿联酋和巴林的亚马逊（AWS）数据中心，以“查明这些中心在支持敌方军事和情报活动中的作用”，这可能指的是Palantir公司的人工智能平台（集成了Anthropic公司的Claude人工智能）托管在亚马逊（AWS）服务器上。

面部识别软件是另一个主要应用案例。例如，以色列已在加沙和西岸地区大规模推广面部识别项目。在西岸，以色列国防军使用一系列系统访问名为“狼群”（Wolf Pack）的数据库，该数据库存储着巴勒斯坦人的信息。安装在检查站的“红狼”（Red Wolf）系统和安装在以色列士兵智能手机上的“蓝狼”（Blue Wolf）系统会自动将巴勒斯坦人的生物识别数据录入“狼群”数据库，该数据库会创建巴勒斯坦人的情报档案，并将其分享给以色列国内安全机构辛贝特（Shin Bet）。这种广泛且非自愿的面部识别项目违反了国际人权法（IHRL）的保护，包括隐私权（《公民权利和政治权利国际公约》第17条）。

其他地区国家也在努力追赶。伊朗前最高领袖赛义德·阿里·哈梅内伊曾呼吁伊朗“掌握人工智能”，但伊朗在人工智能领域取得的进展细节尚无法得到独立核实。阿联酋目前尚未拥有完善的人工智能系统，但其国有国防集团EDGE正在收购以色列人工智能无人机探测公司Thirdeye Systems 30%的股份，并与美国军火制造商Anduril成立合资企业，共同生产具备人工智能增强功能的无人机。土耳其军火制造商STM和Baykar Defense率先研发出配备人工智能图像处理软件的无人机；据报道，STM的Kargu无人机曾在2020年与利比亚哈夫塔尔将军的部队交战。  

商业推动者

这些技术背后是一个庞大而复杂的商业供应商网络。其中一些公司具有明确的国家安全目的，例如美国的Palantir和以色列的Corsight AI。以色列和Palantir于2024年签署了一项战略合作协议，旨在“利用Palantir的先进技术支持与战争相关的任务”。

然而，许多其他商业供应商并未针对特定的安全或军事功能训练其人工智能技术。亚马逊、Anthropic、谷歌、微软和OpenAI等大型科技公司已向包括美国和以色列在内的多个国家的国防部提供人工智能产品。谷歌与以色列国防部2024年的一份合同草案强调了后者此前已拥有的专属“落地区”以访问云基础设施，以及为军事单位创建特定落地区的新计划。

根据“尼姆布斯计划”（Project Nimbus）的条款，以色列国有企业以色列航空航天工业公司（IAI）和拉斐尔防务工业公司（Rafael Defence Industries）必须使用亚马逊和谷歌提供的云服务来满足其云计算需求。由于以色列在国际刑事法院和国际法院均被指控犯有战争罪、反人类罪和种族灭绝罪，其与商业服务提供商日益深入的合作可能会使其面临国内和国际法律框架下的责任。

监管体系的缺陷

国际法通过国际人道法（IHL）及相关国际人道法保护措施，对武力的允许使用和禁止使用进行规范，包括涉及使用人工智能军事技术的武力使用。关键原则包括：军民区分，即区分平民和战斗人员，并禁止直接以平民和民用目标为攻击目标（《第一附加议定书》第48条和第52条； 《核武器咨询意见》中确认的习惯国际法）；相称性原则，即禁止造成过度的平民损害；必要性原则，即限制军事力量的使用；以及隐私权。

尽管国际人道法治理框架旨在约束国家层面的行为体，但各国可以通过将这些规定纳入国内法律框架并依据国际犯罪普遍管辖原则，对商业实体创设并强制执行相关义务。瑞典就是以这种方式追究公司刑事责任的司法管辖区之一，目前瑞典正在审理两名前能源公司高管涉嫌在苏丹协助和教唆战争罪行的案件。

然而，目前尚无具有约束力的国际法规涵盖人工智能军事技术的具体风险和用途。取而代之的是一系列宣言和决议，它们零散地探讨了人工智能与军事关系的一些方面。联合国大会关于人工智能军事技术的第79/239号决议确认，人工智能驱动的军事系统受国际人道法和国际人权法的约束。 2023年11月由28个国家签署的《布莱切利宣言》呼吁在国际合作的基础上进行负责任的创新。由美国牵头、获得58个国家支持的《关于负责任地将人工智能和自主性用于军事用途的政治宣言》呼吁，人工智能的军事用途应遵守国际法，人工智能的使用应由人类监督，各国应采取措施最大限度地减少无意偏见。然而，这些文书的非约束性限制了它们在对人工智能军事技术的使用施加法律和伦理约束方面的有效性。

许多商业人工智能供应商在其人权政策中明确提及了联合国《工商业与人权指导原则》。这些原则指出，商业企业应“将造成或助长严重侵犯人权行为的风险视为法律合规问题”（原则23(c)），并列举了未能履行此义务可能承担的民事和刑事责任。虽然这些原则不具有法律约束力，但将其纳入公司的人权政策会赋予商业供应商内部义务，并要求其履行这些义务。

在各国国内司法管辖区，供应链尽职调查义务是商业实体可能面临诉讼的途径之一。爱尔兰公民自由委员会（一家人权非政府组织）已要求爱尔兰数据保护委员会调查其针对微软代表以色列处理巴勒斯坦人大规模监控数据的投诉。未来，此类诉讼可能会扩展到人工智能的商业供应商。为此，一些法律维权团体近期通知微软，有“可信的理由”认定该公司通过向以色列提供服务，“直接参与了以色列对加沙巴勒斯坦民众犯下的严重罪行”，这将使微软面临国际和国内法院的民事和刑事责任。

在以色列利用微软Azure服务器存储针对巴勒斯坦人的大规模监控数据的调查报道之后，一项外部调查发现，以色列8200部队违反了微软的服务条款，存储了包括截获的通话在内的大规模监控数据，此举违反了国际人权法。尽管微软已终止了以色列8200部队的访问权限，但许多其他以色列实体仍可继续使用微软的服务。此外，一群微软股东还提交了一份提案，要求调查微软在以色列使用其技术方面人权尽职调查程序的有效性，但该提案最终未能获得通过。

科技公司采用各种方法规避公司治理机制。例如，OpenAI 和谷歌悄悄修改了使用条款，加入了“国家安全”豁免条款，并删除了禁止客户将人工智能用于武器和监控目的的承诺。与此同时，调查记者审查了谷歌和亚马逊与以色列签署的价值 12 亿美元的“Nimbus 项目”合同条款，发现该合同包含限制谷歌和亚马逊限制以色列政府机构使用其技术的条款。据报道，该协议包含一项条款，禁止亚马逊和谷歌在以色列被发现违反服务条款的情况下暂停以色列的访问权限。“Nimbus 项目”据称还包含一项条款，规定建立一种秘密的“暗示机制”，即亚马逊和谷歌承诺在第三方国家命令这两家公司交出以色列数据时，秘密向以色列发出信号。亚马逊和谷歌均否认了这些说法。  

前景

人工智能赋能的军事技术预计将在中东战场上持续扩散，加剧对平民和民用设施的破坏，并恶化人道主义危机。许多此类技术也被应用于冲突地区之外，用于预测性警务和大规模公共监控，从而将潜在的违反国际人权法的行为全球化。由于缺乏有效的问责机制，中东已成为人工智能赋能军事技术的试验场，这些技术随后被当作经过实战检验的成熟技术推向国际市场。