美国国土安全部（DHS）人工智能合规计划

PH值

大道至简 大道简行

近期，美国国土安全部（DHS）发布了一份名为《DHS人工智能合规计划》的报告。这份报告围绕2024年美国管理和预算办公室（OMB）发布的M-24-10备忘录展开，涵盖了DHS在人工智能（AI）治理、创新和风险管理方面的最新政策与措施。以下是报告的核心内容：

AI治理：DHS设立了专门的治理委员会，负责协调管理AI的应用及其风险。委员会由多个部门的高级管理人员组成，确保部门内的AI用例得到统一的监控与审查，符合联邦和部门政策的要求。
推进负责任的AI创新：DHS采取措施确保AI应用符合伦理和法律要求，包括在隐私保护、数据共享、以及避免偏见等方面的具体措施。AI路线图也表明，DHS将在AI应用中继续确保隐私和权利的保护，同时提升国土安全能力。
风险管理：DHS对AI应用中的潜在风险进行全面评估。部门内所有AI用例将被定期审查是否对安全或公民权利产生影响，并遵循最低风险管理标准。对于不符合要求的AI用例，DHS会立即终止使用以避免潜在风险。
人才与协作：DHS启动了AI专业人才招聘，并设立了AI“军团”以促进AI技术的可持续发展。此外，DHS与其他联邦机构、州及国际组织加强合作，共享技术资源和治理经验，以确保AI的使用安全透明。
数据共享与开源：DHS承诺“默认开放”共享AI代码、模型及数据，并通过特定流程将相关代码发布到公共平台，以提高透明性并推动跨机构的协作。
从国家安全角度的启示与借鉴
建立健全的治理体系：DHS在AI治理方面的多层次机制值得借鉴。报告中提到的AI治理委员会通过跨部门协作，有效整合了各领域专家与资源。这种机制对于确保AI应用符合国家安全要求、避免技术滥用具有重要意义。我们在制定AI治理政策时，也可以考虑通过跨部门的AI治理机制，将国家安全、隐私保护、技术研发等方面的专家纳入管理团队，确保AI的使用符合国家战略利益。
风险管理与应对机制：DHS的合规计划在风险管理方面的措施，特别是对不符合安全标准AI用例的终止程序，有助于防范AI可能带来的潜在威胁。可以参考DHS的做法，将“预防+应急”的双重体系应用到AI风险管理中，以保证技术应用在风险可控的前提下进行发展。
加强跨部门和国际合作：DHS在数据共享和技术协作方面的“默认开放”策略，推动了AI治理的透明化和高效性。我们在国家安全相关领域也可以通过跨部门的数据开放和协作机制，增强技术创新的协同性。此外，鉴于AI技术的全球化应用，还可以加强与国际机构的交流，共同推进全球范围内的AI安全治理。
AI伦理与隐私保护：DHS的AI政策特别强调了隐私与公民权利保护，制定了明确的指南，确保AI应用不涉及种族、宗教、性别等歧视性因素。这一点在发展AI技术时也可以借鉴，考虑AI应用可能带来的伦理问题，尤其是隐私保护。制定具有中国特色的AI伦理框架，有助于维护社会稳定和国家安全。
DHS的合规计划展示了一个系统、全面的AI治理框架。这份文件为在国家安全领域实现负责任的AI发展提供了重要启示。通过构建类似的治理体系和风险管理机制，我们可以更好地在确保国家安全的前提下，推动AI技术的持续创新与发展。

图片

美国国土安全部
推进国土安全部 (DHS) 人工智能 (AI) 治理、创新与风险管理
国土安全部：2024 年 9 月《管理和预算办公室 (OMB) 备忘录 M-24-10》的合规计划

由首席 AI 官 Eric Hysen 准备

目录
1 加强 AI 治理
1.1 总则
1.2 DHS AI 治理委员会
1.3 DHS AI 用例清单
1.4 关于未列入清单的 AI 用例的报告

2 推进负责任的 AI 创新
2.1 人工智能战略
2.2 消除负责任使用 AI 的障碍
2.3 人工智能人才
2.4 AI 共享与合作
2.5 AI 要求的协调

3 管理 AI 使用的风险
3.1 确定哪些 AI 被推定为影响安全或权利的
3.2 风险管理实践的实施与不合规 AI 的终止
3.3 最低风险管理实践

加强 AI 治理
1.1 总则
DHS 致力于在国土安全领域安全、可靠、负责任且值得信赖地使用 AI。此承诺包括为 AI 的使用和获取建立清晰且有效的治理和监督；保护隐私、公民权利和公民自由；通过严格的测试与评估，最大限度地减少不当偏见和不公平影响；以及在运营过程中持续监控技术，确保持续合规并实现预期结果。我们认为，AI 的使用必须对国土安全部服务的人民以及使用该技术的相关人员具有透明性、可问责性和可解释性。

美国国土安全部 (DHS) 继续全面拓展人工智能 (AI) 应用的广泛性、深入性和成熟度。自 2015 年起，DHS 便开始开展机器学习 (ML) 技术的试点项目，以支持身份验证任务。自那时以来，DHS 成功部署了其他基于 AI 的应用，以提高效率，促进边境安全、网络安全、移民管理、贸易、交通安全、员工生产力等对于保护国土安全至关重要的领域的创新发展。

正如本文件中所列活动所表明的那样，DHS 认识到，部门必须继续确保 AI 被负责任地使用，以促进国土安全任务的发展，同时保护美国人民的隐私、公民权利和公民自由。DHS 拥有在国内外 22 个机构和办事处中才华横溢且敬业的 26 万名员工，美国人民每天与 DHS 的接触比与其他任何联邦机构的接触都要频繁。

DHS 采取了一种协调且持续的方式，以确保 AI 的安全、可靠、负责任和可信的使用。我们的工作包括为 DHS 使用 AI 制定指导原则，试点 AI 创新应用，并加强 DHS 内部对 AI 使用的治理和监督。根据 2024 年 3 月 28 日发布的 OMB M-24-10 _《推动机构在人工智能使用中的治理、创新和风险管理》_，该部门开始执行相关要求。

此外，作为部门推进 AI 安全、可靠、负责任及可信任使用的协调和持续方法的一部分，DHS 一直在制定一项全局性政策，旨在提供一个总体框架，促进 AI 创新和治理，同时管理 AI 使用带来的风险，尤其是那些可能影响公众安全或公众权利的风险。该政策将建立在我们现有的 AI 使用指导原则基础上，并考虑隐私、公民权利和自由的潜在影响，以及防范 AI 驱动系统被滥用、降级或失效可能带来的安全威胁。该政策还将纳入并响应 M-24-10 中的要求，推动在 DHS 内的 AI 治理、创新和风险管理。

1.2 DHS AI 治理委员会
DHS 通过任命一名首席人工智能官（ Chief Artificial Intelligence Officer，CAIO ）并召集 AI 治理委员会，持续加强我们的 AI 治理框架。DHS 于 2023 年 9 月任命 DHS 首席信息官 Eric Hysen 为 CAIO，并在 2024 年 4 月正式任命他，满足了 OMB M-24-10 第 (a)(i) 节的要求。该部门于 2024 年 5 月 17 日召集了 DHS AI 治理委员会，符合 OMB M-24-10 第 (a)(ii) 节和 EO 144110 第 10.b(1) 节的要求。

在成立 DHS AI 治理委员会时，国土安全部利用了现有的 DHS 领导团体——副部长管理行动小组（DMAG）。DMAG 作为 DHS AI 治理委员会将每年召开两次会议，并在必要时增加会议频次。该委员会负责协调和治理与 DHS 使用 AI 相关的问题，包括消除 AI 使用中的障碍并管理其相关风险。国土安全部副部长（Deputy Secretary）担任委员会主席，而 DHS 首席人工智能官（CAIO）担任副主席。DHS CAIO 通过委员会协助副部长，协调全部门的 AI 活动，并履行本部门在 EO 14110 下的职责。

DHS 人工智能治理委员会的成员包括来自负责人工智能应用和风险管理关键支持力量的高级官员，领域包括但不限于信息技术、网络安全、数据、隐私、公民权利与自由、公平与平等、统计、人力资源、政府采购、预算、法律、部门管理、客户体验、项目评估，以及负责在机构项目办公室实施人工智能的官员。

DHS 人工智能治理委员会由以下高级 DHS 官员组成：

国土安全部副部长，担任主席
DHS 首席人工智能官，担任副主席
DHS 办公室主任
管理事务副部长
战略、政策与计划办公室副部长
科学与技术办公室副部长
情报与分析办公室副部长
大规模杀伤性武器对抗办公室副部长
DHS 首席财务官
DHS 首席信息官
DHS 首席隐私官
DHS 民权与公民自由事务官员
总法律顾问
网络安全与基础设施安全局副局长
海关与边境保护局副局长
联邦应急管理局副局长
联邦执法培训中心副主任
移民与海关执法局副局长
国土安全局态势感知办公室副局长
运输安全管理局副局长
美国公民及移民服务局副局长
美国海岸警卫队副司令
美国特勤局副局长
委员会是 DHS 内部负责 AI 采用和风险管理官员之间的主要协调机构。因此，委员会将对确保涉及安全和/或影响权利的 AI 用例符合 OMB M-24-10 第 5 节所规定的最低实践标准，或予以淘汰，提供监督与领导。委员会的关键作用之一是为组织的测试与评估工作提供明确的方向与责任。委员会还将为国土安全部与外部利益攸关方在各种 AI 相关议题上的持续互动提供战略指导。

在实现 DHS AI Roadmap 中的承诺（详见以下第 2.1 节）时，国土安全部（DHS）一直在扩大既定渠道内外的战略伙伴关系，包括与私营部门、学术界、州、地方和部落政府、国际合作伙伴、非政府组织、意见领袖、社区及倡导者的合作。董事会的战略方向涉及对这一持续参与过程中的反馈和信息作出回应。关于参与和公众反馈，董事会已将 DHS 的 AI 用例清单作为主要工具，旨在确保 DHS 使用 AI 的透明度并建立信任。董事会已指示，在 2024 年根据 OMB 的年度指导更新清单时，DHS 必须确保整个部门在报告 AI 用例的方式、时间和程度上一致。

1.3 DHS AI 用例目录
自 2022 年以来，DHS 一直根据 EO 13960 _促进联邦政府中值得信赖的人工智能的使用_（2020 年 12 月）以及《Advancing American AI Act》（2022 年 12 月）的要求，发布 DHS AI 用例的公开目录。DHS AI 用例目录 包含可以根据相关法律或政府范围政策公开披露的 AI 用例的信息。该部门承认，我们过去对外公开的 AI 用例目录描述有时不够完整或存在局限，可能会引发误解。我们正在致力于在今后的 AI 用例目录中提供更加明确的说明。DHS 每年根据 OMB 对联邦机构用例目录的年度指导，更新此目录，并在必要时实时提供其他更新，以确保目录的准确性。

为了遵循 OMB 指导进行年度更新，以及对 DHS AI 用例清单的其他持续更新，DHS 征集并整理来自整个部门的现有和新用例信息。部门高级 AI 官员、负责各组件 AI 用例的 DHS 人员、法律顾问及熟悉特定 AI 用例的主题专家都会参与和支持 AI 用例信息的收集与整理工作。所收集的信息与 OMB 年度指导要求的信息保持一致，涵盖 DHS AI 用例清单中既有用例的情况，以及自上次数据收集以来新增的 AI 用例。该流程通常包括以下环节：

DHS 首席信息官办公室（OCIO）/首席 AI 官（OCAIO）发起征集与整理请求
DHS 各个组件的回应
OCIO/OCAIO 对各组件回应的审核及必要的后续工作
汇总信息，提交 DHS 首席 AI 官（CAIO）审查和批准
特别值得注意的是，2024 年度更新的征集与整理将包括每个上报的 DHS AI 用例是否涉及安全和/或权利影响的信息，以及其是否符合 OMB M-24-10 第 5 节所列最低实践要求的合规性信息。*DHS 2024 年更新将严格按照 OMB 基于 EO 14110 的 2024 年 AI 报告指导要求执行。2024 年度更新还将回应 AI 治理委员会的指示，确保整个部门在如何、何时以及在何种程度上报告 AI 用例进入清单时保持一致性。DHS 将在 OMB 提供的 2024 年 12 月 16 日截止日期内发布结合 2024 年度更新的 DHS AI 用例清单版本。

1.4 不受清单限制的 AI 用例报告
DHS 正在落实 OMB M-24-10 第 3(a)(v) 节的新汇总报告要求，作为信息收集整理过程的一部分，以用于 2024 年 DHS AI 用例清单的年度更新。第 3(a)(v) 节要求不需单独列入清单的 AI 用例，必须通过汇总指标来进行报告，包括此类用例的数量，是否影响安全和/或权利，以及它们是否符合 OMB M-24-10 第 5 节所规定的最低实践要求。

DHS 有一些 AI 用例未包含在 DHS AI 用例清单中，因为公开披露这些用例将与适用法律或政府层面的政策相违背。出于监督和治理的目的，DHS 已经对这些用例进行了追踪。DHS 计划对这些用例进行重新审查，以确定是否可以公开发布关于这些用例的某些信息，并在 DHS AI 用例清单中部分报告。此次重新审查将包括与法律顾问的协商，以针对适用的法律和政策进行评估。对于无法公开发布且无法部分报告在 DHS AI 用例清单上的 AI 用例，DHS 将根据 OMB M-24-10 第 3(a)(v) 节的要求，报告汇总指标。

作为 2024 年度 DHS AI 用例清单更新信息征集与汇总流程的一部分（详见本文第 1.3 节），DHS 将重新审查以前未公开披露的 AI 用例，并收集必要的信息，以部分呈报 DHS AI 用例清单或满足汇总报告要求。为达到这一目的，DHS 首席信息官与 DHS 首席 AI 官的征集与汇总请求将包括以下内容：（1）与法律顾问共同再次审查以前未公开披露的 AI 用例，(2) 与法律顾问确定这些用例是否能够部分或全部呈报在 DHS AI 用例清单中，如无法呈报，则收集必要信息以将这些用例纳入汇总报告。

自 2025 年起，DHS 计划每年重新评审未列入 DHS 人工智能用例库的人工智能用例，因为披露这些用例会与适用的法律或全政府政策相冲突。DHS 计划将此重新评审纳入其每年更新 DHS 人工智能用例库的流程。

2 促进负责任的 AI 创新
2.1 AI 战略
DHS 持续遵循一套明确的原则和强有力的治理框架，以优先保护隐私权、公民权利和自由权。该部门的方法为其工作奠定了基础，确保在其独特的任务中负责任地使用人工智能 (AI)。部长 Alejandro N. Mayorkas 在 Policy Statement 139-06: Acquisition and Use of AI and ML by DHS Components 中确立了有关负责任使用 AI 的指导原则。该政策声明为 DHS 使用 AI 建立了坚实的基础，包含一套明确的原则。这些原则包括，DHS 的系统、项目和活动在使用 AI 时，将遵循 第 13960 号行政命令 的要求，推动在联邦政府中使用值得信赖的人工智能。此外，DHS 只会在符合宪法及所有其他适用法律和政策的情况下获取和使用 AI。DHS 不会基于对种族、民族、性别、国籍、宗教、性取向、性别认同、年龄、国籍、医疗状况或残疾的任何不当考虑 来收集、使用或传播 AI 活动中的数据，也不会创建或支持基于这些因素的决策的 AI 系统。

在 2024 年 4 月，DHS 发布了首份 AI 路线图，详细介绍了测试这些技术应用的计划，旨在为美国公众带来实质性利益并提升国土安全，同时确保个人隐私权、公民权利和自由权得到有效保护。该路线图概述了 DHS 在 AI 方面的举措，阐述了 AI 技术在整个部门中的潜力，并更清晰地展示了该部门在 AI 上的工作方式，同时重申了其对负责任利用 AI 的承诺。AI 路线图提出了 DHS 工作的三条主线：

在保护个人隐私权、公民权利和自由权的前提下，负责任地利用 AI，以推动国土安全任务的执行。

促进 AI 在全国范围内的安全与保障

通过稳固且一致的合作关系，继续在 AI 领域保持领先地位
作为该路线图的一部分，DHS 宣布了三个创新的试点项目，这些项目将在特定任务领域应用 AI。这些试点计划将使部门能够评估 AI 在提升工作能力方面的有效性。每个试点团队在整个开发和评估过程中，均与隐私、网络安全，以及民权与公民自由领域的专家合作。这项工作将为全部门范围内的 AI 治理政策提供参考依据。DHS 各办公室和机构向首席 AI 官提交了数十个提案，后者选择了三个最适合于评估 DHS 内大型语言模型 (LLM) 和生成式 AI 技术有效性的试点项目。

该部门计划在根据 OMB M-24-10 第 4(a) 条要求制定 AI 战略时，以 AI 路线图为基础。DHS 将基于 AI 路线图的举措及相关活动的经验教训，制定一项战略，识别并消除在责任范围内使用 AI 的障碍。同时，推动全机构范围内的 AI 成熟度提升。

2.2 消除负责任应用 AI 的障碍
DHS 已采取协同且持续的方法来解决 负责任地应用 AI 推进国土安全任务的障碍因素。这包括设立 AI 工作组、制定面部识别和面部数据采集的使用政策，以及商业生成式 AI 使用政策。

2023 年 4 月，国土安全部长 Mayorkas 成立了 AI Task Force（人工智能工作组）以应对 AI 改变威胁格局的多种形态。其主要关注点是确保部门对 AI 的使用经过严格测试，以避免偏见和不公正影响，并能够向我们服务的公众进行清晰解释。该工作组最初的重点是打击芬太尼贩运、加强供应链安全、打击儿童性剥削以及保护关键基础设施。作为工作组的一部分，DHS 成立了 Responsible Use Group（责任使用小组），由 DHS 公民权利和公民自由官员主持，负责为工作组项目提供指导、风险评估缓解策略，并监督个人权利的保护。该工作组还负责为已确立的 AI 使用政策提供指导和领导作用，并推动创新发展。

2023 年 9 月，DHS 发布了关于使用面部识别和人脸采集技术的指令 026-11。该指令规定，所有面部识别和人脸采集技术的使用都将经过全面测试，以确保不会产生无意的偏见或差异性影响，且符合国家标准。DHS 将审查所有现有的该类技术使用情况，并对所有系统进行定期测试和评估，以达成性能指标要求。该指令还要求美国公民有权在特定的非执法用途中选择不参与面部识别，禁止面部识别技术单独用作任何法律或民事执法行动的唯一依据，并建立了一个流程，由部门的监管办公室，包括隐私办公室、民权与自由办公室（CRCL）以及首席信息官办公室，对所有面部识别和人脸采集技术的新用途进行审查。

2023年10月，国土安全部发布了《DHS关于使用商业生成式AI (GenAI) 工具的政策 [139-07]》。该政策允许并鼓励在DHS内部负责任地使用商业GenAI工具，以确保我们持续适应未来的工作形态。负责任的使用其中一项内容是考虑使用这些工具可能对隐私的影响。DHS在一份隐私影响评估 (PIA) 中对这些隐私影响及相应的减缓措施进行了审议。此外，该政策为DHS人员使用商业GenAI工具制定了具体的指南。政策规定了具体要求和使用限制，旨在保障数据安全、保护隐私和个人权利。还明确规定了使用GenAI工具的批准流程，流程包括完成关于如何负责任使用AI的培训，并同意严格遵守相关的行为准则。该部门已公开发布了我们的GenAI资源，包括我们协商达成的服务条款，这帮助其他联邦机构加速采用这些工具。

2.3 AI 人才
2024 年 2 月 6 日，国土安全部长 Mayorkas 和首席信息官/首席人工智能官 Eric Hysen 宣布 该部门首次启动招聘冲刺，计划在 2024 年招募 50 名人工智能技术专家。利用人事管理办公室针对人工智能相关职位新设的灵活招聘权限，包括直接聘用权限，DHS 努力简化并加速联邦招聘流程，确保合格候选人尽快获得录用机会。新的 DHS“AI 部队”（AI Corps）[1] 参考了 U.S. Digital Service 的模式，将帮助该部门持续在国土安全业务领域中运用人工智能技术。AI 部队由工程师、数据科学家、项目管理专家及其他技术专家构成。

作为部门 AI Corps 招聘冲刺的一部分，DHS 从私营和公共部门任用了超过 25 名 AI 专家，在部门的战略性任务领域中发挥重要作用，负责任地应用 AI 技术。AI Corps 是联邦民事机构中最大的 AI 人才招聘行动之一，目标是招聘 50 名 AI 专家，以提升服务质量并推动国土安全战略任务，同时保障隐私、公民权利与自由。

人工智能军团成员目前正在与 DHS 供应链弹性中心合作，研究如何利用 AI 预测关键供应链中断对公共安全和国家安全的影响；与 DHS 科学与技术（S&T）部门合作，为 AI 系统的整个生命周期制定测试与评估（T&E）要求；并利用生成式 AI 支持 DHS 旗下的国土安全调查（HSI）部门的工作，以打击芬太尼、人口贩卖、儿童性剥削及其他犯罪网络。

展望未来 AI 招聘的需求，我们正在将 AI 能力添加到 网络安全人才管理系统 （CTMS）中，这是一个现代化的人才管理系统，提供优化的招聘流程、有竞争力的薪酬和具有实际意义的职业发展机会。

此外，DHS 于 2023 年秋季启动了面向 DHS 人员的商业化 GenAI 工具使用培训。该培训为 DHS 员工提供了如何负责任地使用 DHS 批准工具的相关信息。来自该部门的上万名员工和合同员工已完成这项培训。DHS OCIO 还定期举办教育讲座，演示员工和合同员工如何在工作中应用 GenAI。这些讲座是在基础培训之上进一步扩展的内容，用来总结之前获得的经验和教训，并探讨其潜在用途。

2.4 AI 共享与协作
DHS 正在朝着“默认开放”的软件开发方法迈进，以促进透明性、共享和发布 AI 代码，遵守 OMB M-24-10 第 4(d) 节的规定。第 4(d) 节要求各机构共享其 AI 代码、模型和数据，并且需要以政府范围内以及公众能够合作和重复使用的方式进行共享，同时符合适用的法律和指导。第 4 节还要求考虑：共享和发布定制开发的 AI 代码与 AI 数据资产；在部分 AI 代码、模型或数据无法共享或公开发布时，进行部分共享和发布；以允许共享和公开发布相关代码、模型和数据的方式，采购 AI 定制开发的代码、用于训练和测试 AI 的数据，以及丰富现有数据的方式；以及评估 AI 模型可能暴露所用开发数据中的敏感信息的风险。

DHS 于 2023 年 9 月引入了其“默认开放”策略，并通过 政策指令 142-04 强化了 DHS 源代码盘点流程 (SCIP)。DHS SCIP 是一项用于盘点 DHS 定制开发源代码的流程。该政策指令还要求提供关于如何将代码公开为开源代码的详细指引。DHS 首席信息官 (CIO) 负责执行 DHS SCIP，并与总法律顾问、首席采购官办公室、DHS 首席隐私官以及各 DHS 组成部门官员合作，其中包括首席信息官、首席信息安全官和法务顾问。

DHS SCIP 包括三个主要子流程：源代码清单、开源发布和向 Code.gov 提交源代码清单。源代码清单过程涉及识别并记录所有 DHS 定制开发代码，包含确定使用类型及为定制开发代码定义元数据值等一系列活动。开源发布过程涉及将已列入清单的定制开发代码过渡为公开的开源发布，并发布到公开可用的代码库中，包含选择合适的开源许可协议，以及执行对定制开发代码的安全分析等活动。清单提交过程包括对最终定制代码的清单元数据进行验证，并将其提交至 Code.gov，即全政府范围内的源代码清单平台。

如上文第 2.1 节所述，DHS 正通过三项 GenAI 试点计划评估 AI 在提升任务执行能力方面的有效性。这些试点将帮助我们总结有关 AI 治理、创新和风险管理的最佳实践经验，为未来全部门的政策制定提供参考。从这些试点中汲取的经验教训将有助于塑造 DHS 如何利用 GenAI 进一步推进我们的使命，以保护祖国安全。

2.5 AI 需求的协调
DHS 致力于通过合作工作，协调政府内外与 AI 相关要求的实施。DHS 支持 OMB 根据 OMB M-24-10 第 4(e) 条，推动资源与最佳实践共享的努力。第 4(e) 条解释称，OMB 将与科学技术政策办公室合作，通过跨机构委员会协调 AI 在联邦机构项目和运营中的开发与应用。DHS 的 CAIO 是 OMB 跨机构委员会的成员，DHS 积极参与该委员会的 GenAI、采购和风险管理工作组。此外，DHS 共同主持了 GenAI 和采购工作组。

DHS 还通过与联邦、州和地方机构合作伙伴的协作会议及 DHS AI 网页（dhs.gov/ai）积极参与具体行动，记录并分享关于 AI 治理、创新及风险管理的最佳实践。DHS AI 网页突出了该部门在利用 AI 保障国土安全方面的创新性应用，并提供了该部门关于 AI 使用的指导原则和管理政策。值得注意的是，DHS 于 2023 年 2 月创建了生成式 AI 资源网页，作为一个整合并公开联邦、州和地方合作伙伴所共享资源的平台：https://www.dhs.gov/publication/commercial-genai-resources。

为了在政府之外分享与 AI 相关的最佳实践，DHS 依托 **AI 安全与安保委员会 (AISSB)**。DHS 依据 E.O. 14110 的第 4.3(a)(v) 条款，于 2024 年 4 月设立了 AISSB。AISSB 包括来自私营部门和政府的 AI 专家，他们为国土安全部长和关键基础设施领域提供建议。AISSB 提供与 AI 使用相关的安全、事件响应与韧性方面的信息和建议。

3 管理 AI 使用中的风险
3.1 确定哪些 AI 被推定为对安全或权利有影响
DHS 根据 OMB M-24-10 第 5 节，正在审查其 AI 使用案例，以确定哪些使用案例对安全和/或权利有影响，并符合第 5 节中概述的最低实践标准。DHS 通过前面提到的流程，收集和整理来自 DHS 各组成部门的现有及新使用案例信息，以更新 DHS AI 使用案例清单。DHS 首席信息官办公室 (OCIO) / 首席 AI 官 (OCAIO) 将发出征集请求，要求整个机构中的每个 AI 使用案例是否对安全和/或权利有影响提出相关建议或初步判定。此类建议或初步判定由各组成部门负责 AI 的高级官员、负责 AI 使用案例的 DHS 人员、法律顾问以及熟悉特定 DHS AI 使用案例的领域专家共同做出。CAIO 将与 DHS 民权及公民自由事务负责人以及 DHS 首席隐私官共同审议这些建议或初步判定，并对每个使用案例做出最终裁定。

为了确定 DHS 的某个 AI 用例是否存在安全和/或权利影响并受 OMB M-24-10 第 5 节规定的最低准则约束，每个用例将根据以下问题进行评估：

该用例是否因以下原因被排除在第 5 节及最低准则的适用范围之外：(1) 在第 2(b)(iv) 节中排除的某些基础或应用研究与开发；(2) 在第 2(c) 节中排除的用于国家安全系统；或 (3) 在第 5 节中排除的情报界元素？
对于没有被排除在第 5 节范围之外的用例：
该用例是否基于 M-24-10 附录 I 中的预设类别，被假定为可能影响安全？
无论如何，该用例是否符合第 6 节中“可能影响安全的 AI”的定义？
该用例是否基于 M-24-10 附录 I 中的预设类别，被假定为可能影响权利？
无论如何，该用例是否符合第 6 节中“可能影响权利”的定义？
对于基于 M-24-10 附录 I 中的预设类别被假定为可能影响安全和/或权利，但不符合“可能影响安全的 AI”和/或“可能影响权利的 AI”定义的 AI 用例，DHS 首席人工智能官（CAIO）可以决定该 AI 用例并不影响安全和/或权利。根据 OMB M-24-10 第 5(b) 节的规定，DHS CAIO 可以基于有据可查的背景特定及系统特定的风险评估作出此类决定。对于 DHS 来说，该评估将包含一项说明性分析，阐明为什么该用例不符合相关定义。DHS 预期会存在一些 AI 用例，虽然 DHS CAIO 认定其不符合“可能影响安全的 AI”或“可能影响权利的 AI”的定义，但 DHS CAIO 仍然要求其遵守 M-24-10 第 5(c) 节中规定的最低风险管理准则。

DHS 将公开识别那些被认定为影响安全和/或权利的 DHS AI 用例，作为此前讨论的 2024 年度 DHS AI 用例清单更新的一部分。在这些更新中，DHS 还将识别那些被假定为影响安全和/或权利，但 DHS CAIO 确定实际上并不影响安全和/或权利的 DHS AI 用例，依据第 5(b) 节的要求进行判断。对于那些被认定为影响安全和/或权利，但由于公开披露与相关法律或政府整体政策不符，且没有至少部分列入 DHS AI 用例清单的场景，DHS 将如日前所讨论的那样，公开报告这些用例的汇总指标。DHS 将根据 OMB 提供的 2024 年 12 月 16 日截止日期，发布 2024 年度 DHS AI 用例清单更新及汇总指标，并与 OMB 为各机构设定的用例清单年度更新要求保持一致。

3.2 实施风险管理实践与终止不合规的 AI
DHS 正在依据 2024 年 12 月 1 日的截止日期，实施第 5(c) 节中概述的最低限度的风险管理实践。对于被判定影响安全和/或权利的 DHS AI 用例，如前面所述，DHS 正在审核这些用例的信息，确保其符合第 5(c)(iv)(A)-(C) 和第 5(c)(v)(A)-(B) 节中列出的相关部署前的实践，以及第 5(c)(iv)(D)-(I) 和第 5(c)(v)(C)-(F) 节中列出的相关部署后的实践（若适用时），均依照 OMB M-24-10 的要求进行审查。

用于本次评估的用例相关信息是全盘评估其影响所必需的，结合相关的前置和后置实践进行评估。此类整体性评估包括：

识别用例的预期目的、预期效益和潜在关键风险；

评估相关数据集的质量与适用性；

确定该用例是否已在实际操作或现实世界环境中经过测试，遵循特定领域的最佳实践，以了解其对受影响个人或社区的表现和影响；

确保有一个流程来监控使用场景在功能方面的性能，以及其对安全或权利的影响及其任何变化；

确定该使用场景是否在无直接人工参与的情况下作出决策或采取行动，且可能对权利或安全产生重大影响，和/或是否显著影响或提供信息以帮助决策或行动，这些决策或行动可能对特定个人或群体产生不利或负面影响；以及

确保在适用情况下，提供合理且及时的必要通知。

各组件内和整个部门中负责 AI 的高级管理人员、各组件中负责 AI 使用案例的 DHS 成员、法律顾问以及熟悉 DHS 具体 AI 使用案例的领域专家，参与提供进行全局评估所需的使用案例信息。来自信息办公室和首席 AI 官办公室、民权和公民自由办公室、隐私办公室，以及科学与技术局的领域专家，会在 DHS 首席 AI 官对可能影响安全和/或权利的 DHS AI 使用案例进行独立评估之前，对这些信息进行审查。

确保在 DHS 各部门中实现一致性实施的关键环节是引入 DHS CAIO。DHS CAIO 将独立评估被认定为对安全和/或权利产生影响的 DHS AI 用例。DHS CAIO 将在用例经过审查以评估其影响时，参考适用的最低风险管理标准进行评估。DHS CAIO 将审查用于综合评估的相关信息，包括 AI 用例的测试与评估信息。视情况需要，DHS CAIO 将根据该用例是否符合适用的预部署和后部署标准，决定是否批准继续使用该 AI 用例。

对于被确定为对安全和/或权利有影响的 DHS AI 用例，如未满足第 5 节中规定的某项或多项最低实践要求，DHS 的 CAIO 可以豁免该要求。根据 OMB M-24-10 第 5(c)(iii) 节的规定，DHS 的 CAIO 可以通过书面裁定豁免一项或多项最低实践，前提是基于特定系统和特定背景的风险评估，判定履行该要求将整体上增加安全或权利风险，或会对关键机构运作造成不可接受的阻碍。该裁定将作为 DHS CAIO 对该用例的独立评估的一部分作出。

对于被确定为影响安全和/或权利的 DHS 人工智能（AI）用例，如果其未满足一项或多项适用的最低实践要求，且 DHS CAIO 并未对此要求给予豁免，DHS CAIO 将终止该人工智能用例，并要求停止与退役该用例。任何此类用例的终止及退役流程将在 DHS CAIO 对该用例的独立评估中制定并明确，具体的时间安排将与受影响的部门协商后制定。

3.3 最低风险管理措施
DHS 将公开披露其执行第 5(c) 节中所规定的最低风险管理措施的情况，作为前文所述 DHS AI 用例清单 2024 年度更新的一部分。在 DHS AI 用例清单中，DHS 将公开指出该部门的 AI 用例是否被认定为对安全和/或权利产生影响，并且是否符合适用的最低风险管理措施；这些用例中是否有任何获得了 CAIO 豁免，免除一项或多项适用的措施；以及是否有任何用例因为不符合适用的最低措施而被停止使用。DHS 将根据 OMB 要求的 2024 年 12 月 16 日截止日期发布 DHS AI 用例清单的 2024 年度更新，以符合各机构用例清单的年度更新要求。

实施最低风险管理实践涉及 DHS 的多个关键负责人及利益相关方。DHS CAIO 负责领导这些工作，并确保在整个 DHS 内的统一实施。DHS 民权和公民自由事务负责人以及 DHS 首席隐私官对某个 AI 应用案例是否对安全和/或权利产生影响的最终决定提供建议。这些负责人以及科技与研究副部长还会提供相关领域的专家来审查应用案例信息，作为评估应用案例影响的一部分，协助 DHS CAIO 独立评估对安全和/或权利有影响的应用案例。此外，负责某个组件及整个部门 AI 的高级官员、负责每个组件 AI 应用案例的 DHS 人员、法律顾问以及熟悉特定 DHS AI 应用案例的领域专家也参与提供应用案例的相关信息，以便综合评估该应用案例的影响。