DHS 采取了一种协调且持续的方式，以确保 AI 的安全、可靠、负责任和可信的使用。我们的工作包括为 DHS 使用 AI 制定指导原则，试点 AI 创新应用，并加强 DHS 内部对 AI 使用的治理和监督。根据 2024 年 3 月 28 日发布的 OMB M-24-10 _《推动机构在人工智能使用中的治理、创新和风险管理》_，该部门开始执行相关要求。
此外，作为部门推进 AI 安全、可靠、负责任及可信任使用的协调和持续方法的一部分，DHS 一直在制定一项全局性政策，旨在提供一个总体框架，促进 AI 创新和治理，同时管理 AI 使用带来的风险，尤其是那些可能影响公众安全或公众权利的风险。该政策将建立在我们现有的 AI 使用指导原则基础上，并考虑隐私、公民权利和自由的潜在影响，以及防范 AI 驱动系统被滥用、降级或失效可能带来的安全威胁。该政策还将纳入并响应 M-24-10 中的要求，推动在 DHS 内的 AI 治理、创新和风险管理。
1.2 DHS AI 治理委员会
DHS 通过任命一名首席人工智能官（ Chief Artificial Intelligence Officer，CAIO ）并召集 AI 治理委员会，持续加强我们的 AI 治理框架。DHS 于 2023 年 9 月任命 DHS 首席信息官 Eric Hysen 为 CAIO，并在 2024 年 4 月正式任命他，满足了 OMB M-24-10 第 (a)(i) 节的要求。该部门于 2024 年 5 月 17 日召集了 DHS AI 治理委员会，符合 OMB M-24-10 第 (a)(ii) 节和 EO 144110 第 10.b(1) 节的要求。
在成立 DHS AI 治理委员会时，国土安全部利用了现有的 DHS 领导团体——副部长管理行动小组（DMAG）。DMAG 作为 DHS AI 治理委员会将每年召开两次会议，并在必要时增加会议频次。该委员会负责协调和治理与 DHS 使用 AI 相关的问题，包括消除 AI 使用中的障碍并管理其相关风险。国土安全部副部长（Deputy Secretary）担任委员会主席，而 DHS 首席人工智能官（CAIO）担任副主席。DHS CAIO 通过委员会协助副部长，协调全部门的 AI 活动，并履行本部门在 EO 14110 下的职责。
在实现 DHS AI Roadmap 中的承诺（详见以下第 2.1 节）时，国土安全部（DHS）一直在扩大既定渠道内外的战略伙伴关系，包括与私营部门、学术界、州、地方和部落政府、国际合作伙伴、非政府组织、意见领袖、社区及倡导者的合作。董事会的战略方向涉及对这一持续参与过程中的反馈和信息作出回应。关于参与和公众反馈，董事会已将 DHS 的 AI 用例清单作为主要工具，旨在确保 DHS 使用 AI 的透明度并建立信任。董事会已指示，在 2024 年根据 OMB 的年度指导更新清单时，DHS 必须确保整个部门在报告 AI 用例的方式、时间和程度上一致。
1.3 DHS AI 用例目录
自 2022 年以来，DHS 一直根据 EO 13960 _促进联邦政府中值得信赖的人工智能的使用_（2020 年 12 月）以及《Advancing American AI Act》（2022 年 12 月）的要求，发布 DHS AI 用例的公开目录。DHS AI 用例目录 包含可以根据相关法律或政府范围政策公开披露的 AI 用例的信息。该部门承认，我们过去对外公开的 AI 用例目录描述有时不够完整或存在局限，可能会引发误解。我们正在致力于在今后的 AI 用例目录中提供更加明确的说明。DHS 每年根据 OMB 对联邦机构用例目录的年度指导，更新此目录，并在必要时实时提供其他更新，以确保目录的准确性。
为了遵循 OMB 指导进行年度更新，以及对 DHS AI 用例清单的其他持续更新，DHS 征集并整理来自整个部门的现有和新用例信息。部门高级 AI 官员、负责各组件 AI 用例的 DHS 人员、法律顾问及熟悉特定 AI 用例的主题专家都会参与和支持 AI 用例信息的收集与整理工作。所收集的信息与 OMB 年度指导要求的信息保持一致，涵盖 DHS AI 用例清单中既有用例的情况，以及自上次数据收集以来新增的 AI 用例。该流程通常包括以下环节：
DHS 首席信息官办公室（OCIO）/首席 AI 官（OCAIO）发起征集与整理请求
DHS 各个组件的回应
OCIO/OCAIO 对各组件回应的审核及必要的后续工作
汇总信息，提交 DHS 首席 AI 官（CAIO）审查和批准
特别值得注意的是，2024 年度更新的征集与整理将包括每个上报的 DHS AI 用例是否涉及安全和/或权利影响的信息，以及其是否符合 OMB M-24-10 第 5 节所列最低实践要求的合规性信息。*DHS 2024 年更新将严格按照 OMB 基于 EO 14110 的 2024 年 AI 报告指导要求执行。2024 年度更新还将回应 AI 治理委员会的指示，确保整个部门在如何、何时以及在何种程度上报告 AI 用例进入清单时保持一致性。DHS 将在 OMB 提供的 2024 年 12 月 16 日截止日期内发布结合 2024 年度更新的 DHS AI 用例清单版本。
1.4 不受清单限制的 AI 用例报告
DHS 正在落实 OMB M-24-10 第 3(a)(v) 节的新汇总报告要求，作为信息收集整理过程的一部分，以用于 2024 年 DHS AI 用例清单的年度更新。第 3(a)(v) 节要求不需单独列入清单的 AI 用例，必须通过汇总指标来进行报告，包括此类用例的数量，是否影响安全和/或权利，以及它们是否符合 OMB M-24-10 第 5 节所规定的最低实践要求。
DHS 有一些 AI 用例未包含在 DHS AI 用例清单中，因为公开披露这些用例将与适用法律或政府层面的政策相违背。出于监督和治理的目的，DHS 已经对这些用例进行了追踪。DHS 计划对这些用例进行重新审查，以确定是否可以公开发布关于这些用例的某些信息，并在 DHS AI 用例清单中部分报告。此次重新审查将包括与法律顾问的协商，以针对适用的法律和政策进行评估。对于无法公开发布且无法部分报告在 DHS AI 用例清单上的 AI 用例，DHS 将根据 OMB M-24-10 第 3(a)(v) 节的要求，报告汇总指标。
作为 2024 年度 DHS AI 用例清单更新信息征集与汇总流程的一部分（详见本文第 1.3 节），DHS 将重新审查以前未公开披露的 AI 用例，并收集必要的信息，以部分呈报 DHS AI 用例清单或满足汇总报告要求。为达到这一目的，DHS 首席信息官与 DHS 首席 AI 官的征集与汇总请求将包括以下内容：（1）与法律顾问共同再次审查以前未公开披露的 AI 用例，(2) 与法律顾问确定这些用例是否能够部分或全部呈报在 DHS AI 用例清单中，如无法呈报，则收集必要信息以将这些用例纳入汇总报告。
2 促进负责任的 AI 创新
2.1 AI 战略
DHS 持续遵循一套明确的原则和强有力的治理框架，以优先保护隐私权、公民权利和自由权。该部门的方法为其工作奠定了基础，确保在其独特的任务中负责任地使用人工智能 (AI)。部长 Alejandro N. Mayorkas 在 Policy Statement 139-06: Acquisition and Use of AI and ML by DHS Components 中确立了有关负责任使用 AI 的指导原则。该政策声明为 DHS 使用 AI 建立了坚实的基础，包含一套明确的原则。这些原则包括，DHS 的系统、项目和活动在使用 AI 时，将遵循 第 13960 号行政命令 的要求，推动在联邦政府中使用值得信赖的人工智能。此外，DHS 只会在符合宪法及所有其他适用法律和政策的情况下获取和使用 AI。DHS 不会基于对种族、民族、性别、国籍、宗教、性取向、性别认同、年龄、国籍、医疗状况或残疾的任何不当考虑 来收集、使用或传播 AI 活动中的数据，也不会创建或支持基于这些因素的决策的 AI 系统。
在 2024 年 4 月，DHS 发布了首份 AI 路线图，详细介绍了测试这些技术应用的计划，旨在为美国公众带来实质性利益并提升国土安全，同时确保个人隐私权、公民权利和自由权得到有效保护。该路线图概述了 DHS 在 AI 方面的举措，阐述了 AI 技术在整个部门中的潜力，并更清晰地展示了该部门在 AI 上的工作方式，同时重申了其对负责任利用 AI 的承诺。AI 路线图提出了 DHS 工作的三条主线：
在保护个人隐私权、公民权利和自由权的前提下，负责任地利用 AI，以推动国土安全任务的执行。
促进 AI 在全国范围内的安全与保障
通过稳固且一致的合作关系，继续在 AI 领域保持领先地位
作为该路线图的一部分，DHS 宣布了三个创新的试点项目，这些项目将在特定任务领域应用 AI。这些试点计划将使部门能够评估 AI 在提升工作能力方面的有效性。每个试点团队在整个开发和评估过程中，均与隐私、网络安全，以及民权与公民自由领域的专家合作。这项工作将为全部门范围内的 AI 治理政策提供参考依据。DHS 各办公室和机构向首席 AI 官提交了数十个提案，后者选择了三个最适合于评估 DHS 内大型语言模型 (LLM) 和生成式 AI 技术有效性的试点项目。
该部门计划在根据 OMB M-24-10 第 4(a) 条要求制定 AI 战略时，以 AI 路线图为基础。DHS 将基于 AI 路线图的举措及相关活动的经验教训，制定一项战略，识别并消除在责任范围内使用 AI 的障碍。同时，推动全机构范围内的 AI 成熟度提升。
2.2 消除负责任应用 AI 的障碍
DHS 已采取协同且持续的方法来解决 负责任地应用 AI 推进国土安全任务的障碍因素。这包括设立 AI 工作组、制定面部识别和面部数据采集的使用政策，以及商业生成式 AI 使用政策。
2023 年 4 月，国土安全部长 Mayorkas 成立了 AI Task Force（人工智能工作组）以应对 AI 改变威胁格局的多种形态。其主要关注点是确保部门对 AI 的使用经过严格测试，以避免偏见和不公正影响，并能够向我们服务的公众进行清晰解释。该工作组最初的重点是打击芬太尼贩运、加强供应链安全、打击儿童性剥削以及保护关键基础设施。作为工作组的一部分，DHS 成立了 Responsible Use Group（责任使用小组），由 DHS 公民权利和公民自由官员主持，负责为工作组项目提供指导、风险评估缓解策略，并监督个人权利的保护。该工作组还负责为已确立的 AI 使用政策提供指导和领导作用，并推动创新发展。
2.3 AI 人才
2024 年 2 月 6 日，国土安全部长 Mayorkas 和首席信息官/首席人工智能官 Eric Hysen 宣布 该部门首次启动招聘冲刺，计划在 2024 年招募 50 名人工智能技术专家。利用人事管理办公室针对人工智能相关职位新设的灵活招聘权限，包括直接聘用权限，DHS 努力简化并加速联邦招聘流程，确保合格候选人尽快获得录用机会。新的 DHS“AI 部队”（AI Corps）[1] 参考了 U.S. Digital Service 的模式，将帮助该部门持续在国土安全业务领域中运用人工智能技术。AI 部队由工程师、数据科学家、项目管理专家及其他技术专家构成。
作为部门 AI Corps 招聘冲刺的一部分，DHS 从私营和公共部门任用了超过 25 名 AI 专家，在部门的战略性任务领域中发挥重要作用，负责任地应用 AI 技术。AI Corps 是联邦民事机构中最大的 AI 人才招聘行动之一，目标是招聘 50 名 AI 专家，以提升服务质量并推动国土安全战略任务，同时保障隐私、公民权利与自由。
人工智能军团成员目前正在与 DHS 供应链弹性中心合作，研究如何利用 AI 预测关键供应链中断对公共安全和国家安全的影响；与 DHS 科学与技术（S&T）部门合作，为 AI 系统的整个生命周期制定测试与评估（T&E）要求；并利用生成式 AI 支持 DHS 旗下的国土安全调查（HSI）部门的工作，以打击芬太尼、人口贩卖、儿童性剥削及其他犯罪网络。
展望未来 AI 招聘的需求，我们正在将 AI 能力添加到 网络安全人才管理系统 （CTMS）中，这是一个现代化的人才管理系统，提供优化的招聘流程、有竞争力的薪酬和具有实际意义的职业发展机会。
2.4 AI 共享与协作
DHS 正在朝着“默认开放”的软件开发方法迈进，以促进透明性、共享和发布 AI 代码，遵守 OMB M-24-10 第 4(d) 节的规定。第 4(d) 节要求各机构共享其 AI 代码、模型和数据，并且需要以政府范围内以及公众能够合作和重复使用的方式进行共享，同时符合适用的法律和指导。第 4 节还要求考虑：共享和发布定制开发的 AI 代码与 AI 数据资产；在部分 AI 代码、模型或数据无法共享或公开发布时，进行部分共享和发布；以允许共享和公开发布相关代码、模型和数据的方式，采购 AI 定制开发的代码、用于训练和测试 AI 的数据，以及丰富现有数据的方式；以及评估 AI 模型可能暴露所用开发数据中的敏感信息的风险。
如上文第 2.1 节所述，DHS 正通过三项 GenAI 试点计划评估 AI 在提升任务执行能力方面的有效性。这些试点将帮助我们总结有关 AI 治理、创新和风险管理的最佳实践经验，为未来全部门的政策制定提供参考。从这些试点中汲取的经验教训将有助于塑造 DHS 如何利用 GenAI 进一步推进我们的使命，以保护祖国安全。
2.5 AI 需求的协调
DHS 致力于通过合作工作，协调政府内外与 AI 相关要求的实施。DHS 支持 OMB 根据 OMB M-24-10 第 4(e) 条，推动资源与最佳实践共享的努力。第 4(e) 条解释称，OMB 将与科学技术政策办公室合作，通过跨机构委员会协调 AI 在联邦机构项目和运营中的开发与应用。DHS 的 CAIO 是 OMB 跨机构委员会的成员，DHS 积极参与该委员会的 GenAI、采购和风险管理工作组。此外，DHS 共同主持了 GenAI 和采购工作组。
DHS 还通过与联邦、州和地方机构合作伙伴的协作会议及 DHS AI 网页（dhs.gov/ai）积极参与具体行动，记录并分享关于 AI 治理、创新及风险管理的最佳实践。DHS AI 网页突出了该部门在利用 AI 保障国土安全方面的创新性应用，并提供了该部门关于 AI 使用的指导原则和管理政策。值得注意的是，DHS 于 2023 年 2 月创建了生成式 AI 资源网页，作为一个整合并公开联邦、州和地方合作伙伴所共享资源的平台：https://www.dhs.gov/publication/commercial-genai-resources。
为了在政府之外分享与 AI 相关的最佳实践，DHS 依托 **AI 安全与安保委员会 (AISSB)**。DHS 依据 E.O. 14110 的第 4.3(a)(v) 条款，于 2024 年 4 月设立了 AISSB。AISSB 包括来自私营部门和政府的 AI 专家，他们为国土安全部长和关键基础设施领域提供建议。AISSB 提供与 AI 使用相关的安全、事件响应与韧性方面的信息和建议。
3 管理 AI 使用中的风险
3.1 确定哪些 AI 被推定为对安全或权利有影响
DHS 根据 OMB M-24-10 第 5 节，正在审查其 AI 使用案例，以确定哪些使用案例对安全和/或权利有影响，并符合第 5 节中概述的最低实践标准。DHS 通过前面提到的流程，收集和整理来自 DHS 各组成部门的现有及新使用案例信息，以更新 DHS AI 使用案例清单。DHS 首席信息官办公室 (OCIO) / 首席 AI 官 (OCAIO) 将发出征集请求，要求整个机构中的每个 AI 使用案例是否对安全和/或权利有影响提出相关建议或初步判定。此类建议或初步判定由各组成部门负责 AI 的高级官员、负责 AI 使用案例的 DHS 人员、法律顾问以及熟悉特定 DHS AI 使用案例的领域专家共同做出。CAIO 将与 DHS 民权及公民自由事务负责人以及 DHS 首席隐私官共同审议这些建议或初步判定，并对每个使用案例做出最终裁定。
为了确定 DHS 的某个 AI 用例是否存在安全和/或权利影响并受 OMB M-24-10 第 5 节规定的最低准则约束，每个用例将根据以下问题进行评估：
各组件内和整个部门中负责 AI 的高级管理人员、各组件中负责 AI 使用案例的 DHS 成员、法律顾问以及熟悉 DHS 具体 AI 使用案例的领域专家，参与提供进行全局评估所需的使用案例信息。来自信息办公室和首席 AI 官办公室、民权和公民自由办公室、隐私办公室，以及科学与技术局的领域专家，会在 DHS 首席 AI 官对可能影响安全和/或权利的 DHS AI 使用案例进行独立评估之前，对这些信息进行审查。
确保在 DHS 各部门中实现一致性实施的关键环节是引入 DHS CAIO。DHS CAIO 将独立评估被认定为对安全和/或权利产生影响的 DHS AI 用例。DHS CAIO 将在用例经过审查以评估其影响时，参考适用的最低风险管理标准进行评估。DHS CAIO 将审查用于综合评估的相关信息，包括 AI 用例的测试与评估信息。视情况需要，DHS CAIO 将根据该用例是否符合适用的预部署和后部署标准，决定是否批准继续使用该 AI 用例。