英国GCHQ透露了人工智能将如何被用于加强国家安全。
英国最高情报和安全机构GCHQ，在人工智能上下了很大的赌注：该组织透露了它想如何利用人工智能来增强国家安全。
在一篇题为“开创新的国家安全，“GCHQ的分析师们不遗余力地解释了为什么人工智能是更好地保护国家的关键。GCHQ认为，该组织处理的大量数据给安全机构和执法机构带来了巨大压力；人工智能可以减轻这一负担，不仅可以提高专家决策的速度，而且可以提高决策的质量。
“人工智能和许多技术一样，为社会、繁荣和安全带来了巨大的希望。它对GCHQ的影响同样深远在我们保护国家、人民和生活方式的许多任务中，人工智能已经是无价之宝。它使我们杰出的分析师能够管理大量复杂的数据，并在面对日益复杂的威胁时改进决策，从保护儿童到提高网络安全。”
GCHQ已经大量参与了与人工智能相关的项目。尽管该组织不会透露其使用该技术的确切细节，弗莱明指着各种各样的https://www.gchq.gov.uk/news/start-ups-to-be-mentoned-by-gchq-exposed“target=”\u blank“rel=”noopener noreferrer nofollow“data component=”externalLink“>与全国各地与人工智能相关的初创企业建立合作关系，以及与艾伦图灵研究所的战略合作，它的成立是为了推进人工智能和数据科学的研究。
因此，情报机构对使用人工智能有着浓厚的兴趣，这并不是什么新闻；但最新发表的论文表明，GCHQ准备在未来几年进一步增加其算法库。弗莱明认为，对国家的威胁正在增加，这些威胁来自本身就装备了人工智能工具的敌对国家——英国应该准备好面对现代的风险。
“国家的安全、繁荣和生活方式面临来自敌对国家、恐怖分子和严重犯罪分子的新威胁，而这些威胁往往是由政府促成的全球互联网。越来越多的威胁来自于英国的数字家园，这是支撑现代生活各个部分的重要基础设施和在线服务，”弗莱明说。
在过去12个月里，几乎一半的英国企业报告了网络攻击，其中五分之一的企业导致了大量的资金或数据损失，GCHQ的报纸上说。人工智能可以帮助该机构更好地识别恶意软件，并不断更新已知模式的字典，以预测未来的攻击。这项技术还可以用来打击网络造谣和深度造假，通过自动检查内容的事实，还可以清除社交媒体上的僵尸网络和巨魔农场。
AI还将帮助识别聊天室短信中的修饰行为，以防止儿童性虐待；它将遍历内容和元数据，以发现正在交换的非法图像，同时防止人类专家观看具有创伤的令人不安的材料。利用类似的方法，这项技术将有助于打击毒品、武器或人口贩运——分析大规模金融交易链，帮助捣毁英国4772个估计参与严重有组织犯罪的团伙中的一些。
但与人工智能的任何其他应用一样，出于国家安全目的使用算法也会引发道德问题——事实上，当风险如此之大时，对透明度、公平性或信任的担忧也会随之产生。同时，情报和安全部门的性质意味着很难透露GCHQ行动的所有细节。换言之，妥协是必要的。
“就国家安全而言，情报机构传统上是在秘密的面纱下运作的，不愿意分享有关其活动的信息。开放大学的高级研究员罗伯特·法罗在接受ZDNet采访时说：“从定义上讲，他们的活动不需要解释，这基本上是正确的。然而，我们知道，如果机器学习是在有偏见的数据上训练的，那么机器学习可能会导致有偏见的决策。”。如果使用有偏见的算法，比如说，通过挖掘社交网络中的数据来分析潜在的恐怖分子，可能会对人们的生活做出决定，公众无法检查或评估所采取的行动是否合乎道德。”
在透明度方面，GCHQ的记录充其量是值得怀疑的。自从美国国家安全局前承包商爱德华·斯诺登（Edward Snowden）揭露该机构的大规模监控做法以来，该组织已经多次受到公众监督。GCHQ的秘密批量数据收集计划是https://www.zdnet.com/article/gchq-mass-internet-surveillance-was-unlawkly-says-substitute/“target=”\u blank“>被独立司法机构调查权力法庭（IPT）裁定为非法。
从那时起，监视法发生了变化，但英国的调查权力法（IPA），也被称为“窥探者宪章”，仍然使GCHQ这样的政府机构大量收集和保留一些公民数据是合法的。
GCHQ的最新论文，也许是为了让公众放心使用他们的数据，它有一个强烈的道德重点。该机构致力于公平和透明地使用人工智能，认识到GCHQ业务的性质可能“在某种程度上”影响隐私权，并承诺遵守尚未建立的人工智能道德行为准则对于新技术可能对社会产生的影响，我们需要坦诚、成熟的对话。这需要在系统开发过程中进行，而不是之后。在这样做的过程中，我们必须确保保护我们（公民）的隐私权，最大限度地发挥数字革命所固有的巨大优势，”弗莱明说。
许多专家欢迎该机构重新关注道德问题，这将最终提高公众的信任，并有助于吸收一种能够有效地改变游戏规则、保护英国国家安全利益的技术。达勒姆大学计算安全研究员安德鲁德怀尔（Andrew Dwyer）解释说，人工智能甚至可以帮助GCHQ在打击恐怖主义或贩卖人口的斗争中识别和锁定合适的人，从而缓解人们对大规模监视的担忧。
“GCHQ使用这些系统当然是件好事，”德怀尔告诉ZDNet在这个例子中，它实际上可以将监视的焦点从大规模监视中分离出来。这篇论文是思考人工智能在国家安全中的作用的第一步。”
但是，尽管许多人会同意GCHQ使用人工智能是合理和必要的，但这项技术的部署可能会引发很多争论。例如，法罗认为，一个道德框架是不够的：甚至情报机构也应该被要求提供一个关于算法如何影响决策的说明。”真正需要的是法律跟上技术发展，有效规范人工智能的使用，“他认为，
有一件事是肯定的：隐私团体和数字权利活动家将全神贯注于GCHQ即将推出的道德行为准则。
