人工智能安全问题

国盛证券发布研究报告称，4月4日，据白宫官网，美国总统拜登将在白宫与科技顾问举行会议上，讨论AI给人类、社会和国家安全带来的风险和机遇。该行认为，大模型隐患初步显现，安全及监管迫在眉睫。人工智能趋势不可逆转，与科学技术的高速发展相比，现有法律和伦理仍处于不断起步探索的阶段。该行认为，在人工智能带来巨大想象空间的同时，安全问题值得进一步关注，看好大模型及AI安全行业的发展潜力。

投资标的：1)大模型：三六零(002261.SZ)、科大讯飞(002230.SZ)、云从科技(688327.SH)、昆仑万维(300418.SZ);2)AI安全：电科网安(002268.SZ)、安恒信息(688023.SH)、奇安信(688561.SH)、深信服(300454.SZ)、美亚柏科(300188.SZ)、启明星辰(002439.SZ)、格尔软件(603232.SH)等。

国盛证券观点的如下：

大模型隐患初步显现，安全及监管迫在眉睫。

1)据白宫官网，美国总统拜登将于4月11日在白宫与科技顾问举行会议，讨论AI给人类、社会和国家安全带来的“风险和机遇”。2)随着AI大时代的到来，AI安全的重要性凸显。3月11日，三星的半导体事业暨装置解决方案事业部允许员工使用ChatGPT，随后发生了三起将公司内部半导体数据上传到ChatGPT的事件;3月29日，包括埃隆·马斯克在内的1000多名行业高管和专家签署公开信，呼吁在6个月内暂停高级AI的开发。3)在OpenAI数据使用说明中，对于非API产品如ChatGPT、DALL-E等，平台会使用用户数据来进一步提升模型效果。该行认为，类ChatGPT的大模型将是高于搜索引擎的知识输入和输出的入口，将成为大国科技必争之地，自主大模型战略重要性更为突出，AI自主安全成为共识。

内部：RLHF使模型更符合人类价值观，AI合规技术提上日程。

1)对齐问题(TheAlignment Problem)旨在使人工智能与人类价值观保持一致并遵循人类意图，这也是大模型通向安全、可靠的通用人工智能的必经之路。OpenAI通过RLHF将预训练语言模型按照人类反馈进一步微调以符合人类偏好，更加遵循指令和事实，并大幅度减少有毒输出(toxic generation);Copilot也对于数据安全问题给予重视，通过双因素身份验证、合规边界、隐私保护等进行合规控制。然而，现阶段对齐问题的最终解决方案仍未出现，如何在应用先进技术的同时控制风险的议题提上日程。

外部：ATDF技术反制AI滥用，隐私计算保障数据安全。

1)内容安全问题往往不能仅靠大模型来解决，需要在网络安全、内容安全、数据安全、业务安全、终端安全等细分领域全面发力。2)在反制AI技术滥用方面，根据腾讯云官网，换脸甄别(Anti-Deepfake，ATDF)基于图像算法和视觉AI技术，可以实现对视频中的人脸真伪进行高效快速的检测和分析，鉴别视频、图片中的人脸是否为AI换脸算法所生成的假脸。3)在数据安全方面，隐私计算手段可以在不暴露数据的情况下进行计算和分析，以实现数据隐私的保护。该行认为，确保新兴技术能在安全有效的前提下为人类所用成为重点，AI合规问题任重道远。

全球AI监管处于探索阶段，划定数据安全边界成为重点。

1)全球AI监管处于探索阶段，相关法律法规与指导意见逐步推进。2022年12月6日，欧盟理事会就欧盟委员会起草的《欧盟人工智能法案》达成一致立场，试图在确保AI技术利用的伦理和透明度的情况下，为AI系统开发和适用提供清晰指导;3月29日，英国政府的科学、创新和技术部为人工智能行业发布白皮书，呼吁监管机构提出有针对性的、针对具体情况的方法，以适应人工智能的实际应用;3月30日，美国联邦贸易委员会收到来自人工智能和数字政策中心新的举报，要求对OpenAI及其产品进行调查;3月31日，意大利DPA表示ChatGPT可能违反了欧盟的通用数据保护条例，泛欧盟法规要求对已确认的违反GDPR的处罚最高可达数据处理者全球年营业额的4%，4月1日OpenAI禁止意大利用户访问。2)2022年9月，中国国家网信办也修订网安法，对严重的违法行为按照上限5000万元，或者上一年度营业额5%罚款。人工智能趋势不可逆转，与科学技术的高速发展相比，现有法律和伦理仍处于不断起步探索的阶段。该行认为，在人工智能带来巨大想象空间的同时，安全问题值得进一步关注，看好大模型及AI安全行业的发展潜力。

风险提示：技术推进不及预期的风险;行业竞争加剧;商业化不及预期。