
咨询热线:4001767766
上知天文地理,下能通过谷歌程序员的面试、为总统写发言稿……ChatGPT对信息的处理与“创作力”,着实让人“紧张刺激到发抖”。那么,对于数字安全和保密防护,ChatGPT会带来更多“惊喜”么?
AI给保密和数字安全以更多智能
事实上,从大众熟知的AI棋手、AI换脸、AI绘画……人工智能的研究和应用早已渗透到各行各业。在数字安全和保密防护领域,引入人工智能技术可用于监管的辅助决策。比如在数据采集分析、监测预警等方面,在网络安全保密检查中,甚至在行政执法、政策制定和决策上,人工智能技术都大有可为。
构建平台化的智能分析和数据处理能力,是未来万里红数字安全和保密防护技术方向之一。基于人工智能安全分析技术,可以用于分析网络异常行为,进行主动安全防护监管;基于大数据架构,提供响应快、性能高、扩展强、灵活度高的分布式数据分析引擎,满足不同数据规模和应用场景的数据处理需求。在这一过程中,基于深度学习的ChatGPT或许将带来更多的创造力灵感,利用其语言生产模型的优势,在产品能力、安全服务能力上给保密和数字安全以更多智能。
ChatGPT 安全风险不容忽视
硬币总有两面,在人工智能助力攻防之外,ChatGPT亦不可避免地存在安全风险。
01 可靠性缺陷
除了开发环境存在的安全问题外,“高质量”数据是AI的前提和基础,“垃圾输入,垃圾输出”甚至“一本正经地胡说八道”,数据篡改、伪造以及上传不及时、不准确,都会形成安全隐患、造成信任危机。
02 敏感信息泄露风险
据硅谷媒体报道,亚马逊的公司律师称,他们在ChatGPT生成的内容中发现了与公司机密“非常相似”的文本,目前亚马逊、微软等科技巨头已经提醒员工不要泄露数据。一旦提问过程中泄露敏感信息,在ChatGPT不断自学习和自我迭代下,或将很难消除影响。
03 降低网络攻击的门槛
据数字安全调查媒体Cybernews称,ChatGPT可被用于寻找网站的安全漏洞,在AI的帮助下,研究人员对一个普通网站进行了渗透测试,并在45分钟内结合ChatGPT提供的建议和代码更改示例完成了破解。