Image
全国统一服务热线
0351-4073466

AI代写愈加火热,人工智能潜在隐患又该如何防范?


编辑:2024-01-05 11:39:28

时值年末,又到了一年一度写年终总结的时候,*近,武汉的一家公司在朋友圈发布的招聘启事引发关注。内容说:“今年在AI的协助下,大致会撰写35万份以上报告(去年是26万份),年底来临,有不少总结性报告要写,招多个兼职报告撰写人员。”据了解,有了AI加持,这家公司在精简10%-20%人力的基础上,单量却比去年同期增加20%-30%。


此外,据报道,在某线上购物平台,输入“年终总结AI”“代写”等关键词,立刻蹦出许多相关产品。商家在产品介绍中写下宣传语:“AI智能原创、写作必备”“懒人办公”“三分钟急速交稿”等。产品销量一般在几千单左右,有的店铺月销量达6万单以上。


随着科技快速发展,人工智能(AI)应用越来越广泛,它深入到医疗、教育、娱乐等各个领域。如今,伴随各类年度总结任务的集中涌来,AI代写业务火了,然而,这看似*轻松的背后,却隐藏着巨大的风险!


那么

人工智能应用使用过程中

隐藏哪些风险呢?

下面跟着小密一起来看!


图片


人工智能在促进社会发展进步的同时,也伴随着一些风险隐患,以今年爆火的ChatGPT为例,若被不当使用或滥用很有可能影响到国家安全、社会稳定、企业利益和个人用户权益等诸多方面。


而ChatGPT类大模型加速了数字******和物理******的深度融合,引领人工智能进入新的发展阶段。与此同时,人工智能固有的不确定性、不透明性、难以解释、事实性错误等能力局限,对经济发展、国际政治和全球治理等方面带来深远影响,引发了全球对大模型广泛应用安全风险的热议。如何应对人工智能风险并把握人工智能发展的战略主动,有效保障国家安全,已成为我国国家安全治理的重要议题。


大模型技术引发新的安全风险和治理挑战。随着技术的更新迭代,人工智能的应用门槛持续降低,伴随着误用滥用情况的增加,经济社会领域的多重安全风险也在交织叠加。


01




隐私泄露风险





根据相关报道,ChatGPT的训练使用了45TB的数据、近1万亿个单词(大概是1351万本牛津词典的单词量)。其中很有可能就包括未经同意获取的个人信息。除前述海量数据外,ChatGPT还能够在与用户一对一的对话互动中获取信息。


在该软件隐私政策不明了的情况下,个人信息是否会被存储、泄露,甚至被恶意使用都不得而知。


02




知识产权风险





ChatGPT庞大的网络语料库中或许包含着他人拥有著作权的作品,故其生成的文本也存在嫁接他人作品的可能性。但它在输出内容时却未必能够识别,也不一定会对用户进行提示。在没有得到原作者授权的情况下,ChatGPT产生的文本如果被使用,那么则很有可能是使用者承担知识产权侵权的法律风险。


03




虚假信息风险





尽管ChatGPT被视为有史以来*智能的AI,但它毕竟也不是全知全能。比如在一段涉及《红楼梦》的对话当中,ChatGPT就言之凿凿地宣称,贾宝玉是贾元春的儿子。


尽管它在文字组织上的确能够做到语句通畅,有条有理,但是并不能保障内容的真实准确。当用户在自己不熟悉的领域向ChatGPT咨询问题时,就很有可能因为这些看似“高大上”的回复,错信了有误甚至是虚假的信息,从而产生决策失误、传播虚假信息等诸多法律风险。


04




数据泄密风险




在高度智能化、自动化的应用场景中,ChatGPT在数据获取、处理、结果展示等环节都存在重大的数据安全风险。


一是数据获取阶段。用户在使用ChatGPT时,可能会输入自己或他人的信息数据,从而导致隐私泄露。如果员工使用ChatGPT输入各类工作数据,就可能导致公司敏感信息泄露。而一旦输入涉及国家秘密或敏感内容的信息,则无疑会导致泄密。


二是数据处理阶段。ChatGPT会将用户输入、交互的数据用于后续持续的迭代训练,这就导致这些信息很可能被其他用户获取,从而构成数据非授权共享,进而出现数据泄密问题。


随着人工智能的不断深入

我们在面对AI带来的种种风险时

又该如何应对呢?

且听小密为你一一道来~


图片


行业:
倡导AI技术合规使用和加强行业自律

******,建立行业监管制度并开展合规性评估审查。建立健全AI服务行业监督管理相关制度与标准。包括算法分级分类管理、算法推荐服务安全管理、AI 滥用举报等,并开展AI应用安全合规性评估审查与处置,实现行业监管闭环。

第二,创新研究应用人工智能赋能网络安全技术。一方面,利用AI技术赋能针对复杂网络攻击的防御能力,使用 AI 技术应对其带来的网络安全风险;另一方面,研究利用AI技术提升企业组织在网络安全攻击检测、数据资产识别与风险监测、业务安全风控、不良信息识别、电信反诈、安全威胁分析、深度伪造识别等方面的能力。

第三,做好元宇宙等AI融合场景的安全风险梳理与防护技术储备。对于元宇宙和AI融合关键场景,要抓紧开展安全技术研究储备,提早防范大规模人工智能安全事件发生。


图片


企业:加强AI安全防护体系建设


PART.01





一是制定出台企业组织AI安全总体策略,编制企业标准规范与技术指南;


PART.02





二是配备AI安全领域专业人员,支撑AI安全新技术新业务安全风险评估与创新技术研究;


PART.03





三是对员工在日常工作或对外服务中使用ChatGPT等AI应用行为进行规范,防范企业组织及客户数据泄露等风险;


PART.04





四是强化安全技术手段建设,建设涵盖网络安全、算法安全、数据安全与隐私保护等功能的AI安全管控能力,为企业组织的AI能力与应用提供安全防护,保障AI业务健康发展。


图片


个人如何防范人工智能潜在隐患


对于个人而言,除了避免陷入虚假宣传,更重要的是面对花样翻新的AI诈骗,必须保持防范意识。


保护信息,提高警惕。公众要谨慎提交个人信息及企业数据,防范AI应用个人隐私窃取、有害言论误导诱导等风险,防范利用ChatGPT热点或者仿冒知名AI应用收集敏感信息实施诈骗等行为。


多重验证,确认身份。如果有人自称"熟人""领导"等通过社交软件、短信以各种理由诱导汇款,或涉及网络转账交易行为时,务必通过电话、见面等多途径核验对方身份,不要未经核实随意转账汇款。


如不慎被骗或遇可疑情形,请注意保护证据,并立即拨打96110报警。




小密提醒


随着AI产品的不断更新,不少AI软件推出了公文写作板块,人工智能开始悄然影响公文写作等日常政务工作,作为机关、单位干部职工,如果偷懒用AI代写,各种文件和数据泄露的后果将不堪设想!


不仅如此,由于AI写作内容相对比较笼统,语言僵硬,不贴合实际情况,使用过程中还可能涉及信息泄露风险、侵犯知识产权等法律问题,所以小密建议大家,在工作中尽量不要使用AI写作,多积累理论知识和实践案例,才能成为真正的“笔杆子”!

图片




END



来源:成华密语

Image
Image
版权所有:山西科信源信息科技有限公司??
咨询热线:0351-4073466?
地址:(北区)山西省太原市迎泽区新建南路文源巷24号文源公务中心5层
? ? ? ? ? ?(南区)太原市小店区南中环街529 号清控创新基地A座4层
Image
?2021 山西科信源信息科技有限公司 晋ICP备15000945号 技术支持 - 资海科技集团