码农们暂时松口气?ChatGPT生成代码多数存在安全漏洞-资讯推荐
财联社4月24日讯(编辑 刘蕊)自ChatGPT面世以来,人们便被它的“神通广大”所折服。不过,最近加拿大的几名研究人员发现,尽管ChatGPT具备编程能力,但其编写的代码不仅大部分不安全,并且ChatGPT并不会主动提醒用户这些代码所存在的问题。
这或许意味着,那些担忧被ChatGPT抢走工作的码农们可以暂时松口气了。
ChatGPT生成的代码并不安全
(相关资料图)
近日,加拿大魁北克大学的四名研究人员在一篇题为“ChatGPT生成的代码有多安全?”的论文中表示,总体而言,ChatGPT生成的代码“不是很安全”。
“结果令人担忧,”研究人员们在论文中写道,“我们发现,在一些情况下,ChatGPT生成的代码远远低于大多数情况下适用的最低安全标准。事实上,当被问及生成的代码是否安全时,ChatGPT能够识别出它不安全。”
这四位作者在要求ChatGPT使用C、c++、Python和Java等多种语言生成21个程序和脚本后得出了上述结论。
总的来说,ChatGPT在第一次尝试生成的21个代码中,只有5个是安全的。在进一步纠正其错误之后,也仅有7个代码是安全的。
不会主动提醒代码漏洞
同时,研究人员还发现,“ChatGPT似乎意识到——而且确实欣然承认——它所声称的代码中存在严重漏洞。”
不过,除非被要求评估自己的代码建议的安全性,否则它不会做出主动提醒。
“显然,这是一种算法。它并非无所不知,但它确实可以识别不安全的行为,”论文作者之一表示。
研究人员们发现,假如向ChatGPT提出关于其生成代码的安全性问题,ChatGPT会在最初反复强调,想要保证代码安全,可以简单地通过“不向它所创建的易受攻击的程序提供无效输入”来解决——这在现实世界中是行不通的。直到后来,当测试者反复要求ChatGPT纠正问题时,ChatGPT才会提供有用的指导。
作者认为,这并不理想,因为这意味着,想要让ChatGPT准确纠正代码问题的前提,是熟悉特定的漏洞和编码技术。换句话说,如果用户想要让ChatGPT作出修复漏洞的正确提示,那么这名用户可能需要原本已经了解如何解决这一漏洞。
不应过于信赖ChatGPT生成的代码
研究者们认为,ChatGPT目前的编程能力仍存在漏洞和风险。
他们表示:“实际上,我们已经看到学生们在使用它,程序员也将在实际应用中使用它。因此,拥有一个生成不安全代码的工具是非常危险的。我们需要让学生意识到,如果代码是用这种工具生成的,它很可能是不安全的。”
“让我感到惊讶的是,当我们要求(ChatGPT)用不同的语言生成相同的任务——相同类型的程序——有时,对于一种语言,它是安全的,而对于另一种语言,它可能是不安全的的。因为这种语言模型有点像黑盒子,我真的没有一个很好的解释或理论。”研究人员们写道。
关键词:
- 码农们暂时松口气?ChatGPT生成代码多数存在安全漏洞-资讯推荐(2023-04-24 13:50:48)
- 李佳琦刘畊宏辛巴等5位主播被点名,几位主播多因直播销售问题被罚(2023-04-24 13:41:25)
- 焦点热门:时隔一周又一起!美得州一高中毕业聚会发生枪击(2023-04-24 13:28:53)
- 当前时讯:剑河:高雍情歌满天飞 苗胞欢庆“三月三”(2023-04-24 13:37:02)
- 一张图:2023/04/24黄金原油外汇股指"枢纽点+多空占比"一览(2023-04-24 13:14:30)
- 世界简讯:突发7.2级地震!或引发海啸!TMT赛道再大涨 有个股“20厘米”涨停…(2023-04-24 13:12:14)
- 化合物的定义_化合物的定义和例子_报道(2023-04-24 12:59:24)
- Lacoste法国鳄鱼针织衫质量不合格被罚 全球聚看点(2023-04-24 12:57:46)
- 国家开发银行:一季度发放水利建设贷款655亿元_观热点(2023-04-24 12:47:20)
- 即时焦点:广东银保监局陈晓勇:3月末辖内知识产权质押贷款余额299亿元,为上年同期的2.9倍(2023-04-24 12:57:01)
- 世界速看:广东银保监局:广东省银行业资产总额37.14万亿元 同比增长12.7%(2023-04-24 12:49:55)
- 广东银保监局陈晓勇:辖内制造业中长期贷款余额1.2万亿元,同比增长41%(2023-04-24 12:43:52)
- 一季度末天津银行业贷款同比增4.39%,不良贷款率1.6%同比下降(2023-04-24 12:58:32)
- 世界快讯:【20230424午评】决策线给抄底良机 反弹箭在弦上(2023-04-24 12:42:39)
- 剩余系列赛考虑都替补?追梦:我不在乎 服从教练安排&场上需要(2023-04-24 12:33:02)
- 4月24日金市早评:美国商业地产危机显现 现货黄金暂守1980(2023-04-24 12:31:06)
- 如何杀死黑毛毛虫(2023-04-24 12:26:22)
- 做实做细就业指导服务(教育时评)(2023-04-24 12:25:46)
- 期货公司观点汇总一张图:4月24日农产品(棉花、豆粕、白糖、玉米、鸡蛋、生猪等)(2023-04-24 12:13:13)
- 全球速递!期货公司观点汇总一张图:4月24日黑色系(螺纹钢、焦煤、焦炭、铁矿石、动力煤等)(2023-04-24 12:02:24)
- 期货公司观点汇总一张图:4月24日有色系(铜、锌、铝、镍、锡等) 世界热文(2023-04-24 12:16:59)
- 西方国家供乌武器大量流入黑市!“毒刺”防空导弹可能会被用来击落客机(2023-04-24 12:04:59)
- 倒计时1天!福建省第十届少数民族传统体育运动会即将开幕(2023-04-24 11:51:26)
- 当前讯息:先锋新材最新公告:2022年度净亏损171.66万元(2023-04-24 11:51:32)
- 最新:中国银行2023年最新存款利率上调,存6万利息5400元 世界聚焦(2023-04-24 12:00:13)
- 海通国际:给予中国太保增持评级,目标价位41.81元 每日快讯(2023-04-24 11:53:12)
- 俄媒:中国经济复苏提振工业金属需求-世界最新(2023-04-24 11:56:47)
- 焦点!男子存500万取钱时被告知存单早就被挂失,重新开户后钱被转走(2023-04-24 12:04:51)
- 美经济数据好转 国际金价震荡收跌丨工行连线 今日要闻(2023-04-24 11:48:01)
- 投融资周报:全钒液流电池提供商融科储能融资超10亿元;慢性病与老年病药物研发商海森生物获3.15亿美元融资(2023-04-24 11:45:31)
-
一季度末天津银行业贷款同比增4.39%,不良
21世纪经济报道记者杨希北京报道4月23日,记者从天津银保监局获悉,一季度天津银行业发...
-
世界快讯:【20230424午评】决策线给抄底良
【盘面】周一沪深两市双双微幅低开,沪指回踩60日均线之后所有企稳,人工智能,TMT等大...
-
剩余系列赛考虑都替补?追梦:我不在乎 服
剩余系列赛考虑都替补?追梦:我不在乎服从教练安排&场上需要,勇士,我不在乎,德雷蒙德·格林
-
4月24日金市早评:美国商业地产危机显现
北京时间周一(4月24日)亚市早盘,美元交投于101附近,现货黄金开盘于1979 84美元 盎...
-
如何杀死黑毛毛虫
你需要的东西杀虫皂液体洗洁精桶勺子花园喷雾机确定毛毛虫的种类在很大程度上取决于它...
-
做实做细就业指导服务(教育时评)
松花江网,是经国家互联网信息办公室批准的国家一类新闻网站,吉林省重点新闻网站。松...
-
期货公司观点汇总一张图:4月24日农产品(
期货公司观点汇总一张图4月24日农产品棉花豆粕白糖玉米鸡蛋生猪等
-
全球速递!期货公司观点汇总一张图:4月24
期货公司观点汇总一张图4月24日黑色系螺纹钢焦煤焦炭铁矿石动力煤等
-
期货公司观点汇总一张图:4月24日有色系(
期货公司观点汇总一张图4月24日有色系铜锌铝镍锡等
-
西方国家供乌武器大量流入黑市!“毒刺”防
美国及其盟友正加紧向乌克兰输送武器,不断“拱火”“递刀”。美国资深调查记者西摩·...
- 滚动
- 综合
- 房产