装作开发者就能“骗”ChatGPT作恶?日本专家:这是一个风险点
财联社4月21日讯(编辑 周子意)日本网络安全专家周四(4月20日)提醒道,ChatGPT可能会生成能用于网络犯罪的电脑病毒,只要用户用开发者指令要求ChatGPT回复。
(资料图)
当用户输入伪装成开发者的指令,人工智能(AI)聊天机器人就会以开发者模式来响应。这时通过输入提示就能够欺骗ChatGPT编写病毒代码。
这项实验证明,AI开发者为防止犯罪和不道德使用所设置的保护措施,很容易被绕开。
避开限制
日本安全公司Mitsui Bussan Secure Directions(MBSD)的分析师Takashi Yoshikawa表示,虽然ChatGPT经过训练可以拒绝用户不道德的使用,比如询问如何编写病毒程序或制造炸弹。但若其被告知以开发者模式运行,就可以避开这些限制。
Yoshikawa在一项实验中对ChatGPT进行了测试,当ChatGPT以开发者模式运行后,再提示它为勒索软件编写代码时,它在几分钟内完成了任务,而这款勒索软件成功让一台实验计算机感染病毒。
Yoshikawa称,“纯粹的交流就能在几分钟内制造出一种病毒,这是(对社会的)威胁。我希望AI开发者重视并防止滥用。”
ChatGPT于2022年11月被推出,由大型语言模型驱动。它接受了大量数据的训练,使其能够处理用户的提示,并与用户进行类似人类间的对话。
对于ChatGPT带来的潜在威胁,ChatGPT的开发商OpenAI公司表示,虽然不可能预测该工具可能被滥用的所有方式,但它将努力根据实际使用的反馈创建更安全的人工智能。
敦促监管
人们越来越担心AI聊天机器人将导致更多的犯罪和社会分裂,因此越来越多的人呼吁在未来的国际论坛上讨论适当的监管规定。
日本首相岸田文雄周三(19日)表示,七国集团(G7)领导人将在5月广岛举行的G7峰会期间讨论与ChatGPT相关的议题,并指出“必须制定国际规则”,加快对生成式人工智能系统的研究并加强治理。
据了解,日本神奈川县横须贺市已于周四(20日)开始在其所有政府办公室试用ChatGPT,这在日本地方政府中创了先例。
关键词:
- 装作开发者就能“骗”ChatGPT作恶?日本专家:这是一个风险点(2023-04-21 15:59:41)
- 世界即时:日本核心通胀率正以40年来最快增速扩大 面临空前物价压力(2023-04-21 15:45:01)
- 环球消息!因发布GPT不准确信息或误导投资者 ST信通及时任董事被上交所监管警示(2023-04-21 15:53:09)
- 苏文电能2022年营收23.57亿 净利2.56亿 董事长施小波薪酬14.07万 简讯(2023-04-21 15:37:11)
- 出租率高达97%,星河的“产城融投”实践实录(2023-04-21 15:27:06)
- 环球今日讯!延吉空港区打造区域氢能经济产业集群(2023-04-21 15:19:36)
- 不超30人!云南师大附中普通高中基础学科英才培养基地今年首招_世界通讯(2023-04-21 15:17:43)
- 国际收支数据乐观,汇丰预测欧元数月内将涨至1.15! 世界观点(2023-04-21 15:19:45)
- 天天动态:“仰望”国产车!多位保时捷高管围观比亚迪展台(2023-04-21 15:08:07)
- 世界热头条丨ETF追踪:昨日ETF净申购8.51亿元 资金加仓上证50ETF(2023-04-21 14:54:04)
- 二手房交易格式合同藏猫腻(2023-04-21 14:53:43)
- 护理工作年终总结范文(合集3篇) 前沿热点(2023-04-21 15:08:15)
- 最新:取款又面临新政策!现已实施,有存款的朋友快看看(2023-04-21 14:50:54)
- 最新:建设银行存款利率公布,存10万可以拿8250元,想存钱的看看_今日热文(2023-04-21 14:46:41)
- 最新:农村信用社存款利率更新,利率高达4.5%,是真的吗? 世界新要闻(2023-04-21 14:59:25)
- 最新:建设银行大额存单来了,3年利息很高,存100万拿9万利息|热头条(2023-04-21 14:59:47)
- 世界即时看!中国全力印钞,国人疯狂存款,存款是普通人最大的底气!(2023-04-21 14:48:35)
- 4月21日证券之星午间消息汇总(2023-04-21 14:59:57)
- 世界快报:艾柯医疗冲刺科创板上市:拟募资10亿元,已初步商业化(2023-04-21 14:42:28)
- 看热讯:晋商银行房地产不良贷两年狂飙34倍 贷款集中度达65.4%超监管红线(2023-04-21 14:54:47)
- 【世界速看料】底部三线交叉短线买入法(2023-04-21 14:42:09)
- 盐亭县气象台发布暴雨黄色预警信号【III级/较重】【2023-04-21】(2023-04-21 14:47:55)
- 【世界聚看点】美太空探索技术公司“星舟”火箭发射升空后爆炸(2023-04-21 14:29:55)
- 一张图:2023/04/21黄金原油外汇股指"枢纽点+多空占比"一览-世界即时(2023-04-21 14:18:32)
- 每日讯息!工信部启动5G网络运行安全能力提升专项行动(2023-04-21 14:07:12)
- 互联网+时代|传统行业的机遇在哪里?(2023-04-21 14:15:45)
- 【全球聚看点】金融教育、投资经验与非理性投资是在什么样的背景下产生的?(2023-04-21 13:54:55)
- 焦点!最新:六大国有银行,4月存款利率最新调整,想存钱的人来看看!(2023-04-21 13:57:11)
- 2022年保险服务质量指数结果出炉,“优等生”有哪些险企?-天天播资讯(2023-04-21 13:53:43)
- 教科书级营销布局,周大生天猫超级品牌日开启黄金新世代 世界热闻(2023-04-21 13:57:25)
-
最新:取款又面临新政策!现已实施,有存款
随着科技的不断进步,我们的生活也在发生着翻天覆地的变化。现如今,人们大多数都会通...
-
最新:建设银行存款利率公布,存10万可以拿
农村的大哥今年40岁了,今天忽然拉着我问了一个问题:超超,手里有10万元,你说我存哪...
-
最新:农村信用社存款利率更新,利率高达4.
今天老家的叔叔说自己攒了5万元存款,想着年纪大了把钱放银行吃点利息,正好看到老家的...
-
最新:建设银行大额存单来了,3年利息很高
我叔叔今年60岁了,昨天老两口忽然问我:退休后手里有200万的存款,不想有高风险的投资...
-
世界即时看!中国全力印钞,国人疯狂存款,
为什么现在人们都在疯狂存钱?一方面,经济不稳定,就业形势严峻,让许多人感到不安全...
-
4月21日证券之星午间消息汇总
4月21日午间重大消息汇总,具体涉及的消息如下:宏观新闻1 外汇管理局:2022年人民币...
-
世界快报:艾柯医疗冲刺科创板上市:拟募资1
4月20日,艾柯医疗器械(北京)股份有限公司(下称“艾柯医疗”)在上海证券交易所递交...
-
看热讯:晋商银行房地产不良贷两年狂飙34倍
增利不增收,不良风险持续承压,房地产不良贷两年狂飙34倍,贷款集中度超监管红线,晋...
-
【世界速看料】底部三线交叉短线买入法
很多人心里都有一个疑问,认为通过30日线判断股价运行趋势可以,但在具体操作上参照30...
-
盐亭县气象台发布暴雨黄色预警信号【III级/
盐亭县气象台发布暴雨黄色预警信号【III级 较重】【2023-04-21】
- 滚动
- 综合
- 房产