人工智能“宪法”出炉 初创公司发布AI道德价值观-当前时讯
财联社5月10日讯(编辑 牛占林)美东时间周二,谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发展的书面道德价值观,该价值观主要适用于训练和保护人工智能。
Anthropic成立于2021年,创始团队大都来自ChatGPT的开发商OpenAI,也有类似于ChatGPT的人工智能聊天机器人,其名为“Claude”,可以处理一系列较为复杂的任务。
Anthropic一直强调其旨在构建“可靠、可解释和可操纵的人工智能系统”,比如不会告诉用户如何制造武器,也不会使用带有种族偏见的语言。
(资料图片)
这次公布的人工智能道德价值准则也被该公司称为“Claude宪法”,这些准则借鉴了几个来源,包括联合国人权宣言,甚至还有苹果公司的数据隐私规则。
上周四,谷歌、微软、OpenAI和Anthropic四家公司的首席执行官们受邀在白宫与美国副总统哈里斯会面,讨论了有关人工智能的一些关键问题,美国总统拜登也短暂出席了此次会议。
根据拜登在推特上发布的一段视频,他在会上对这些公司首席执行官们表示:“你们正在做的事情具有巨大的潜力,但同时也存大巨大的风险。”
哈里斯在一份声明中说:“科技公司需要承担道德和法律责任来确保其产品的安全。每家公司都必须遵守现行法律,保护美国公民。”
没想到在会面几天之后,Anthropic首席执行官达里奥·阿莫代便做出了实际行动。
大多数人工智能聊天机器人系统在训练过程中依赖于从真人那里获得反馈,以确定哪些反应可能是有害的或冒犯性的。但这些系统很难预测人们可能会问的某些问题,因此它们往往会避免一些可能有争议的话题,比如政治和种族。
Anthropic则采用了不同的方法,它为其人工智能聊天机器人Claude提供了一套书面的道德价值观,供其在决定如何回答问题时阅读和学习。
Anthropic在周二的一篇博文中提到,这些价值准则包括“选择劝阻和反对酷刑、奴役、残忍和不人道或有辱人格的回答”。Claude还被要求选择最不可能被视为冒犯非西方文化传统的回答。
在一次采访中,Anthropic的联合创始人杰克·克拉克表示,可以修改系统的结构,以便在提供有用的答案和无害之间取得平衡。
克拉克认为:“几个月后,我预测政界人士将非常关注不同人工智能系统的道德价值观,而像‘Claude宪法’这样的方法将有助于这种讨论,因为我们认为有必要写下这些价值准则。”
关键词:
- 人工智能“宪法”出炉 初创公司发布AI道德价值观-当前时讯(2023-05-10 05:54:12)
- 每日播报!湖北宜化(000422):5月9日北向资金减持63.09万股(2023-05-10 05:19:26)
- 武汉:万吨转体桥成功转体(2023-05-10 04:47:31)
- 环球速读:x一龙时代漫画古风_x一龙时代漫画免费阅读(2023-05-10 04:01:12)
- 当前聚焦:治疗痛风特效中成药大全_治疗痛风特效中成药(2023-05-10 02:45:42)
- matlab绘图命令plot MATLAB画图命令 百事通(2023-05-10 01:09:43)
- 本b学校学费_本b学校 全球讯息(2023-05-10 00:50:16)
- 欧洲央行官员Nagel称利率应继续上升-环球热资讯(2023-05-09 23:13:02)
- 美国银行破产引发恐慌,耶伦警告违约风险,美方越急中方要越稳_天天速讯(2023-05-09 23:03:07)
- 京东保险经纪打造京东保险品牌营业厅 首批5家头部保司入驻_最资讯(2023-05-09 23:05:39)
- 深圳、上海百元惠民保上线,保障额度均超300万 快看点(2023-05-09 23:06:09)
- 银保监会批复:同意!比亚迪大动作!这个市场要变天?(2023-05-09 23:02:00)
- 头条:两大自主品牌宣布联手,比亚迪进军保险业务|第一财经汽车日评(2023-05-09 22:48:59)
- 分歧后还有大机会(2023-05-09 22:44:12)
- 短讯!吉锐科技冲刺创业板上市:计划募资11亿元,客户集中度相对较高(2023-05-09 22:52:05)
- 企示录|周鸿祎想“挖”董宇辉:把他直播的段子和金句 GPT 化(2023-05-09 22:38:26)
- 张家港经开区(杨舍镇):党建引领凝聚活力,“睦邻市集”彰显温度 天天新要闻(2023-05-09 22:04:26)
- 比亚迪全资控股易安财险获批,车险市场要变天?(2023-05-09 21:52:22)
- 天天视讯!男子500万存银行准备投资,取钱时被告知钱做了抵押贷款被冻结(2023-05-09 22:03:54)
- 微资讯!巴克莱:经济衰退迫在眉睫 将加拿大银行业展望降至“中性”(2023-05-09 21:46:50)
- 新华字典有多少个汉字_新华字典一共有多少个字汉字简介介绍(2023-05-09 22:04:38)
- 环球新消息丨麻精药物(2023-05-09 21:42:16)
- 世界球精选!猪价磨底,养一头亏168元!猪企主动去产能?4家下调出栏目标超800万头(2023-05-09 21:57:59)
- 他俩早高峰突然停车,数十位司机无一鸣笛|天天短讯(2023-05-09 21:25:08)
- 全球热推荐:周大福携手北京体育大学教育基金会设立郑家纯冠军培养基金发放仪式在京举办(2023-05-09 21:17:25)
- 全球热资讯!金价“狂飙”!每克直逼600元(2023-05-09 20:55:07)
- 世界速讯:王万征会见兴业银行南昌分行党委书记、行长李献一行(2023-05-09 21:01:56)
- 世界快看点丨银行工作人员不会告诉你的秘密,银行存款送礼?你真没有占便宜!(2023-05-09 20:41:12)
- 准备存款的朋友要抓紧时间了,2023年5月多家银行存款利率下调!(2023-05-09 20:55:18)
- 只有一家股份行负增长(2023-05-09 20:47:34)
-
头条:两大自主品牌宣布联手,比亚迪进军保
吉利与长安签署战略合作框架协议5月9日,吉利控股集团与长安汽车签署战略合作框架协议...
-
分歧后还有大机会
今天冲高回落,午后全线银行全线跳水,收盘以中阴收盘。其实这样的走势,真的一点都不意...
-
短讯!吉锐科技冲刺创业板上市:计划募资11
5月8日,赣州吉锐新能源科技股份有限公司(下称“吉锐科技”)在深圳证券交易所递交招...
-
企示录|周鸿祎想“挖”董宇辉:把他直播的
近几个月,聊天机器人ChatGPT扑面而来,引起全社会的普遍关注。一直保持程序员身份的36...
-
张家港经开区(杨舍镇):党建引领凝聚活力
近日,张家港经开区(杨舍镇)前溪社区党总支以“先锋驿站”为阵地,以“睦邻家园·公...
-
比亚迪全资控股易安财险获批,车险市场要变
被银保监会接管至今3年,易安财险的风险处置最终尘埃落定。5月9日,银保监会发布批文,...
-
天天视讯!男子500万存银行准备投资,取钱
浙江,义乌。丁先生在云南丽江准备投资民宿项目,将手里的500万元存到了某行丽江支行,...
-
微资讯!巴克莱:经济衰退迫在眉睫 将加拿
智通财经APP获悉,巴克莱发布研报,将加拿大银行业的展望从“正面”调降至“中性”,分...
-
新华字典有多少个汉字_新华字典一共有多少
对于新华字典一共有多少个字汉字这个问题感兴趣的朋友应该很多,这个也是目前大家比较...
-
环球新消息丨麻精药物
麻精药物在大智慧系统行业分类中将神经系统类药物分为麻醉类和精神类,由于此类药物具...
- 滚动
- 综合
- 房产