AI威胁论:先过狗关,再赛人智|世界讯息
原创 樟稻 科技新知
“AI不如狗”,控制AI是否为时尚早?
@科技新知 原创
【资料图】
作者丨樟稻 编辑丨伊页
ChatGPT让人工智能再次引起科技界的震动,同时也激起了政策制定者、消费者倡导团体以及企业领导层的警觉。他们普遍要求为这种前沿技术制定规范,以确保其发展道路的可控性和可持续性。
几个月前,马斯克资助的生命未来研究所(Future of Life Institute,FLI)发起了一场具有影响力的公开信签名运动。该运动强烈呼吁先进大模型研究应至少暂停6个月,目的在于对当前人工智能发展的快速膨胀进行深入反思,因为这可能正导致我们失去对这项技术的控制。
上个月,人工智能安全中心(Center for AI Safety,CAIS)公布了一份瞩目的简短声明。这份声明得到了OpenAI和DeepMind的高级管理人员、图灵奖得主以及其他AI领域的领军研究人员的共同签署。他们称AI这一堪比“疫情和核战争”的技术或对人类构成生存威胁。
不过,与众多AI谨慎派不同,以“深度学习三巨头之一”杨立昆(Yann LeCun)为代表的乐观派并认为,我们应该更加耐心,更加相信科技的进步;AI现阶段仍处在它的青涩和幼稚期,我们远未抵达那个需要紧急行动的点。
这两派的对立并非细枝末节的学术争论,而是关于人类如何看待技术的问题,是人类把技术看作是工具,完全受人类控制,还是把它看作可能脱离人类控制,甚至危及人类存亡的潜在威胁。
01
乐观派:AI不如狗
上周三的Viva Tech大会上,Meta首席AI科学家杨立昆被问及AI目前的限制。
“这些系统仍然非常有限,它们对现实世界的底层现实没有任何理解,因为它们完全是在大量的文本上接受训练的。”杨立昆说,“大部分人类的知识与语言无关……所以人类经验的那一部分并未被AI捕捉到。”
“这告诉我们,人工智能还缺失了一些真正重要的东西……别说是赶上人类的智力水平了,人工智能现在是连狗都不如。” 杨立昆总结道。
这并不是杨立昆首次发言“AI不如狗”,在上月底350位AI领域大佬签署CAIS组织的联名公开信时,杨立昆转发了同是乐观派华人科学家吴恩达的推文表示:
“在人类最重要的生存问题清单上,根本排不上超越人类的人工智能。主要是因为它还不存在。直到我们能设计出起码达到狗狗水平的智能(更不用说人工智能了),再来谈安全问题也不迟。”
当然,“AI不如狗”本质上输出的结论是,人类并没有真正设计出超级智能系统,谈论安全或控制问题有些为时过早。至于如何更加全面地反驳AI威胁论,他提供了两个更有力的论证角度。
其一,人们不会给现阶段的AI以完全自主权:
杨立昆指出,现阶段的自回归模型如GPT-4,虽然拥有强大的自然语言处理能力,但其输出结果是不可预测和难以控制的。无论是改变训练数据的统计信息,还是调整问题的形式,都无法直接地约束这些AI模型以满足某种特定目标。
这种情况自然引发了一系列的担忧。人们在某种程度上假设,一旦允许这些AI系统自由地做任何我们能通过互联网连接的事情,让它们有自由使用网络资源的权限,那么它们可能会做出一些疯狂的、不理智的,甚至可能带来危险的行为。一些人担心,我们将无法控制这些AI系统,它们会逃脱我们的控制,甚至可能控制我们,因为它们的规模更大,所以它们的智能也会增强。
然而,这种观点其实是没有根据的,或者说是纯粹的想象和夸大。未来被授予自主性的系统,应该是能够规划一系列行动、有明确目标且易于控制的。因此,杨立昆预测,理智的人不会使用完全自动的大语言模型,他们会转向更复杂、可控制的系统。
其二,智力和控制欲毫无关联性:
许多人认为,智能实体会因为比人类更聪明而想要支配人类。然而,杨立昆认为这是个误解。智力高并不意味着就有支配他人的欲望,这更多的是与进化和生物性质相关。
人类、黑猩猩、狼、狗等社会动物会想要影响他人,是因为它们在进化过程中建立了这种欲望。而对于非社会动物如长颈鹿来说,它们并没有支配他人的欲望。因此,控制欲望和能力与智力是两个不同的概念,它们之间没有必然联系。
此外,谈及AI带来的失业问题,他认为关键在于如何分配财富,如何组织社会使每个人都能从中获益。这是一个政治问题,不是技术问题,也不是人工智能造成的新问题,而是技术进化造成的。
在杨立昆、吴恩达等乐观主义者的观点中,可以发现一个共识: 任何新技术在初次出现时,都不可能完美无缺。
实际上,人类需要的是一种可以控制的方式,限制技术可能带来的危害,对其进行有效地监管,并解决可能的恶性用例。完全中断研发进程并不是一个明智的决策。人类应该保持对技术进步的尊重和包容,而不是因为害怕未知而过早地否定其潜在的价值。
02
谨慎派:心思各异的联盟
相较于乐观派,谨慎派的阵营似乎人数更多,也反应了人性的一种普遍趋势。当新的事物出现时,它往往会引发人们的担忧和疑虑。这是人类对可能带来颠覆性改变的新技术所产生的本能反应。
在两轮的公开签名活动中,可以看到谨慎派的声音和影响力逐步增强。 当这种关于“AI风险”的讨论在外界引发了广泛地思考和讨论的同时,一些质疑声音也不断出现。
关于“AI的风险和危害”,这个话题已经成为了一个表态的舞台,每个参与者都希望在这场风潮中塑造自己的正面形象。
然而,问题在于,这场大讨论真的有用吗?表面看起来,似乎每个人都在积极参与,但实际上,却鲜有人真正采取行动。这种现象在一定程度上显得像是在浪费大家的时间。“那些创造出AI技术的人参与这种声明,其实无非就是为了给自己博取好名声。”这是不少业界人士对这种现象的评价。
就连“人工智能之父”,德国计算机科学家于尔根·施密德胡伯(Jürgen Schmidhuber)也表示,许多在公开场合对人工智能的危险提出警告的人只是在寻求宣传。
当然, 在一些人可能试图利用这种情况来提升自己的知名度的同时,不乏也有一些独到的见解。
中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅,也在CAIS组织的这封公开信中签名。他认为,公开信的目的并不是阻碍人工智能的发展,而是绝大多数人有权利知道人工智能的潜在风险,研发者们也有义务确保人工智能不给人类带来生存风险,至少要确保这种风险的最小化。
在他的观点中,人工智能对人类生存所可能带来的威胁,可以从两个不同的角度进行分析:
如果将目光放到无限远,远到通用人工智能和超级智能到来,AI智力水平可能远超人类,那么或许就会像很多影视作品呈现的那样,视人类如同蝼蚁,与人类争夺资源,甚至危及人类生存。
如果只看现在和不远的未来,当代人工智能只是看似智能的信息处理工具,不具有真正的理解能力。但曾毅认为,正因为它们算不上真正的智能,不理解什么是人类、什么是生死和什么是生存风险,才有可能会以人类难以预期的方式犯下人类不会犯的错误。而这恰恰是更紧迫的关切所在。
有趣的是,这似乎正好在反驳杨立昆的两大主要论点。
此外,谨慎派阵营中,三位“人工智能教父”中的两位辛顿(Geoffrey Hinton)和本吉奥(Yoshua Bengio)也赫然在列。他们曾因在深度学习方面的工作,与杨立昆共同获得2018年“图灵奖”。
然而,与杨立昆的观点相左,本吉奥在接受采访时坦言,他开始对自己这一生的工作成果产生了一种“迷茫”的感觉。 本吉奥认为,所有致力于构建强大AI产品的企业都应该进行正式的注册和报备。 “政府需要对这些公司的行动进行追踪,对其工作内容进行审查,对AI行业至少要实行像对待航空、汽车或者制药等领域一样的监管机制。”
辛顿则在近期辞去了谷歌的工作,并警告这一技术领域的持续发展或将带来巨大风险。辛顿表示,“我总在用这样的借口安慰自己:哪怕我自己不做,其他人也会这样做。但目前真的不知道要怎么防止坏蛋利用 AI 来作恶。”
辛顿对于AI的担忧主要有两个方面。首先,他担心AI会完全取代那些需要大量记忆的工作,这可能会对许多行业和职业产生深远影响。其次,随着AI逐步获取编写和运行自身代码的能力,他担忧AI最终可能取代人类的位置。
03
写在最后
上文中对立两派的观点,其实也有重合的地方。对于如今的 AI 是否具有风险以及该如何克服,两派代表人物杨立昆和奥特曼看法一致。他们都认为,即便风险存在,但可以通过仔细的工程设计,减轻或抑制它。
可以肯定的是,随着AI技术的不断发展和深化,两派之间的争论和争议仍将持续不断。
不过相对于国外热火朝天地讨论,国内对AI伦理和风险的关注相对较少。 市场似乎更专注于AI大模型如何改变各行各业,并对此感到喜悦和兴奋。
原因可能在于,一方面为了在全球竞赛中夺取发言权,商业公司首先需要缩小与国外AI大模型的差距;另一方面,也正由于国内的AI大模型能力还未进入未知前沿,大家对AI可能带来的威胁并未给予足够的关注。
在此背景下,国内的AI创业者更倾向于维持一种技术乐观主义的态度,他们不希望过早收敛自身发展,认为这将相当于提前投降,放弃了与国外竞争的机会。
总的来说,这次的争论并非毫无意义的口舌之争。它为我们提供了一个理想的舞台,让我们深入探讨AI的未来走向,以及如何以人类的智慧和经验,来引导这一领域的发展,使其真正地服务于人类社会,而非反过来控制我们。
从这场激烈的辩论中,可以清楚地看到,人类现在正站在一个重大的决策点。 无论是选择乐观地拥抱AI的发展,还是谨慎地审视其可能带来的风险,都需要意识到,现在所做的每一个决定,将会影响人类和AI之间的关系,也将塑造人类对未来的想象和期望。
/ THE END /
标签:
推荐文章
- AI威胁论:先过狗关,再赛人智|世界讯息
- 提前预祝中秋节祝福语(提前预祝中秋节祝福语怎么说) 天天速看
- 端午档新片总票房破亿|当前速讯
- 全球讯息:警惕非法“一日游” 北京开展旅游领域专项整治行动
- 今日看点:波音获卢森堡航空公司4架737-8飞机新订单
- 花漾少年优秀节目展播《盛世欢腾》 每日快播
- 2名中国公民在美被定罪,外交部:中方坚决反对 环球关注
- 林伯丰:台湾电不够要涨电价 令人担心 最新资讯
- 浙江省防指启动防汛Ⅳ级应急响应-播资讯
- 上古王冠6.21礼包码2023
- 乌情报局长称俄方在扎波罗热核电站埋地雷,俄乌曾屡次互指“反人类”
- 假期可以办理交管业务 热门看点
- 总投资732亿元 河北国有企业招商引资项目推介会举行
- 2000+高性价比扫拖一体机器人实测?美的小白盒和云鲸J2哪款好?
- 电动车置换补贴政策解析,电动车购置补贴
- 卢卡库解锁比利时国家队75球里程碑 环球观热点
- 最资讯丨爱的教育主要人物是谁4个_爱的教育主要人物是谁
- 韩国艺人收入分配(韩国普通艺人的收入)
- 广州地铁3号线要“上市”?最新回应:不实 未纳入基础设施REITs
- 全球热文:百度爱采购的原理规则是什么?
- 永福股份(300712):6月20日北向资金减持6.16万股-当前视讯
- 世界热议:6月21日昨日连板_含一字板块涨幅达3%
- 全球快报:广汽本田三智科技再出拳 全新一代皓影e:PHEV&e:HEV引领电动化
- 龙湾中学向壤塘县中学捐赠10万元教育帮扶资金_天天热头条
- 科新机电:公司目前在手订单持续充足、生产任务十分繁忙|每日焦点
- 人社部:开展农民工工资争议速裁庭建设专项行动
- 中南建设:公司南通海门柳岸春风项目目前已经封顶,预计9月底完成交付|全球热资讯
- 油画棒怎么画星空 ?用什么材料画都挺好的,只要懂得生活
- 北京昌平沙河大集调整开集时间
- * 中信建投:A股上涨行情更具备持续性
- 当前速讯:“悠然见南山” 杭州这条路变平了更美了
- 焦点快报!岛内“大选”局势突变,若柯文哲真上位,美国将变得很被动?未必
- 13个行业获融资净买入 通信行业获净买入最多
- 中国银行女儿金金条价格今天多少一克(2023年06月20日)
- 刷新市场标杆,江铃福特全顺成全能轻客价值之选 环球通讯
- flash播放软件哪个好_flash播放软件|观察
- 新虹桥中学_关于新虹桥中学简介-即时看
- 东派斗数论疑难的皮肤问题
- 2023长春警保杯百日零违法挑战赛奖项设置(非营运组+营运组) 天天热闻
- 当前讯息:专家团走进黄石探寻城市转型路径
- 【环球时快讯】辛选集团发布618内部信:将在新农业领域再创业
- 蓝帆医疗:连续3日融资净偿还累计227.54万元(06-19) 今日热议
- 房地产发展到行业“中期” 未来仍有很大机会
- 华厦眼科(301267):6月19日北向资金减持500股
- 【独家焦点】致远互联于苏州参设云科技公司
- au vst插件下载_au vst下载
- 小米8青春版miui14刷机包
- 现代健康科技(00919.HK)盈警:预期年度亏损不少于1000万港元
- 【环球聚看点】借呗还不上可以延期吗?被起诉了会怎样?
- 焦点关注:强对流天气将至!这些地方的居民注意
- 世界即时:苦苦抗争7000天 冲绳民众再表反对驻日美军基地决心
- 一级建造师2023年报名时间辽宁
- dnf装备增幅一次花多少钱(dnf装备增幅到几会碎) 天天快播
- 世界看热讯:1957 & CO.(08495.HK)就重续于又一城物业租赁事项签订延期函件
最新资讯
- 《天行健》发布首支预告 秦俊杰刘宇宁联手演绎乱世传奇-世界快资讯
- 国家药监局:发布关于云南菊开生物科技有限公行检查结果的通告_当前速看
- 事发海口世纪大道!两车相撞 一人死亡 独家
- 天天讯息:中年女人夏季别乱穿,学国外主妇们的搭配,简约舒适又大方自然
- 全球今头条!祁可欣的家境如何_祁可欣被杀血腥照片
- 2023福建高考全省位次排名怎样查 福建高考位次排名怎样使用
- 宋
- 热门:上学吧在线考试中心(上学吧)
- 焦点热文:初三学生被老师要求弃考?当地教育局通报
- 天阳科技:持股5%以上股东减持公司股份达到1%
- 今日广州越秀公园游泳馆开放了吗_广州越秀公园游玩攻略|世界观热点
- 《我爱你!》倪大红惠英红梁家辉叶童自拍暖人心
- 天天动态:作为一个在县级政府工作多年的人,看完赵教授的文章我想提出几点不同意见
- 2023年内上市,荣威D7官图正式发布|环球速看料
- 环球聚焦:高尔夫球全锦赛落幕上海男队陕西女队夺冠
- 世界今热点:赣南首部本土历史武侠电影《风云宝石|罗汉岩》杀青
- 当前快看:Mysteel:1-5月中国中冶签订10个钢铁项目,金额145.8亿元
- 今热点:奥迪新款A6曝光!取消3.0T车型 还等宝马5系?
- 五脏六腑的功能详解表_五脏六腑的功能详解-世界即时看
- xls find函数_excel中find函数的使用方法|全球快资讯
- 重磅!人民币突传大消息!马云刷屏,现身杭州!这国爆发激烈战斗,2500万人急需援助-速读
- 天天精选!徐州矿大附近修电脑(附近修电脑)
- 对只能扫码点餐的“霸王规定” 不能止于“用脚投票”|视焦点讯
- 泉峰汽车(603982)29.95万股限售股将于6月19日解禁上市,占总股本0.11%
- 彭李派出所:护航高考季 反诈“警“相随|微动态
- 微速讯:文旅为“媒” 长江中游经济区“通平修”绿色发展先行区架起发展连心桥
- 警探号|今年上半年北京亡人交通事故中 电动自行车事故占近三成 全球头条
- 当前热点-视频‖降雨土堆塌陷致人员被困地下3米管道内,消防紧急救援
- 今年端午四川交通运输情况如何?这些高速、车站车多人多! 环球微头条
- 当前看点!大四男生实习薪资1万4妈妈仰天大笑 姐姐:像意外收获一样开心
- 女子花52元取鱼刺称“医院赚大钱”被怼,医院回复:明白人还是很多的
- 铜锌锡硫硒薄膜太阳能电池研究获新进展 天天即时
- 为完善老年健康体系 我国不断探索医养结合服务模式
- 刷新北京桥梁最大跨度纪录!永定河畔京雄大桥正式合龙
- 全球快资讯:2023农村能源发展大会在郑举行 共探绿色能源如何赋能乡村振兴
- 考生高考估分710,父亲高调发文9月清华见,网友一盆冷水令其清醒-信息
- 《梦中的那片海》“肖艳秋”父亲节对爸爸暖心表白 信息
- 北约举行“最大规模”空中军演 德国多地民众抗议示威 世界热头条
- 当前速看:熬过1天,四大生肖财运大利,生活顺心如意,事业终有所成
- “口是心非”的爸爸们,节日快乐! 焦点关注
- 郑州激发金融“活水”赋能发展 一次推出25条“金措施”|焦点滚动
- 焦点要闻:苏丹冲突已持续两月 停火止战仍遥遥无期
- 痛心!一女子不幸身亡!祸起夏天很多人爱戴的帽子
- 当前焦点!如果喜羊羊与灰太狼的人物形象变成这样,一定会风靡全球
- 世界今日讯!国家防总办公室发出提示 做好近期南方强降雨防范工作
- 关于600850股票的一些信息 每日视点
- 回暖信号?多位知名基金经理最新官宣!
- 世界速讯:难!惨跌5元/斤!多因素影响下,虾价易跌难涨…|宜春强微特约·对虾周报
- 浙赣线-天天快报
- 草金和锦鲤的区别图解(锦鲤和草金的区别)