颠覆人类社会的AI应如何治理?来看“最强大脑”怎么论|科技圆桌派
来源:欧宝登录app入口 发布时间:2024-11-21 12:15:35
当全世界在为AI撼动人类社会而狂欢时,站在AI技术前沿的“最强大脑”们,慢慢的开始警惕起AI变革背后的滥用、威胁与挑战了。
10月26日,顶级科学家论坛永久会址外下起大雨,会场内,2024世界顶级科学家智能科学大会,座无虚席。
众多知名学者、科技从业者、高校学生如期而至,以期对“人工智能(AI)在技术加快速度进行发展背景下,将怎么样影响社会”有更深刻的了解。
“我早上七点半就出门来赶来论坛了,比上学起得早。”会场间隙,上海某中学学生吴萌(化名)告诉封面新闻记者,因为平常对AI相关这类的产品和技术发展就很感兴趣,所以趁着周末想来听听AI行业最顶尖的科学家,是怎么样看待AI发展的。
AI发展将怎样影响人类社会?在中国科学院院士、北京科学智能研究院院长、北京大学国际机器学习研究中心主任鄂维南的提问下,来自国内外的AI领域顶级科学家,围绕AI发展的伦理责任、全球合作和技术监管等多层次话题展开了一场“头脑风暴”,并就如何推动AI的伦理使用及可持续发展,确保科学技术进步与社会福祉之间的平衡进行讨论。
“AI正在重塑劳动市场,改变人们的工作方式和生产力。”2010年诺贝尔经济学奖获得者、伦敦政治经济学院(LSE)经济学钦定教授克里斯托弗·皮萨里德斯(Christopher PISSARIDES)指出,劳动力市场上,我们十分关心人工智能给工作带来的变化,以及人们看待工作、绩效、生产力的方式,“AI的发展将对工作性质产生深远影响,尤其是在职场满意度和生产效率方面。”
如何使AI既可提升生产力,又能为劳动者带来工作乐趣,是一个重要的社会议题。克里斯托弗强调,AI的引入带来了双重挑战:既要提升员工的工作成就感,又要防止技术取代人类工作带来的不良后果。
“AI是一种社会技术系统,许多AI的决策不可避免地涉及社会其他学科的问题。”2024世界顶级科学家协会奖“智能科学或数学奖”得主、康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格(Jon KLEINBERG)指出,AI技术在某一些程度上能够放大现有的社会问题,甚至成为对这样一些问题的“诊断工具”,帮助人们以更精确的方式认识和应对复杂的社会问题。克莱因伯格认为,AI的风险和机遇并存,决策者需要平衡长远的社会影响与当前的技术风险。
作为一个方兴未艾的领域,AI与其他技术领域一样,也需要持续不断地监测和事后纠错。这也与克莱因伯格本次因“在算法公平性领域发挥的智识领导力”的获奖理由不谋而合。
“AI发展的短期和长期的问题都不容忽视,尤其是在目前复杂多变的技术和政治环境下,必须防止AI技术被不良意图利用。”乔恩直言,AI技术的发展,既有可能提供更精确的分析工具,也可能引发社会不公,因此AI的应用应该时刻以人为本,关注社会的整体福祉。
“全球AI治理需要一个高效的框架,但治理并不等同于单一的监管。”先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克表示,监管的目标是防止负面影响,而治理的更广泛目标是促进AI技术对人类和地球的正面贡献。
“前几天,一位14岁少年不幸成为AI发展的牺牲品,这个少年因沉迷于人工智能聊天机器人而自杀,而推出这款聊天机器人的公司,也被其母亲认为要对孩子的死负主要责任。”龚克表示,如今世界上有几百个由政府、国际组织,或是知名国际会议发表的治理框架或者宣言,可它们并不完善,在协调和执行上存在不小的问题。
“AI的发展必须要安全、可靠、让人信服。”龚克直言,未来,要建立一个全面的治理体系,既能管理风险,也能支持AI的创新发展,以确保AI技术的发展符合人类社会的长远利益。
论坛上,各位科学家还针对不一样国家在AI监管方面的路径选择及其优缺点进行了讨论,分析了欧洲、美国和中国的不同策略:欧洲的高标准技术监督管理模式虽能确保安全性,但可能对AI创新造成一定的阻碍;美国采取更为灵活的监督管理模式,可能会引起责任划分模糊的风险。封面新闻记者注意到,与会者一致认为,AI治理应该兼顾技术标准和伦理限制,平衡安全与创新需求。
“目前是定义人工通用智能(AGI)和人工超级智能(ASI)的最佳时机。”清华大学计算机系副系主任唐杰教授在讨论中提到,明确这些概念,有助于建立符合安全性和伦理需求的技术框架。他进一步指出,AI技术应在教育、工程和技术培养和训练领域广泛推广,为社会注入创新动力的同时,确保技术发展与社会需求相吻合。
2015年图灵奖获得者、斯坦福大学电子工程系名誉教授马丁·赫尔曼(Martin HELLMAN),则更关注科技发展在国家竞争与全球合作中的角色。他指出,科学技术的迅速传播使得一国的科技成果往往被其他几个国家快速复制,国际间的合作显得很重要。“然而当前的全球形势是,各国普遍将科技主导地位视为政治和经济优势的重要标志,导致竞争愈发激烈。”对此,赫尔曼呼吁各国在AI等新兴科技领域中寻求合作,以避免潜在的全球性冲突。
“核武器的发展是重要教训,AI的发展各国更应吸取类似的教训。”赫尔曼还认为,如果各国能在科技领域携手合作,不但可以推动人类的共同进步,还可以为后代创造一个安全、和谐的未来。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
暴跌40万,一路跌至22万,奔驰才是“价格屠夫”,2.0T+9AT四驱
首夺东京站冠军!郑钦文拿500分+101万元,再进年终4强=升世界第5
单亲妈妈为了让孩子学会独立,让她自己穿衣服洗脸,小女孩也懂事的照做,自己走进校门
《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律
铭瑄 800 系列主板发布会召开:全新 UI、更好稳定性,王牌产品全面更新
Intel酷睿Ultra 7 265曝光:基础频率2.4GHz远低于265K!
一加 13 手机配红外遥控、全区域多功能 NFC,支持 USB 3.2 Gen1