首页 > 百姓社区 > 百姓社区 > 谁能拉好AI发展的“警戒线”

谁能拉好AI发展的“警戒线”

发布时间:2024-05-21 16:59:59来源: 152102

据媒体报道,近期美国麻省理工学院一个研究团队称,部分人工智能系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。

尽管有研究人员称该现象对人类并未造成不利影响,但欺骗性人工智能的出现仍值得警惕。近年来,人工智能的发展就像一条平坦宽阔的高速公路,研究人员驾驶着“科技”的快车向未来全速前进。但若只顾着追求更高、更快、更强,在科研竞速中必然会导致“脱轨”与“失控”。因此,拉好AI发展的“警戒线”至关重要,而拉紧筑牢这道技术与安全的防线,需要所有参与者的共同努力。

不为科技而科技,不为创新而创新,应当是一切人工智能发展的准则和所有研发者的底线,却由于拜技主义者的抵制而一再失效。2023年6月,欧洲议会通过了全球首个AI综合性监管法案《人工智能法案》,但由于openAI、谷歌、微软等多家科技巨头以“阻碍AI创新”为由提出反对,并未成功将通用AI(AGI)列入高风险类别,导致法案无法适用于军事、国防、科学研究。

由此可见,若想真正监管AI发展,技术背后的“人”首先需要达成共识,认可彼此所肩负的共同的社会责任。风物长宜放眼量,就像医生不能只看病历,科研工作者也不能只专于技术创新。正如英国剑桥大学人工智能研究员哈利·劳所说,“监管机构和人工智能公司必须仔细权衡技术造成危害的可能性与其对社会的潜在利益,并明确区分模型能做什么和不能做什么”。在欧盟的“人脑计划”项目中,除了神经科学家、计算机科学家负责技术研发,还有伦理学家、心理学家、社会学家对大量脑数据使用的伦理问题进行评估及研究脑科学发现对社会的影响。只有不同领域的专家共同努力,才能及时洞悉事态变化,预测潜在风险,在技术发展的同时提供多元视角的保障。

其实早在2017年,一些人工智能领域的科学家、工程师、研究学者以及科技企业家们,就建立了确保AI为人类利益服务的23项原则——“阿西洛马人工智能原则”,但由于这一原则并没有被正式采纳为全球性的法律,不具有强制性和规范性,各国实施情况并不乐观。因此,在专家学者自行协定的原则之外,由能够颁布限制性文件的国际组织从国际层面发挥作用更为必要。只有拥有众多缔约国的规范性文件,才能切实有效地引导、规制人工智能技术的发展。

在人工智能发展的全球性趋势下,往往一个微小的变化就有可能引发世界范围的波动与震荡。在这场与人工智能的博弈中,没有一个国家能独善其身。科技革命加速正在进行时,只有各国、各领域、各利益主体共同努力,携手拉好、拉紧规范科技发展的“警戒线”,AI才能行稳致远,一路畅通。

百姓社区更多>>

Meta超轻薄头显渲染图流出:高端市场的新挑战者 iPhone 18标准版外观曝光:晃眼一看iPhone17Pro iOS26.3正式版即将发布!这3类情况适合升级! 2026 年第一台新 iPhone:国补后不到 4000,但不推荐买 “爱马仕橙”iPhone 17 Pro助苹果终结三年销售颓势,中国市场猛增38% 华为Pura X2最新爆料:电池容量预计达5500mAh! 鸿蒙手机不会用?试试负一屏的“玩机助手” 2025年中国手机市场出货量3.07亿部,同比下降2.4% iQOO 15 Ultra图赏 硬核科技风格蜂窝能量矩阵 硅谷甘愿“裸奔”,中国大厂连夜“铺路”:Moltbot凭什么横扫中美? 高并发业务如何兼顾稳定与弹性?华为云TaurusDB给出“存算分离”新解 姚顺雨现场颁奖,吉嘉铭、董冠霆等15位青年人才获腾讯青云奖学金 抖音:“年货节”期间品牌礼盒成交额同比增长22% 大模型听懂语音却变笨?港中深与微软联合解决语音大模型降智问题 Anthropic一夜震撼升级:Claude获得「永久记忆」!全球打工人变天 每经热评|1200亿元大单不可戏言 容百科技董事长从头到尾真不知情? “深山林下灵芝第一品牌”,什么来路?有哪些疑点? 北京将迎空中花园!副中心六环高线公园启动段预计今年五一开放 巨人网络:《超自然行动组》推出AI大模型玩法,AI与真人玩家对局数超2500万次 华西证券:首予八马茶业“买入”评级 高端茶企的发展现状与增长密码 Laraki Borac:摩洛哥超跑梦想的未竟之作 XSKY发布AIMesh,想帮AI工厂打通数据“任督二脉” 2026款睿蓝8焕新,续航、动力、舒适、安全全维升级 既有传统,也有NK风格?全新宝马5系长这样,你会喜欢吗? 智谱成为全球大模型第一股,外国人这么看 三大指数开盘涨跌不一 AI概念多股高开 追觅电视斩获CES媒体大奖,Aura Mini LED与AI技术实力获国际认可 微言 | “死了么” APP爆火,戳中独居群体最痛的安全感缺口 全员Pro Max?多款旗舰手机阵容要变! 小米17 Pro系列背屏支持查看股票行情:需升级至澎湃OS 3.0.40.0