ChatGPT之父因激进研究恐致“AI灭绝人类”被炒?(图)
奥特曼(Sam Altman)11月16日出席三藩市亚太经合组织(APEC)论坛,讨论AI发展。(图片来源:Justin Sullivan/Getty Images)
【看中国2023年11月19日讯】(看中国记者杨天资综合报导)OpenAI人事大地震成为这个周末科技业界的大新闻,ChatGPT之父奥特曼(Sam Altman)于11月17日被董事会解雇的消息震惊全球,并引起外界无限猜想。且目前尚不清楚董事会成员解雇奥特曼的真实动机,有消息披露奥特曼在开展AI研究时可能过于激进,这可能导致AI人工智能“终有一天会导致人类灭绝”。
奥特曼的突然遭炒鱿鱼确实暗示了未来业界将出现的一场争论,发展AI与安全的矛盾——有如一些科学研究、如基因改造的禁忌一样,AI的发展今后也会被设置道德的界限。
ChatGPT之父因激进研究恐致“AI灭绝人类”被炒?OpenAI人事风暴内情曝光
山姆.奥特曼(Sam Altman)被炒的消息过于突然,相信他事前也不知道。因为奥特曼(Sam Altman)在被炒的前一天16日还在三藩市出席亚太经合组织(APEC)会议的一个论坛,谈论AI的发展。
据董事会主席布罗克曼(Greg Brockman)所述,奥特曼是在当地时间11月17日在董事会议被即时解雇。OpenAI技术总监(CTO)穆拉蒂(Mira Murati)其后被任命为临时CEO。
根据OpenAI的声明,奥特曼被辞退是因董事会认为他与董事会沟通的过程中“不够坦诚”,阻碍董事会履行职责的能力,因此“不再相信他能继续带领公司”。
据《纽约时报》18日引述消息报道,OpneAI的高层当日告诉员工,董事会做出解雇决定,并非因为奥特曼的不当行为,或与财务、业务、安全或隐私的事件有关,而是缘于奥特曼与董事会的沟通问题。
路透社11月18日引述美国网站“临界点”(The Verge)报导,OpenAI董事会正与奥特曼(Sam Altman)讨论让他重新回巢担任CEO。其中一名消息人士透露,奥特曼对回归旧东家感矛盾,他希望公司进行重大的治理变革。
OpenAI建造的ChatGPT在科技业界引起革命,推动生成式AI的快速发展。在今天所有文字的生成式AI,包括微软所使用的AI软件,都是建立自ChatGPT上。
ChatGPT在2022年11月发布,短短一年全球使用者突破1亿,有200万人正参与开发,发展速度之快让人惊讶。
AI人工智能“终有一天会导致人类灭绝” 的真正原因
一些安全倡导者指出,OpenAI和其他公司发展AI的速度过快,忽视了提倡谨慎行事的声音。这争论在OpenAI的员工中已持续了多年,2020年一群OpenAI的员工因为担心公司过于商业化,把利益放置在安全之上而辞职,部份员工后来成立了Anthropic,他们认为奥特曼(Sam Altman)在开展AI研究时可能过于激进。
OpenAI在2015年成立,当时是一间非牟利研究机构,至2019年才成立一家有限盈利的子公司。OpenAI声称这是一种创新安排,投资者的回报受到限制,目的是让公司保留非营利组织的使命。公司赋予了董事会管理有限利润实体的权力。这与其它一般企业不同,奥特曼作为公司的领导者,不直接持有OpenAI的任何股份,而董事会有权投票直接开除他。
董事会成员中最少有两人、即是麦考利(Tasha McCauley)和托纳(Helen Toner)与有效利他主义(Effective Altruism)运动有关联,这是一个伦理运动,运动的成员推动了对AI的安全研究,他们认为失控的强大的AI终有一天会导致人类灭绝。
从英国著名理论物理学家史蒂芬.霍金(Stephen Hawking)到特斯拉创始人伊隆.马斯克(Elon Musk)等世界顶尖人工智能(AI)专家,都曾表示过人工智能对人类生存的威胁。
已经去世的史蒂芬.霍金于2015年8月在美国Reddit网站上,首次提出对人工智能的“威胁论”,他确信“优异的AI绝对会实现它的目标,因此当人类与它道不同时,绝对有间接或直接铲除人类的可能”。
后来又不断地警告:“人工智能系统会自行启动,并以前所未有的速度不断的重新设计、自我改良。”
“研究人工智能如同在召唤恶魔”
“全面性的开发人工智能有一天可能会导致人类灭亡!”。
另一位美国的科学天才马斯克(2002年创建私人太空发射公司SpaceX)于2017年7月,一次由美国各州、领地及联邦组成的“国家管理者协会”(National Governors Association)的会议上,再次重申了他对AI发展的远期担忧——“我接触过最先进的人工智能,我认为人类的确应该对它感到担心。”
他还说:“这是人类文明所面对过的最大挑战。”
马斯克海表示没人听他的警:“我试图说服人们降低AI的发展速度、监管AI,但是无效。我试了很多年,没有人听。”、“AI的发展似乎不受人类控制”
“人工智能比核能武器更危险”!
美国、英国、欧盟以至联合国,都先后为AI召开讨论,试图设立机制确保AI发展可运用在正确对人类及社会有益的事项上,间接引证各国对这一波AI发展感到担忧。
加州大学伯克利分校(University of California,Berkeley)的斯图尔特.罗素教授(Stuart Russell)是该领域的专家。他在《人类相容:人工智能与控制问题》(Human Compatible:AI and the Problem of Control)一书中指出,这种威胁并非来自机器人开始有了自我意识,并起来反抗人类主人。而是因为这些机器人能力变得超强,最后有可能是因为人类的疏忽,为机器人设置了错误的目标,让他们无意中把我们都消灭了。
罗素教授表示,这才是我们应该担心的,而不是像好莱坞大片中所描绘的那样,人工智能开始有自主意识,并向人类倒戈,最后把我们都杀光。
罗素教授强调:我们应该担忧的不是意识,而是它们的“超强能力”(competence)。
罗素教授在接受BBC的采访时表示,假设我们发明了一个可以用于控制气候变化的强大人工智能系统,并且能将大气中的二氧化碳水平恢复到工业革命前的水平。
该人工智能系统经过分析后认为,最容易的方式就是消灭人类,因为人类活动是产生二氧化碳的最主要来源。
当然人类可能会对机器人说,你做什么都可以但就是不能把人类全灭绝。人工智能系统然后可能会说服人类少生孩子,直到最后没有人生孩子,人类慢慢灭绝为止。
来源:看中国
短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
看完这篇文章您觉得
- 江曾一政策藏污纳垢 老虎前仆后继终南捷径(组图)
- 中国经济旧模式大溃败 注定一个时代已经结束(图)
- 【贯明专栏】台湾最美的海湾 人间仙境七星潭(视频)
- 水果皇后——草莓(组图)
- 战火无情 造化弄人 那一代人的离合沧桑(组图)
- 千年前的人类抵御矮人“他”化为恶龙(图)
- 一岁一字之差天壤之别 习近平集权集成背锅王(组图)
- 中共吓得不敢报道 APEC会议上刚发生这样一幕(图)
- 李克强后 又一高官休息心脏病猝死(图)
- “洗澡的顺序”看出一个人的脾气与性格(组图)
- 《推背图》占星预言1:朝代按后天八卦宫演进、2044完结60像(组图)
- 穷途末路 习近平忘了习仲勋当年的告诫?(图)
- 【中共高官被死系列】军委政治部主任张阳“自杀”揭秘(上)(图)
- APEC峰会习近平输出暴力恐怖 特务军警装粉红曝光(组图)
- 中共肺炎(又称武汉肺炎)
- 拜登
- 病毒
- COVID-19
- 疫苗
- 川普
- 特朗普
- 国安法
- 贸易战
- 习近平
- 华为
- 台铁
- 三峡大坝
- 新疆棉
- 长江
- 洪水
- 袁弓夷
- 港版国安法
- 汉光演习
- 国民党
- 退党
- 弗洛伊德
- BLM
- 中共
- 阎丽梦
- 金正恩
- 王岐山
- 赖清德
- 孟晚舟
- 关税
- 边境墙
- 彭斯
- 美国
- 贸易谈判
- 刘鹤
- 王沪宁
- 江泽民
- 崔永元
- 中南海
- 内幕
- 中共
- 反送中
- 贪官
- 情妇
- 腐败
- 反腐
- 打虎
- 官场
- 看中国
- 一国两制
- 法广
- 社交媒体
- 往事微痕
- 出卖国土
- FB
- 六四
- 朝鲜
- 加拿大
- 脱欧
- 央行
- 债务
- 杠杆
- 美元
- 货币
- 人民币
- 欧元
- 日元
- 港币
- 房地产
- 楼市
- 财政
- 财富
- 中产
- 海参崴
- 台湾
- 蔡英文
- 北京
- 刘强东
- 大妈
- 房价
- 疫苗
- 非洲猪瘟
- 大陆
- P2P
- 雾霾
- 基因编辑
- 防火墙
- 维权
- 709律师
- 上访
- 法轮功
- 网络审查
- 活摘器官
- 江东六十四屯
- 唐努乌梁海
- 长白山
- 白龙尾岛
- 江心坡
- SARS
- 新疆劳改营
- 言论自由
- 女主播
- 央视
- 华人
- 移民
- 华人
- 留学
- 海关
- 遣返
- 签证
- 回国
- 入籍
- 绿卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民国
- 桂军
- 抗战
- 孙中山
- 蒋介石
- 宋美龄
- 邓小平
- 林彪
- 刘少奇
- 中共
- 皇帝
- 诸葛亮
- 易经
- 幽默人生
- 智慧
- 感悟
- 手机
- 预言
- 奇闻
- UFO
- 外星人
- 寿命
- 文革
- 养生
- 紫凤
- 贯明
- 李道真
- 轶飞
- 李云飞
- 云中君
- 辛思
- 夏闻
- 时代漫谈
- 沧海
- 东方纵横
- 唐柏桥
- 王尚一
- 江枫
- 黄清
- 李唐风
- 园丁
- 今涛拍暗
- 李青城
- 秦就石
- 中经研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 马新宇
- 马来启
- 紫君
- 秦山
- 陈破空
- 戴东尼
- 曹长青
- 邢仁涛
- 瑜正
- 简易
- 肖川
- 伍凡
- 顾言
- 归瑜
- 乙欣
- 陈泱潮
- 徐沛
- 正负消息同出 如何解读香港经济怪现象?(图)
- 又一名波音吹哨人突然死亡 两个月内第二起(图)
- 讲好新闻自由故事 不如做好三件实事(图)
- 美高官将访台参加总统就职 并密切关注中国行动(图)
- 加大LA分校爆冲突遭清场 哥大被捕者近半不是学生(图)