ChatGPT之父因激進研究恐致「AI滅絕人類」被炒?(圖)
奧特曼(Sam Altman)11月16日出席三藩市亞太經合組織(APEC)論壇,討論AI發展。(圖片來源:Justin Sullivan/Getty Images)
【看中國2023年11月19日訊】(看中國記者楊天資綜合報導)OpenAI人事大地震成為這個週末科技業界的大新聞,ChatGPT之父奧特曼(Sam Altman)於11月17日被董事會解僱的消息震驚全球,並引起外界無限猜想。且目前尚不清楚董事會成員解僱奧特曼的真實動機,有消息披露奧特曼在開展AI研究時可能過於激進,這可能導致AI人工智慧「終有一天會導致人類滅絕」。
奧特曼的突然遭炒魷魚確實暗示了未來業界將出現的一場爭論,發展AI與安全的矛盾——有如一些科學研究、如基因改造的禁忌一樣,AI的發展今後也會被設置道德的界限。
ChatGPT之父因激進研究恐致「AI滅絕人類」被炒?OpenAI人事風暴內情曝光
山姆.奧特曼(Sam Altman)被炒的消息過於突然,相信他事前也不知道。因為奧特曼(Sam Altman)在被炒的前一天16日還在三藩市出席亞太經合組織(APEC)會議的一個論壇,談論AI的發展。
據董事會主席布羅克曼(Greg Brockman)所述,奧特曼是在當地時間11月17日在董事會議被即時解僱。OpenAI技術總監(CTO)穆拉蒂(Mira Murati)其後被任命為臨時CEO。
根據OpenAI的聲明,奧特曼被辭退是因董事會認為他與董事會溝通的過程中「不夠坦誠」,阻礙董事會履行職責的能力,因此「不再相信他能繼續帶領公司」。
據《紐約時報》18日引述消息報道,OpneAI的高層當日告訴員工,董事會做出解僱決定,並非因為奧特曼的不當行為,或與財務、業務、安全或隱私的事件有關,而是緣於奧特曼與董事會的溝通問題。
路透社11月18日引述美國網站「臨界點」(The Verge)報導,OpenAI董事會正與奧特曼(Sam Altman)討論讓他重新回巢擔任CEO。其中一名消息人士透露,奧特曼對回歸舊東家感矛盾,他希望公司進行重大的治理變革。
OpenAI建造的ChatGPT在科技業界引起革命,推動生成式AI的快速發展。在今天所有文字的生成式AI,包括微軟所使用的AI軟件,都是建立自ChatGPT上。
ChatGPT在2022年11月發布,短短一年全球使用者突破1億,有200萬人正參與開發,發展速度之快讓人驚訝。
AI人工智慧「終有一天會導致人類滅絕」 的真正原因
一些安全倡導者指出,OpenAI和其他公司發展AI的速度過快,忽視了提倡謹慎行事的聲音。這爭論在OpenAI的員工中已持續了多年,2020年一群OpenAI的員工因為擔心公司過於商業化,把利益放置在安全之上而辭職,部份員工後來成立了Anthropic,他們認為奧特曼(Sam Altman)在開展AI研究時可能過於激進。
OpenAI在2015年成立,當時是一間非牟利研究機構,至2019年才成立一家有限盈利的子公司。OpenAI聲稱這是一種創新安排,投資者的回報受到限制,目的是讓公司保留非營利組織的使命。公司賦予了董事會管理有限利潤實體的權力。這與其它一般企業不同,奧特曼作為公司的領導者,不直接持有OpenAI的任何股份,而董事會有權投票直接開除他。
董事會成員中最少有兩人、即是麥考利(Tasha McCauley)和托納(Helen Toner)與有效利他主義(Effective Altruism)運動有關聯,這是一個倫理運動,運動的成員推動了對AI的安全研究,他們認為失控的強大的AI終有一天會導致人類滅絕。
從英國著名理論物理學家史蒂芬.霍金(Stephen Hawking)到特斯拉創始人伊隆.馬斯克(Elon Musk)等世界頂尖人工智慧(AI)專家,都曾表示過人工智慧對人類生存的威脅。
已經去世的史蒂芬.霍金於2015年8月在美國Reddit網站上,首次提出對人工智慧的“威脅論”,他確信「優異的AI絕對會實現它的目標,因此當人類與它道不同時,絕對有間接或直接剷除人類的可能」。
後來又不斷地警告:「人工智能系统會自行啟動,並以前所未有的速度不斷的重新設計、自我改良。」
「研究人工智慧如同在召唤惡魔」
「全面性的開發人工智慧有一天可能會導致人類滅亡!」。
另一位美國的科學天才馬斯克(2002年創建私人太空發射公司SpaceX)於2017年7月,一次由美國各州、領地及聯邦組成的「國家管理者協會」(National Governors Association)的會議上,再次重申了他對AI發展的遠期擔憂——「我接觸過最先進的人工智能,我認為人類的確應該對它感到擔心。」
他還說:「這是人類文明所面對過的最大挑戰。」
馬斯克海表示沒人聽他的警:「我試圖說服人們降低AI的發展速度、監管AI,但是無效。我試了很多年,沒有人聽。」、「AI的發展似乎不受人類控制」
「人工智能比核能武器更危险」!
美國、英國、歐盟以至聯合國,都先後為AI召開討論,試圖設立機制確保AI發展可運用在正確對人類及社會有益的事項上,間接引證各國對這一波AI發展感到擔憂。
加州大學伯克利分校(University of California,Berkeley)的斯圖爾特.羅素教授(Stuart Russell)是該領域的專家。他在《人類相容:人工智慧與控制問題》(Human Compatible:AI and the Problem of Control)一書中指出,這種威脅並非來自機器人開始有了自我意識,並起來反抗人類主人。而是因為這些機器人能力變得超強,最後有可能是因為人類的疏忽,為機器人設置了錯誤的目標,讓他們無意中把我們都消滅了。
羅素教授表示,這才是我們應該擔心的,而不是像好萊塢大片中所描繪的那樣,人工智慧開始有自主意識,並向人類倒戈,最後把我們都殺光。
羅素教授強調:我們應該擔憂的不是意識,而是它們的「超強能力」(competence)。
羅素教授在接受BBC的採訪時表示,假設我們發明瞭一個可以用於控制氣候變化的強大人工智慧系統,並且能將大氣中的二氧化碳水平恢復到工業革命前的水平。
該人工智慧系統經過分析後認為,最容易的方式就是消滅人類,因為人類活動是產生二氧化碳的最主要來源。
當然人類可能會對機器人說,你做什麼都可以但就是不能把人類全滅絶。人工智慧系統然後可能會說服人類少生孩子,直到最後沒有人生孩子,人類慢慢滅絶為止。
来源:看中國
短网址: 版權所有,任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。
看完這篇文章您覺得
- 日片《完美的日子》:光影交織中的美和釋然(組圖)
- 大開眼界!創記錄的「人體噴泉」(組圖)
- 習近平忌憚三個紅二代(組圖)
- 【宋紫鳳專欄】從潘美到潘仁美 是藝術加工還是神來之筆(組圖)
- 江曾一政策藏汙納垢 老虎前仆後繼終南捷徑(組圖)
- 中國經濟舊模式大潰敗 注定一個時代已經結束(圖)
- 一歲一字之差天壤之別 習近平集權集成背鍋王(組圖)
- 中共嚇得不敢報導 APEC會議上剛發生這樣一幕(圖)
- 李克強後 又一高官休息心臟病猝死(圖)
- 「洗澡的順序」看出一個人的脾氣與性格(組圖)
- 《推背圖》占星預言1:朝代按後天八卦宮演進、2044完結60像(組圖)
- 窮途末路 習近平忘了習仲勛當年的告誡?(圖)
- 【中共高官被死系列】軍委政治部主任張陽「自殺」揭秘(上)(圖)
- APEC峰會習近平輸出暴力恐怖 特務軍警裝粉紅曝光(組圖)
- 中共肺炎(又称武漢肺炎)
- 病毒
- COVID-19
- 疫苗
- 台鐵
- 拜登
- 川普
- 特朗普
- 國安法
- 貿易戰
- 習近平
- 華為
- 三峽大壩
- 新疆棉
- 長江
- 洪水
- 袁弓夷
- 港版國安法
- 漢光演習
- 國民黨
- 退黨
- 弗洛伊德
- BLM
- 中共
- 閻麗夢
- 金正恩
- 王岐山
- 賴清德
- 孟晚舟
- 關稅
- 邊境牆
- 彭斯
- 美國
- 貿易談判
- 劉鶴
- 王滬寧
- 江澤民
- 崔永元
- 中南海
- 內幕
- 中共
- 反送中
- 貪官
- 情婦
- 腐敗
- 反腐
- 打虎
- 官場
- 看中國
- 一國兩制
- 法廣
- 社交媒體
- 往事微痕
- 出賣國土
- FB
- 六四
- 朝鮮
- 加拿大
- 脫歐
- 央行
- 債務
- 槓桿
- 美元
- 貨幣
- 人民幣
- 歐元
- 日元
- 港幣
- 房地產
- 樓市
- 財政
- 財富
- 中產
- 海參崴
- 台灣
- 蔡英文
- 北京
- 劉強東
- 大媽
- 房價
- 疫苗
- 非洲豬瘟
- 大陸
- P2P
- 霧霾
- 基因編輯
- 防火牆
- 維權
- 709律師
- 上訪
- 法輪功
- 網絡審查
- 活摘器官
- 江東六十四屯
- 唐努烏梁海
- 長白山
- 白龍尾島
- 江心坡
- SARS
- 新疆勞改營
- 言論自由
- 女主播
- 央視
- 華人
- 移民
- 華人
- 留學
- 海關
- 遣返
- 簽證
- 回國
- 入籍
- 綠卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民國
- 桂軍
- 抗戰
- 孫中山
- 蔣介石
- 宋美齡
- 鄧小平
- 林彪
- 劉奇
- 中共
- 皇帝
- 諸葛亮
- 易經
- 幽默人生
- 智慧
- 感悟
- 手機
- 預言
- 奇聞
- UFO
- 外星人
- 壽命
- 文革
- 養生
- 紫鳳
- 貫明
- 李道真
- 軼飛
- 李雲飛
- 雲中君
- 辛思
- 夏聞
- 時代漫談
- 滄海
- 東方縱橫
- 唐柏橋
- 王尚一
- 江楓
- 黃清
- 李唐風
- 園丁
- 今濤拍暗
- 李青城
- 秦就石
- 中經研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 馬新宇
- 馬來啟
- 紫君
- 秦山
- 陳破空
- 戴東尼
- 曹長青
- 邢仁濤
- 瑜正
- 簡易
- 肖川
- 伍凡
- 顧言
- 歸瑜
- 乙欣
- 陳泱潮
- 徐沛
- 鬼斧神工 萬年屹立不搖的「怪石」(圖)
- 王炳章獲自由之家獎項 女兒感言父親沒被遺忘(圖)
- 何伯上電視討公道 分分鐘公屋都被收回(圖)
- 亞當斯市長任命四名刑事法院法官(圖)
- TikTok寧可與美國打官司也不願脫離中共(圖)