九游體育app(中國(guó))官方網(wǎng)站谷歌在AI鴻溝有所確立也離不開(kāi)他的功勞-九游(中國(guó))jiuyou·官方網(wǎng)站-登錄入口
鷺羽 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
東說(shuō)念主工智能有99.5%的可能性會(huì)殺死你。
這是硅谷版天下末日布道士Eliezer Yudkowsky的最新論點(diǎn)。
Yudkowsky用當(dāng)前的話說(shuō)，是個(gè)原原本本的斜杠后生，是MIRI創(chuàng)舉東說(shuō)念主，亦然著名的哈利波特同東說(shuō)念主文作家。
但最引東說(shuō)念主注視的身份則是一手締造OpenAI和谷歌DeepMind的中之東說(shuō)念主。
八年齡輟學(xué)、AI常識(shí)全靠自學(xué)成才……
奧特曼、馬斯克紛繁援用他的不雅點(diǎn)，AI教父Hinton、LeCun則月旦他的極點(diǎn)。
就是這么一個(gè)評(píng)價(jià)南北極分化嚴(yán)重的東說(shuō)念主，卻成為了硅谷大佬們不甘人后的座上賓。
他說(shuō)，他的方針是艱辛AI朝著超等智能發(fā)展，因?yàn)檫@事關(guān)整個(gè)這個(gè)詞東說(shuō)念主類的命懸一線。
莫得和諧的余步，即使是llya的公司也應(yīng)該被關(guān)閉。
參與OpenAI和DeepMind創(chuàng)辦也許你對(duì)Eliezer Yudkowsky還不太闇練，但他的名字在硅谷不錯(cuò)說(shuō)是大名鼎鼎。
Eliezer Yudkowsky誕生在芝加哥的一個(gè)東正教猶太家庭，因?yàn)槁越】祮?wèn)題，在八年齡后就早早地輟學(xué)回家。
莫得學(xué)校證書(shū)，拔幟易幟的是，他如饑似渴地閱讀科幻演義，自學(xué)辯論機(jī)科學(xué)，并與一群主張科技樂(lè)不雅主見(jiàn)的將來(lái)學(xué)家們?cè)诰W(wǎng)上計(jì)議。
也就是其時(shí)，他被“奇點(diǎn)”這個(gè)意見(jiàn)所深深招引，即假定中東說(shuō)念主工智能杰出東說(shuō)念主類智能的將來(lái)更正點(diǎn)，于是他忻悅要?jiǎng)?chuàng)建AGI，并戰(zhàn)勝AGI行將到來(lái)。
但當(dāng)他來(lái)到硅谷后，卻發(fā)現(xiàn)要?jiǎng)?chuàng)建對(duì)東說(shuō)念主類友好的東說(shuō)念主工智能其實(shí)相等禍患，主要照舊以下三個(gè)原因：
正交性:才能不等同于仁慈，AI不會(huì)因?yàn)樽兊酶`敏而自動(dòng)變得更友好。器用性和會(huì):任何雄壯的、以方針為導(dǎo)向的AI系統(tǒng)都有可能選拔對(duì)東說(shuō)念主類不利的妙技，比如在回形針最大化器實(shí)驗(yàn)中，一朝AI以為東說(shuō)念主類軀殼內(nèi)的鐵元素不錯(cuò)用來(lái)制作回形針，那么為了保證最大化坐褥回形針，AI將會(huì)把東說(shuō)念主類視作資源的一部分。諜報(bào)爆炸:AI才調(diào)可能在短時(shí)老實(shí)急劇飆升，導(dǎo)致趕緊出現(xiàn)不能控的超等智能。從此之后，他初始絡(luò)續(xù)柔和AI安全問(wèn)題，也成為了硅谷最早勸誡AI風(fēng)險(xiǎn)的“布道士”之一。
Yudkowsky曾示意：
東說(shuō)念主類注定要消一火，我不會(huì)連續(xù)打一場(chǎng)失敗的戰(zhàn)斗來(lái)使東說(shuō)念主工智能與東說(shuō)念主類價(jià)值不雅保持一致，而是將細(xì)心力更正到匡助東說(shuō)念主們接受我方的行運(yùn)上。
此外他還在伯克利創(chuàng)建了MIRI征詢所，力爭(zhēng)于于征詢先進(jìn)東說(shuō)念主工智能的風(fēng)險(xiǎn)。
固然他極點(diǎn)悲不雅的AI末日敷陳法頗受業(yè)界爭(zhēng)議，連AI教父Hinton都明確示意過(guò)Yudkowsky的主張過(guò)于偏頗，但不能否定的是，他在一定進(jìn)程上影響了整個(gè)這個(gè)詞硅谷。
豈論是OpenAI的奧特曼，照舊馬斯克在內(nèi)的AI科技巨頭，都曾在公開(kāi)陣勢(shì)援用他的不雅點(diǎn)，奧特曼致使曾示意，Yudkowsky在他創(chuàng)辦OpenAI的決定中，發(fā)達(dá)了瑕疵性作用，況且他值得一座諾貝爾和平獎(jiǎng)。
不僅如斯，谷歌在AI鴻溝有所確立也離不開(kāi)他的功勞。
2010年時(shí)，就是他為初創(chuàng)公司DeepMind的創(chuàng)舉東說(shuō)念主穿針引線，將其先容給了風(fēng)險(xiǎn)投資家Peter Thiel，Thiel從此成為了DeepMind的第一位主要投資者。
后頭谷歌在2014年收購(gòu)了DeepMind，而DeepMind的聚集創(chuàng)舉東說(shuō)念主Demis Hassabis如今正認(rèn)真監(jiān)督谷歌的AI責(zé)任。
哈利波特同東說(shuō)念主文作家除了在AI安全鴻溝的孝敬，讓Yudkowsky在硅谷風(fēng)生水起的另一個(gè)原因，則是他對(duì)硅谷感性主見(jiàn)的引頸。
如今硅谷科技公司中的年青一代，絕大無(wú)數(shù)都是堅(jiān)忍的感性主見(jiàn)者，順藤摸瓜恰是受到了Yudkowsky的作品影響。
而這本書(shū)即是哈利波特的同東說(shuō)念主文——《哈利·波特與感性之說(shuō)念》。
在這本書(shū)中，哈利波特從小接受科學(xué)施行、邏輯想維和感性講明注解，用科學(xué)探索魔法天下。原著中的事件都被感性重構(gòu)改寫(xiě)，不僅柔和魔法如何使用，還探究魔法旨趣和背后的邏輯，還經(jīng)常觸及像貝葉斯推理、實(shí)驗(yàn)瞎想、概率想維等常識(shí)。
再比如說(shuō)，Yudkowsky的另一冊(cè)計(jì)議《龍與地下城》的同東說(shuō)念主演義，其中也包含了他對(duì)決議表面的諸多看法。
而最近他和MIRI總裁Nate Soares合著的新書(shū)《如若有東說(shuō)念主成立它，每個(gè)東說(shuō)念主都會(huì)死》，亦然他們多年來(lái)一直向東說(shuō)念主工智能里面東說(shuō)念主士建議的案例索要版，當(dāng)中他公開(kāi)拋出了計(jì)議超等智能的最終估量。
他以為，當(dāng)前許多科技公司，包括Anthropic、OpenAI在內(nèi)，在構(gòu)建軟件模子時(shí)，其實(shí)并不明晰里面的運(yùn)作邏輯，所追求的“真金不怕火金術(shù)”杰出了科學(xué)和會(huì)限制。
是以一朝模子才調(diào)到達(dá)某種進(jìn)程，現(xiàn)存的AI對(duì)都工夫（如強(qiáng)化學(xué)習(xí)、微調(diào)等）將不能幸免地失效，從而忽略東說(shuō)念主類提醒。
最終AI不僅掌持了極大的能量，在資源使用、決議等方面也會(huì)脫離東說(shuō)念主類限度，東說(shuō)念主類可能在毫無(wú)察覺(jué)的時(shí)候就被潛移暗化地邊際化取代，以一種漸進(jìn)式的陣勢(shì)散失，而非像科幻電影中所刻畫(huà)的那樣，會(huì)出現(xiàn)一場(chǎng)和機(jī)器東說(shuō)念主的命懸一線的構(gòu)兵。
Yudkowsky以為，當(dāng)前依然到了該報(bào)警的階段，這不是駭東說(shuō)念主視聽(tīng)，東說(shuō)念主類正在忽略委果的風(fēng)險(xiǎn)。
在談及硅谷這些追求創(chuàng)造超等智能的科技公司，Yudkowsky示意它們每一家都應(yīng)該被關(guān)閉，Anthropic相對(duì)較好，而OpenAI顯著最差，但誠(chéng)然趣味AI安全如llya，Yudkowsky也一視同仁地以為llya的公司也需要被罷手，因?yàn)樗鼈儽旧隙寄梅謩e。
不外跟著時(shí)分的推移，他不再精準(zhǔn)估量超等東說(shuō)念主工智能何時(shí)才會(huì)被開(kāi)墾出來(lái)，當(dāng)后果注定的時(shí)候，經(jīng)由顯得那么無(wú)關(guān)垂死。
正如他回報(bào)網(wǎng)友時(shí)，所攝取的這個(gè)譬如：
估量掉入開(kāi)水中的冰塊何時(shí)溶解，比知說(shuō)念后果注定是一杯溫水，要禍患得多。
而他正在試圖作念的，是告訴東說(shuō)念主們，這里將會(huì)有一杯溫水。
參考鏈接：[1]https://www.nytimes.com/2025/09/12/technology/ai-eliezer-yudkowsky-book.html?unlocked_article_code=1.lU8.ALkU.Qne6o4IgeeEP[2]https://www.semafor.com/article/09/12/2025/researchers-give-doomsday-warning-about-building-ai-too-fast
— 完 —
量子位 QbitAI
柔和咱們九游體育app(中國(guó))官方網(wǎng)站，第一時(shí)分獲知前沿科技動(dòng)態(tài)