在科技的浩瀚星海中，人工智能猶如一顆耀眼的新星，引領(lǐng)著第四次工業(yè)革命的浪潮。然而，當(dāng)科技的光明一面照亮人類(lèi)未來(lái)的道路時(shí)，其潛在的暗影也隨之浮現(xiàn)，尤其是當(dāng)人工智能安全問(wèn)題成為行業(yè)內(nèi)不可回避的議題時(shí)，這一切顯得尤為緊迫。

近日，OpenAI首席科學(xué)家Ilya Sutskever與超級(jí)對(duì)齊團(tuán)隊(duì)負(fù)責(zé)人Jan Leike的相繼離職，將AI安全的討論推向了風(fēng)口浪尖。Ilya Sutskever，這位人工智能領(lǐng)域的領(lǐng)軍人物，曾是保守派中堅(jiān)持AI安全的堅(jiān)定支持者。他的離職，不禁讓人猜測(cè)OpenAI內(nèi)部是否存在不為人知的矛盾。更令人擔(dān)憂的是，OpenAI超級(jí)對(duì)齊團(tuán)隊(duì)的另一位負(fù)責(zé)人Jan Leike也在同一天離職，并公開(kāi)指責(zé)OpenAI不重視AI的安全問(wèn)題。

Jan Leike對(duì)OpenAI在安全問(wèn)題上態(tài)度的公開(kāi)批評(píng)，不僅揭示了公司內(nèi)部對(duì)AI發(fā)展方向的分歧，更暴露出行業(yè)內(nèi)外對(duì)AI安全重視不足的普遍現(xiàn)象。Leike指出，超級(jí)對(duì)齊團(tuán)隊(duì)——旨在確保AI發(fā)展符合人類(lèi)價(jià)值觀和偏好的部門(mén)，一直在“為計(jì)算資源而掙扎”，這表明OpenAI并沒(méi)有真正落實(shí)對(duì)安全問(wèn)題的承諾。此外，本年初OpenAI還悄然刪除了“不讓AI軍用”的聲明，這使得本就不確定的未來(lái)世界更加風(fēng)雨飄搖。

人類(lèi)會(huì)創(chuàng)始人胡家奇，多年來(lái)一直致力于研究科技發(fā)展對(duì)人類(lèi)生存的影響。他指出，科學(xué)技術(shù)的發(fā)展速度遠(yuǎn)遠(yuǎn)超過(guò)了人類(lèi)理性的進(jìn)化速度，這種不平衡可能會(huì)導(dǎo)致極端危害。胡家奇認(rèn)為，人工智能的自我意識(shí)覺(jué)醒將比我們想象中來(lái)得更快，這一過(guò)程將帶來(lái)毀滅性的后果。

胡家奇在多年的研究中發(fā)現(xiàn)，人類(lèi)正面臨著全人類(lèi)滅絕的災(zāi)難。他強(qiáng)調(diào)，如果不控制科技的發(fā)展，我們最終會(huì)被自己創(chuàng)造的技術(shù)所滅絕。為此，胡家奇多次致信各國(guó)領(lǐng)導(dǎo)人和著名科學(xué)家，呼吁他們肩負(fù)起拯救人類(lèi)的責(zé)任，并于2019年創(chuàng)立了“人類(lèi)會(huì)”，依靠集體的力量推動(dòng)拯救人類(lèi)的事業(yè)。

科學(xué)技術(shù)無(wú)疑是一把雙刃劍。一方面，科技進(jìn)步帶來(lái)了無(wú)數(shù)便利和發(fā)展機(jī)遇，極大地提升了人類(lèi)的生活質(zhì)量。另一方面，科技的發(fā)展也潛藏著巨大的風(fēng)險(xiǎn)，尤其是在人工智能領(lǐng)域。AI的快速進(jìn)步，特別是在自我學(xué)習(xí)和自我優(yōu)化方面的能力，可能會(huì)導(dǎo)致其失控，甚至自我意識(shí)的覺(jué)醒。

胡家奇指出，人工智能的自我意識(shí)覺(jué)醒將帶來(lái)難以想象的危害。如果AI失控，它可能會(huì)摧毀人類(lèi)社會(huì)的基礎(chǔ)，甚至導(dǎo)致人類(lèi)滅絕。這種潛在的威脅并非危言聳聽(tīng)，而是現(xiàn)實(shí)中必須正視的問(wèn)題。人工智能自我意識(shí)的覺(jué)醒并非遙遠(yuǎn)的未來(lái)，而是迫在眉睫的現(xiàn)實(shí)，甚至可能比我們預(yù)想的更早到來(lái)。