一群行業領袖週二警告，他們正在開發的人工智慧技術有朝一日可能對人類的生存構成威脅，應被視為與大流行病及核戰爭同等的社會風險。非營利組織人工智慧安全中心發表的一份只有一句話的聲明寫道：「減輕人工智慧帶來的滅絕風險應該成為全球的優先事項，就像應對其他社會規模的風險——如大流行病和核戰爭一樣。」這封公開信由逾350名從事人工智慧工作的高管、研究人員和工程師簽署。簽署者包括三家領先人工智慧公司的高管：OpenAI首席執行官薩姆·奧爾特曼，谷歌DeepMind首席執行官傑米斯·哈薩比斯，以及Anthropic首席執行官達里奧·阿莫代伊。傑弗里·辛頓和約書亞·本吉奧是因在神經網路方面的開創性工作而獲得圖靈獎的三位研究人員中的兩位，他們通常被視為現代人工智慧運動的「教父」，他們也簽署了該聲明，此外還有該領域的其他傑出研究人員。(截至週二，第三位圖靈獎得主、Meta人工智慧研究項目負責人揚·勒昆尚未簽名。)該聲明是在人們對人工智慧可能存在的危害越來越擔心之際發表的。最近，所謂大型語言模型，也就是ChatGPT和其他聊天機器人使用的人工智慧系統所取得的進展引發了人們的擔憂——人工智慧有可能很快就會被大規模用於傳播錯誤信息和宣傳，或者可能消除數以百萬計白領的工作。一些人認為，最終，人工智慧可能變得足夠強大，如果不採取任何措施來減緩其發展，它可能會在幾年內造成社會規模的破壞，儘管研究人員有時並沒有解釋這種情況如何發生。這些擔憂得到了許多行業領導者的認同，這使他們處於一個不同尋常的境地，他們聲稱，他們正在開發的一項技術——在許多情況下，他們正在拚命工作，以圖比競爭對手更快——構成了嚴重的風險，應該受到更嚴格的監管。本月，奧爾特曼、哈薩比斯和阿莫代伊與美國總統拜登和副總統哈利斯碰面，討論人工智慧監管問題。在會後的參議院證詞中，奧爾特曼警告，先進人工智慧系統的風險已經嚴重到需要政府干預的程度，並呼籲對人工智慧的潛在危害進行監管。人工智慧安全中心執行主任丹·亨德里克斯在接受採訪時表示，這封公開信代表了一些行業領袖的「出櫃」，他們曾對自己正在開發的技術存在的風險表示擔憂——但只是在私下裡。「即使在人工智慧界，也存在普遍誤解，認為只有少數人是末日論者，」亨德里克斯說。「但事實上，很多人私下裡都會對這些事情表示擔憂。」一些懷疑論者認為，人工智慧技術還太不成熟，不足以構成生死攸關的威脅。對於今天的人工智慧系統，他們更擔心的不是長期危險，而是短期問題，比如有偏見的反應和不正確的反應。但也有人認為，人工智慧的進步實在太快，以至於它在某些領域的表現已經超過了人類的水平，而且很快就會在其他領域超越人類。他們說，這項技術已經顯示出先進能力和先進理解力的跡象，這讓人們擔心，「通用人工智慧」(AGI)——可以在各種任務中達到或超過人類水平的人工智慧——可能已經離我們不遠了。在上週的一篇部落格文章中，奧爾特曼和OpenAI的另外兩名高管提出了幾種負責任地管理強大人工智慧系統的方法。他們呼籲領先的人工智慧製造商進行合作，對大型語言模型進行更多技術研究，並成立一個類似於國際原子能機構（旨在控制核武器的使用）的國際人工智慧安全組織。奧爾特曼還表示，支持制定規則，要求大型尖端人工智慧模型的製造者註冊獲得政府頒發的許可證。今年3月，1000多名技術人員和研究人員簽署了另一封公開信，呼籲暫停開發最大的人工智慧模型六個月，理由是擔心「開發和部署更強大數字思維的競賽失控」。這封信由另一家專注於人工智能的非營利組織——生命未來研究所牽頭，伊隆·馬斯克和其他知名科技領袖簽名，但來自領先人工智慧實驗室的簽名並不多。亨德里克斯說，人工智慧安全中心這份簡短的新聲明——總共只有22個英文單詞——旨在團結人工智慧專家，這些專家可能對特定風險的性質或防止這些風險發生的措施存在分歧，但他們對強大的人工智慧系統有著共同的擔憂。「我們不想推動一個包含30種潛在干預措施的大菜單，」他說。「這種事會稀釋信息。」這份聲明最初被分享給幾位知名人工智慧專家，其中包括辛頓。辛頓本月辭去了在谷歌的工作，他說，這樣他就可以更自由地談論人工智慧的潛在危害。之後，該聲明進入了幾個主要的人工智慧實驗室，然後一些員工在上面簽名。隨著成百上千萬人使用人工智慧聊天機器人尋求娛樂、陪伴和提高工作效率，以及底層技術的快速進步，來自該領域領導者的警告的緊迫性也在增加。「我認為，如果這項技術出了問題，可能會出大問題，」奧爾特曼告訴參議院小組委員會。「我們希望與政府合作，防止這種情況發生。」
