综合精品一区_超碰激情在线_a在线播放不卡_暖暖在线中文免费日本_成人免费毛片app_精品三级久久_欧美天堂在线观看_blacked蜜桃精品一区_涩涩视频免费网站_在线亚洲伦理

3月29日，國外知名非營利機(jī)構(gòu)未來生命研究所(Future of Life Institute)發(fā)布了一封公開信，呼吁將類似GPT-4這樣的超強(qiáng)人工智能訓(xùn)練計(jì)劃暫停六個(gè)月。

目前，包括馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克在內(nèi)的一千多名人工智能專家和行業(yè)高管簽署了一份公開信，理由是他們認(rèn)為目前人工智能系統(tǒng)訓(xùn)練對(duì)社會(huì)和人性存在潛在風(fēng)險(xiǎn)。

(資料圖)

公開信表示，大量研究表明，得到頂級(jí)AI實(shí)驗(yàn)室的認(rèn)可、具有人類競爭智能的AI系統(tǒng)，可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。正如業(yè)界廣泛認(rèn)可的Asilomar AI原則中所述，高級(jí)AI可能意味著地球生命史上的深刻變化，我們應(yīng)該投入相應(yīng)的考量和資源，對(duì)之進(jìn)行規(guī)劃和管理。

公開信認(rèn)為，不幸的是，到目前為止，還沒有任何人采取行動(dòng)。最近這幾個(gè)月，全球的AI實(shí)驗(yàn)室已經(jīng)完全失控了。它們瘋狂地開展AI競賽，來開發(fā)和部署更強(qiáng)大的AI，而沒有任何人可以理解、預(yù)測、控制這些AI，連它們的創(chuàng)造者都不能。

公開信對(duì)此前OpenAI關(guān)于人工智能的一份聲明表示了贊同：某個(gè)階段，在開始訓(xùn)練未來的系統(tǒng)之前，進(jìn)行獨(dú)立的審查可能非常重要。而對(duì)于創(chuàng)建新模型所用算力的增長速度，也應(yīng)該有所限制。

對(duì)此，這一千多名專家學(xué)者呼吁，暫停高級(jí)人工智能開發(fā)，直至此類設(shè)計(jì)的共享安全協(xié)議經(jīng)由獨(dú)立專家開發(fā)、實(shí)施和審核。

具體來看，學(xué)者們認(rèn)為這一AI管理系統(tǒng)應(yīng)該包含以下幾個(gè)功能：

1、專門負(fù)責(zé)監(jiān)管AI的機(jī)構(gòu)。

2、出處和水印系統(tǒng)，從而幫助區(qū)分真實(shí)與生成的內(nèi)容，并且能夠跟蹤模型的泄漏。

3、強(qiáng)大的審計(jì)和認(rèn)證系統(tǒng)。

4、在AI造成傷害后，明確誰該承擔(dān)責(zé)任。

5、為AI安全技術(shù)研究提供強(qiáng)大的公共資金。

公開資料顯示，未來生命研究所建立于2014年，是一個(gè)非營利組織，由一系列個(gè)人和組織資助，以“引導(dǎo)變革性技術(shù)造福生活，遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)”為使命。

這封重磅的專家聯(lián)名信一經(jīng)發(fā)布，便引發(fā)全球媒體輿論的高度關(guān)注。對(duì)于是否應(yīng)該放緩AI研發(fā)的腳步，人們也眾說紛紜。不過超強(qiáng)AI是否真的已經(jīng)步入“臨界點(diǎn)”確實(shí)已成為當(dāng)下業(yè)內(nèi)關(guān)注的焦點(diǎn)。

日前，OpenAI創(chuàng)始人Sam Altman在接受采訪時(shí)表示：GPT系列為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己搞不明白。他們只知道，在不斷測試中，人們忽然發(fā)現(xiàn)：從ChatGPT開始，GPT系列開始出現(xiàn)了推理能力。

事實(shí)上，目前業(yè)內(nèi)在訓(xùn)練此類大模型時(shí)也都發(fā)現(xiàn)了這一特征。

“我們之前就觀察到，在給人工智能投喂數(shù)據(jù)的時(shí)候存在一個(gè)‘躍遷’點(diǎn)。”一位人工智能領(lǐng)域資深工程師告訴記者，此類模型的“智能”水平的提升并非平滑曲線，而是存在某一臨界點(diǎn)上突然地增長，“當(dāng)時(shí)就發(fā)現(xiàn)在十幾億的一個(gè)量級(jí)時(shí)，出現(xiàn)了一次明顯提升。”

采訪中，多位業(yè)內(nèi)人士也表示了，公開信中的擔(dān)憂不無道理。

“由于目前并不清楚其中的機(jī)制，從過去幾次的躍遷來看，AI智能的量級(jí)提升程度很難預(yù)測。”一位業(yè)內(nèi)人士稱，因此若進(jìn)一步擴(kuò)大數(shù)據(jù)投喂與訓(xùn)練程度，GPT5的智能化程度可能超出目前的預(yù)期。

事實(shí)上，由AI引發(fā)的風(fēng)險(xiǎn)已經(jīng)出現(xiàn)。

3月27日，歐洲刑警組織發(fā)布了一份報(bào)告，對(duì)采用ChatGPT類工具進(jìn)行犯罪的可能性進(jìn)行了討論。

報(bào)告中表示，大型語言模型檢測和重現(xiàn)語言模式的能力不僅有助于網(wǎng)絡(luò)釣魚和在線欺詐，而且通常還可以用來冒充特定個(gè)人或群體的講話風(fēng)格。這種能力可能會(huì)被大規(guī)模濫用，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子。

值得注意的是，目前有國外科技團(tuán)隊(duì)預(yù)測，作為過渡版本的GPT-4.5或許將在今年9月左右推出，屆時(shí)AI的性能將進(jìn)一步提升。

（文章來源：上海證券報(bào)）