轉(zhuǎn)自：北京商報

　　據(jù)報道，白宮官員證實，谷歌、微軟、OpenAI和人工智能（AI）研究公司Anthropic的首席執(zhí)行官，將于當(dāng)?shù)貢r間周四與美國副總統(tǒng)卡瑪拉·哈里斯和高級 *** 官員會面，討論人工智能的關(guān)鍵問題。

　　一名白宮官員透露，哈里斯和 *** 官員將在會議上告訴這些涉足AI領(lǐng)域的企業(yè)高管，他們有責(zé)任減輕人工智能工具的潛在危害。美國總統(tǒng)拜登也在邀請函中希望科技公司在向公眾提 *** 品之前必須確保其產(chǎn)品安全。

　　上個月，拜登已經(jīng)強調(diào)了對人工智能相關(guān)產(chǎn)品監(jiān)管的必要性，盡管他表示人工智能是否具有真正的威脅還有待進一步觀察。拜登稱，社交媒體已經(jīng)說明了強大的AI技術(shù)在沒有正確保護措施的情況下可能造成的危害。

　　事實上，自去年ChatGPT問世以來，引發(fā)了巨大的社會爭議。由于AI的能力已經(jīng)遠超人們的預(yù)期，批評者對快速發(fā)展的AI技術(shù)的擔(dān)憂包括侵犯隱私、偏見、欺詐以及散播謠言和虛假信息等。行業(yè)技術(shù)領(lǐng)導(dǎo)者近期也不斷呼吁警惕AI帶來的風(fēng)險。

　　3月29日，上千名科技人士聯(lián)名發(fā)表了一封公開信，呼吁所有人工智能實驗室立即暫停訓(xùn)練比GPT-4更強大的系統(tǒng)，直至解決相關(guān)的風(fēng)險和問題。這一呼吁得到了不少關(guān)注與回應(yīng)，短短兩天，已有超過2300人簽名。

　　近日宣布離開谷歌公司的“AI教父”杰弗里·辛頓（Geoffrey Hinton）表示，他擔(dān)心互聯(lián)網(wǎng)將充斥虛假照片、視頻和文字，普通人“無法再辨別真假”。此外，辛頓還擔(dān)心技術(shù)的“未來版本”會對人類構(gòu)成威脅，因為“它們經(jīng)常從分析的大量數(shù)據(jù)中學(xué)習(xí)到意想不到的行為”，并且目前無法想象如何防止壞人利用AI做壞事。

　　辛頓稱，人工智能不僅會導(dǎo)致大量工作崗位消失，而且會導(dǎo)致人們沒辦法知道到底什么才是真實的。如果人工智能變得比人類聰明得多，就會對人類進行操控；人工智能知道怎么編程，就會想辦法繞開人類對其設(shè)置的限制。

　　事實上，威脅已經(jīng)顯而易見。比如美國IBM公司將用人工智能取代7000余個工作崗位。IBM首席執(zhí)行官克里希納（Krishna）5月1日表示，公司的人力資源等內(nèi)部職能部門的 *** 工作將暫停或延后，這些并非直接面向客戶的崗位在IBM大約有26000個。在未來5年內(nèi)，其中30%的工作崗位將被人工智能和自動化取代。這意味著約7800人將會因此失去就業(yè)機會。

　　目前，各國 *** 都在積極尋求監(jiān)管措施，以追趕技術(shù)進步的步伐。美國方面，商務(wù)部于上個月正式公開征求意見，要求各界對人工智能的問責(zé)措施發(fā)表評論。除了美國外，歐盟立法者也在加快推進對人工智能技術(shù)的監(jiān)管。

　　上周，歐盟已提出新的立法草案，要求ChatGPT等人工智能工具的開發(fā)商披露他們在構(gòu)建AI系統(tǒng)時使用的版權(quán)材料。作為監(jiān)管方案，歐盟委員會執(zhí)行副主席、競爭專員維斯塔格提出了在AI生成的文章和圖像上顯示“用AI制作”等標(biāo)簽的方案，還透露了提供生成式AI的企業(yè)有義務(wù)進行說明的想法。

　　歐盟立法者還在討論如何引入歐盟人工智能法案，并且生成式AI（AIGC）成為最受關(guān)注的內(nèi)容之一。歐盟委員會將于5月11日對相關(guān)協(xié)議進行投票，如果通過，將進入下一階段的三方談判，屆時歐盟成員國將與歐盟委員會以及歐洲議會就談判內(nèi)容進行辯論。

　　中央財經(jīng)大學(xué)證券期貨研究所研究員楊海平表示，如對生成式人工智能不實行監(jiān)管，可能產(chǎn)生數(shù)據(jù)安全、 *** 安全的風(fēng)險，以及人工智能誤用濫用帶來的對生產(chǎn)秩序、生活秩序和社會秩序的沖擊。更主要的是由于生成式人工智能基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的特征，如果不強化提供者責(zé)任，不實行嚴(yán)格監(jiān)管，可能導(dǎo)致技術(shù)創(chuàng)新突破科技倫理的底線，偏離科技向善的方向，造成不可估量、不可挽回的損失。

　　楊海平表示，國外科學(xué)家呼吁暫停對更強大的AI系統(tǒng)的開發(fā)，中國出臺生成式人工智能服務(wù)管理新規(guī)，都是在人工智能獲得關(guān)鍵突破的關(guān)鍵時點，針對人工智能可能的風(fēng)險隱患，采取理智的防范措施。人工智能的監(jiān)管需要國際社會經(jīng)過評估，劃出統(tǒng)一的、清晰的安全底線，供各國共同遵守。

　　北京商報綜合報道