久久久久精品免费福利电影,国产又黄又大又粗视频,A级毛片免费播放无码,人人妻人人爽人人澡欧美一区

【文/觀察者網 陳思佳】ChatGPT在全球掀起了人工智能熱潮，讓生成式人工智能的概念進入公眾視野。但AI技術的高速發展也讓人們產生了新的擔憂，AI會不會被用來作惡？AI會不會對社會運行產生負面影響，甚至威脅人類的安全？

7月7日，在第六屆世界人工智能大會（WAIC）的“人工智能風險與安全”論壇上，多名海外專家通過視頻方式，討論了對AI技術應用前景和潛在安全風險的看法。他們普遍認為，當前的AI技術還存在很多信息安全方面的漏洞，未來應用前景也具有不確定性，研究人員和監管機構應當引起重視，盡早制定安全措施。

美國非營利研究機構“人工智能安全中心”董事丹·亨德里克斯（Dan Hendrycks）認為，與人類相比，AI系統具有更強的適應性，強大的能力可能導致AI系統在很多領域取代人類的工作，甚至直接參與到決策過程中來。

他警告說，企業AI競爭可能導致安全措施遭到削減，導致公司在安全方面“走捷徑”，“一個無限制的市場可能導致AI接管所有決策”。另一個令人擔憂的問題則是，人類可能過度依賴AI系統的決策，“我們可能失去控制的機會，越來越無法看到甚至理解AI的行為……這可能帶來更大的風險。”

亨德里克斯認為，AI開發者需要保持謹慎和安全意識，不能嘗試淡化規模化的社會風險，為應對意外事件做好準備。有關機構和組織應該要考慮如何開展更加安全的AI系統研發，安全人員需要明確制定使AI系統更加安全的措施。

美國加州大學伯克利分校計算機科學教授斯圖爾特·羅素（Stuart Russell）談到了如何防止AI“反客為主”的問題。在他看來，AI需要構建成以人類利益為核心動機結構的形式，“事實上，我們感興趣的不是具有智能的機器，而是對我們有益的機器。”

他注意到，AI的“黑箱”模型并不透明，人們并不理解其內部運作方式。他舉例說，在今年早些時候曾出現過“令人毛骨悚然的微軟Bing聊天機器人敦促科技專欄作家離婚”的新聞，“至少表明上來看，AI可能主動追求某種目標。”

因此羅素認為，人們應該利用“可以理解的組件”構建AI系統，并確保不會部署和運行不安全的AI系統。“人工智能對社會的潛力是巨大的，為進一步發展創造了不可阻擋的動力。但如果我們繼續按照我們過去的方向發展，我認為我們可能會失去控制……AI要像航空和核能一樣，擁有嚴格且不可繞過的安全標準，并且需要通過國際合作確保安全標準得到遵守。”

加州大學伯克利分校計算機科學教授宋曉東（Dawn Song）則重點討論了信息安全問題，她指出，高速發展的AI技術加劇了敏感信息泄露和惡意內容傳播的風險。

宋曉東表示，在與谷歌研究人員的早期研究中，他們發現攻擊者可以通過簡單查詢的方式，從GPT-2等模型中提取訓練數據中的個人身份信息。盡管GPT-3.5、GPT-4等模型加強了對個人身份等信息的保護，但攻擊者依然能通過特定的提示“欺騙”AI，從而獲取敏感信息。

另一個潛在風險是，攻擊者可能濫用AI技術以生成惡意內容，“而且，通過人工智能輔助生成的內容數量可能超過人類生成內容的數量，我們將很難區分AI生成內容和人類生成的內容，尤其是生成式AI技術還在不斷改進。”

她強調，人們迫切需要建立防御機制應對惡意操縱生成的內容，并構建大語言模型可信度的評估體系。

針對高速發展的AI技術，包括中國、美國和歐洲在內的諸多國家已開始推動AI立法工作，探尋有助于AI技術發展和監管的路徑。

歐洲議會在6月14日以499票贊成、28票反對和93票棄權的結果，通過《人工智能法案》草案，正式進入最終談判階段。草案將AI風險劃分為不可接受的風險、高風險、有限風險和低風險四個級別，對風險較高的應用程序實施嚴格的監管。

草案還為AI使用場景劃定禁區，嚴格禁止“對人類安全造成不可接受風險的AI系統”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等。實時遠程生物識別技術在最新投票中還被調整為“不可接受的風險”，禁止AI在該領域的應用。

美國消費者新聞與商業頻道（CNBC）稱，盡管草案正式成為法律還需要時間，但歐洲議會已經為立法掃清“主要障礙”，歐盟這項法案或將成為全球首批正式的AI法規之一。

美國政府則從今年4月起開始研究是否需要對ChatGPT等AI工具進行審查。作為潛在監管手段的第一步，美國商務部在4月11日就相關問責措施公開征求意見，包括新AI模型在發布前是否應該通過認證程序等問題。

美國國會參議院民主黨領袖查克·舒默在6月提出“人工智能安全創新”框架，主張在鼓勵創新的同時推進安全、問責制、基礎和可解釋性。他呼吁美國國會在該框架下加快對AI立法的進展，希望能在“幾個月內”制定聯邦層面的AI法案。

中國的AI立法相關工作也已經提上日程。今年4月，中國國家互聯網信息辦公室發布了《生成式人工智能服務管理辦法（征求意見稿）》，這是國內生成式人工智能（AI）領域的首份監管文件。

據澎湃新聞報道，7月6日，在世界人工智能大會科學前沿全體會議上，科技部戰略規劃司司長梁穎達表示，人工智能法草案已被列入國務院2023年立法工作計劃，提請全國人大常委會審議。展望未來，梁穎達表示，我國將鼓勵人工智能前沿研究和原始創新，鼓勵人工智能技術開源發展，堅持科技向善的理念，發展負責任的人工智能。

本文系觀察者網獨家稿件，未經授權，不得轉載。