中新網8月17日電 題：人工智能商業(yè)化提速，如何平衡創(chuàng)新與治理？

(相關資料圖)

中新財經記者 夏賓

在大模型、AIGC引領的產業(yè)熱潮下，人工智能商業(yè)化落地提速，企業(yè)關心將技術應用到產業(yè)中產出價值，從政府的角度也必須要考慮如何平衡創(chuàng)新和治理間的關系。

“人工智能確實成為當前引領新一輪科技革命發(fā)展潮流，大家也有一定擔心，生成式AI被視為一種顛覆性技術，同時具有破壞性，它是雙刃劍，可以解放生產力、發(fā)展生產力，但是對現(xiàn)有的破壞也需要考量，可能帶來不可預知的風險和挑戰(zhàn)?！敝袊鴩H經濟交流中心經濟研究部副部長劉向東近日在京參加騰訊舉行的“人工智能技術創(chuàng)新發(fā)展”研討會時如是說。

劉向東說，社會擔心，若不對生成式AI進行有效監(jiān)管，在倫理和安全上會產生較大挑戰(zhàn)，甚至產生不可預知的風險，比如出現(xiàn)它不受人控制的情況都可能存在。

他進一步稱，由此，各國家都對如何發(fā)展人工智能提出了一些辦法，中國政府也發(fā)布了《生成式人工智能服務管理暫行辦法》，這既需要把生成式AI發(fā)展和應用的范圍劃定清晰，同時又不妨礙其發(fā)展，所以在包容審慎和分類分級監(jiān)管方面通過一個暫行辦法，如有不合適的，根據(jù)各方反饋再去調整，如此促進生成式人工智能的發(fā)展。

中國信通院云大所人工智能部副主任曹峰表示，從大模型發(fā)展趨勢來看，今年是大模型多、應用范圍多，且向醫(yī)療、教育、能源、電力、工業(yè)等行業(yè)深度融合。

但他也提出，大模型的可信風險日漸突顯，大模型本就沒有解決原來人工智能存在的問題，比如可解釋、黑盒、數(shù)據(jù)泄露、不穩(wěn)定等問題，同時帶來很多新的問題，比如涉及知識產權問題、生成不恰當內容問題以及生成虛假肖像、圖片、語音而用于非法行為的問題。

為解決上述問題，曹峰建議，從政策層面，比如網信辦對生成式人工智能的相關規(guī)定，同時國際上不斷強調需要關注倫理、隱私、版權等問題。

從產業(yè)層面，很多產業(yè)機構等也提出了大模型需要產業(yè)重視的問題，比如重視數(shù)據(jù)風險、模型風險、隱私風險等一系列風險?！拔覀冃枰獜募夹g和管理雙管齊下，在技術層面的隱私保護技術、公平性技術、可解釋性技術等，在管理層面的風險管理、人員管理、質量管理、合規(guī)管理等?！?/p>

北京理工大學計算機學院副教授、網絡與安全研究所所長閆懷志強調說，人工智能系統(tǒng)自身安全問題容易被忽視，它是個盲點。具體體現(xiàn)在多個方面，比如對抗機器學習，惡意樣本生成，訓練數(shù)據(jù)污染，出現(xiàn)偽造臟、假數(shù)據(jù)的情況。

閆懷志直言，問題出在“智能算法的理想”與“軟件實現(xiàn)的現(xiàn)實”的差異。一是人工智能框架安全，現(xiàn)在開源人工智能編程框架和商業(yè)人工智能編程框架很多，二是人工智能算法安全，對抗樣本的出現(xiàn)就證明了人工智能算法缺乏可解釋性，三是人工智能數(shù)據(jù)安全，構造一些非法數(shù)據(jù)、誤導數(shù)據(jù)實施干擾，從而造成機器學習模型的過擬合或完全失效。

人工智能行業(yè)天使投資人郭濤認為，人工智能監(jiān)管趨嚴是人工智能商業(yè)化面臨重大問題之一，比如AIGC內容生成的相關版權歸屬問題，訓練數(shù)據(jù)合法性問題，大量人臉數(shù)據(jù)、圖片數(shù)據(jù)等的來源問題，對數(shù)據(jù)來源的監(jiān)管、算法模型的監(jiān)管、對應用場景的監(jiān)管、對社交平臺的監(jiān)管，這些監(jiān)管趨勢都非常嚴。

騰訊研究院產業(yè)研究中心負責人宋揚則提到，大模型對現(xiàn)有知識產權有一定沖擊，尤其對版權有一定沖擊，而從倫理和安全角度，AI生態(tài)需要更加完善。

宋揚表示，高盛預測AI將取代3億人的全職工作，世界經濟論壇的報告表明未來五年勞動者44%的核心技能會發(fā)生改變。此外，用AI生成類似真人的數(shù)字人技術，它會進行新型詐騙，目前已經有詐騙案例出現(xiàn)，所以推動AI倫理及AI安全需要產業(yè)共同努力。(完)

關鍵詞：