11月9日，長三角一體化數字文明共建共享——數字長三角發展大會在浙江嘉興舉行。本次大會是2023年世界互聯網大會烏鎮峰會的3個永久舉辦地特色活動之一，主題為“共建數字長三角新格局 共創數字文明新生態”。

在大會上，上海計算機軟件技術開發中心主任蔡立志就“邁向人工智能時代——打造共建共享共治的數字長三角”這一話題，通過“烏鎮對話”高峰論壇分享了其觀點，“人工智能除了在實體經濟里去延伸和拓展外，還可以用于自動設計芯片，人工智能的發展會影響到我們生活的方方面面”。

在接受南都記者采訪時蔡立志表示，人工智能帶來的風險包括數據泄露、個人隱私、數據濫用等。除此之外，大模型本身也會帶來巨大的風險，“人工智能如果要有生命力，必須是開放的、不斷學習的，如果是封閉的，它就不會演化。開放就帶來一個問題，學習的資料要不斷進來。有個詞語叫‘數據投毒’，用好的數據訓練AI，它就變成一個好學生，用一個糟糕的數據訓練，它就會變成一個壞學生，其倫理道德各方面都會被改變?！?

“烏鎮對話”高峰論壇。

對于企業在使用大模型時應如何規避風險，蔡立志認為，要么就不拿數據去訓練，要么就數據脫敏后再訓練，“但問題是數據處理以后有可能讓數據本身蘊含的規律和信息也丟失掉了。所以保護隱私和數據價值的挖掘永遠存在矛盾，功能的應用性便利性和它的安全性永遠是一對矛盾體，這個沒有辦法解決。但無論在什么樣的階段，都不能只兼顧一頭而放棄另外一頭。所以我們國家現在出來了很多法律法規，一方面你提供數據的時候需要注重隱私，另一方面在訓練大模型的廠家應該遵循一定的倫理道德和社會約束。”

蔡立志還提到，隨著人工智能的發展，也有可能讓原本的數據脫敏技術無效，“以前脫敏是給名字中間打上星號，中間若干個字段給它去掉一個字段?，F在這種脫敏技術在大模型面前化為烏有。大模型一計算，你在這個地方錯了，在另外一個地方沒錯，很容易把脫敏的數據還原好。這種數據隱私泄露的表現形式，是傳統的信息安全領域里，根本顧及不到的，到目前為止還沒有特別好的辦法來解決這個問題。”

蔡立志告訴南都記者，今年上海計算機軟件技術開發中心還推進建成了上海市生成式人工智能質量檢驗檢測中心（質檢中心），“以前做檢測就是先有標準再做落地。現在不行了，新的技術、新的東西我們必須是先探索、先做檢測，然后再去完善標準。”

采寫：南都記者 汪陳晨 發自烏鎮