如何才能對AI本身進行法律上的規制或道德約束

當人們期待更高智慧水平的AI時，要不要對AI本身進行法律上的規制，或進行道德約束？假設需要，如何進行規制？

AI演算法會受到訓練資料的影響，如果訓練資料中存在偏見，那麼其決策也會形成歧視。安全性表現在AI如何保護資料安全。過去一段時間裡，Google、Meta等公司先後被爆出資料洩露問題，引發全球對資料保護的關注，各國也加快了針對隱私、資料保護方面的立法。

未來人工智慧無疑是數字經濟最重要的組成部分。而人工智慧的發展，首先要解決的是人工智慧與實體之間的法律關係及邊界問題。人工智慧不是為了讓人脫離真實世界，而是為了增加人與真實世界、人與人的交流，它應該使人類更懂得多元與互信，而非割裂的二元。

穩健性則是指人工智慧系統在異常情況下，仍能保持正常執行，而不至於崩潰。例如，現在的智慧駕駛都有一套冗餘方案，目的是防止極端天氣、車輛碰撞等場景下，車輛失控的情況。

令人擔憂的是，未來深度偽造的模擬程度還會繼續提升。在近段時間大火的元宇宙概念中，與元宇宙緊密相關的虛擬數字人的熱度也在持續提升。如果數字人的生成和驅動變成了一項唾手可得的技術，就意味著相關攻擊手段門檻大大降低，這將對人臉識別、身份核驗等領域帶來更嚴峻的挑戰。