網友提問:人工智能技術飛速發展,在技術突飛猛進的同時也面臨一些“成長的煩惱”,比如有人利用人工智能詐騙,以及數據泄露等,如何護航人工智能安全發展?
和許多讀者一樣,這也是我一直關心的問題。人工智能是新一輪科技革命和產業變革的重要驅動力量。2024年《政府工作報告》提出開展“人工智能+”行動;去年12月舉行的中央經濟工作會議也提出,“以科技創新引領新質生產力發展”“開展‘人工智能+’行動”。
近年來,隨著大模型等關鍵技術不斷突破,人工智能應用加速落地,多樣化應用場景不斷涌現。而與此同時,也出現了數據泄露等安全威脅,還有人利用人工智能生成的深度偽造內容進行詐騙等違法犯罪活動。針對這些問題,我深入產業一線履職調研,分析新技術的潛在安全隱患。
從供給側看,建議開展聯合創新,圍繞攻防實戰和應用場景實現“AI+安全”尖端技術研發突破,共同探索大模型安全創新產品在威脅檢測、漏洞挖掘等方面的應用。從需求側看,建議強化政策牽引,推動“AI+安全”技術創新產品在各行業落地應用。從人才側看,建議壯大“AI+安全”領域的實戰型、復合型人才隊伍。鼓勵成立校企共同體,在實踐中培養更多大數據、人工智能、網絡安全等新興產業領軍人才。
今年全國兩會,我將繼續圍繞人工智能安全和軟件產業健康發展等議題建言獻策。未來,也會繼續深耕網絡安全領域,深入調研、精準建言,將履職工作做專、做深、做實,為網絡強國建設作出更大貢獻。
(記者楊昊采訪整理)
