不能靠公衆辨別AI造假 要在立法上下功夫

AI生成圖片越來越逼真,被用於多個領域,需要規範技術應用。製圖來自騰訊混元大模型

近期,香港警方披露了一起多人“AI換臉”詐騙案,涉案金額高達2億港元。隨着近年AI技術的迅猛發展,不少電信詐騙分子通過“AI換臉”、模擬變聲等手段進行詐騙。面對花樣多變、層出不窮的AI詐騙手段,民衆如何辨別真假?

對此,第十四屆全國政協常委、教科衛體委員會副主任、中國科技新聞學會理事長徐延豪回答南都記者提問時表示,在AI技術日新月異發展的今天,辨別AI造假手段是非常難的事情,要求公衆可以用肉眼辨真僞也對公衆提出了過高的要求。

爲減少AI詐騙風險,徐延豪認爲,發佈者要保證發佈視頻信息的真實性,如果視頻是AI合成的,應該負責任地告知公衆,並對通過AI詐騙負法律責任。公衆也應該明白,在AI時代,眼見耳聞都不一定爲實。另外,針對AI技術的應用,要研究如何規範管理,進一步加強立法。

建議基礎科研經費向青年科技工作者傾斜

2018年科技部、教育部、人社部等部門聯合發佈《關於開展清理“唯論文、唯職稱、唯學歷、唯獎項”專項行動的通知》。近年來,一系列以破除“唯論文、唯職稱、唯學歷、唯獎項”爲鮮明指向的人才評價改革新政密集出爐,“破四唯”取得了階段性的進展。但需要注意的是,用人單位特別是部分高校在引人、用人上,“唯帽子”問題的歷史慣性似乎依然存在。

“這的確是科技界議論較多、關注度較高的話題。”徐延豪表示,近年來“破四唯”政策不斷出臺,“唯帽子”的現象有所遏制,整個評價體系都在向重學術的良性狀態發展。

但徐延豪也坦言,這種情況已經存在多年,不是一朝一夕就可以改變的,在一些評價評審中仍存在一些“戴帽子”“比帽子”的現象。

“我覺得去掉‘帽子’需要一個過程,這需要全社會都來倡導不‘唯帽子’、重學術、重貢獻的氛圍,並逐漸形成風氣。”徐延豪強調,需要全社會一起努力,形成不“唯帽子”和重學術、重貢獻的良好風氣,才能徹底解決這個問題。

值得一提的是,在今年兩會首場“部長通道”上,科學技術部部長陰和俊表示,要加強青年人才培養,鼓勵有條件的單位把一半以上的基礎科研費用投向35歲以下的年輕人。

對此,徐延豪表示,35歲左右的青年科技工作者正處在創新力最強、思維最活躍的時期,將基礎科研經費向青年科技工作者傾斜,是非常正確的。但青年科技工作者想在某些領域取得成績又不是一朝一夕的事情,所以希望這種投入可以具有持續性和穩定性。

徐延豪進一步強調,如果這種支持是穩定的,那麼青年科學家可以在沒有資金壓力的情況下,更自如地開展研究工作,這也更有利於他們儘快地產出創新性成果,全社會都應形成這種支持創新的氛圍。

“科幻是先行一步的科研,科幻的終極價值是傳播科學”

徐延豪曾多年擔任中國科技館館長,他就如何做好一線科普工作在會上分享了相關經驗。他表示,隨着信息技術的快速發展,科普工作的條件日益優越。日益強大的移動終端也讓科技人員能更方便地參與科普工作,爲科學傳播提供了便利條件。

“我呼籲所有的科研人員、專業人士都能充分利用現有條件,用通俗的語言和簡單易懂的方式,隨時隨地向公衆傳播專業知識。”徐延豪指出,如今的科普工作不再只是專業機構所能做的事情,而是每個科研人員都可以參與其中的,這才能形成全社會都參與科普工作的良好氛圍,特別是能激發青少年對科學的興趣,讓更多青少年熱愛科學。

值得注意的是,在如何加強民衆對 AI造假可能性的認知,提高對虛假信息的辨別能力方面,徐延豪表示,在AI技術日新月異的今天,辨別AI造假手段是非常難的事情,要求公衆可以用肉眼辨真僞也對公衆提出了過高的要求。

爲減少AI詐騙風險,徐延豪認爲,發佈者要保證發佈視頻信息的真實性,如果視頻是AI合成的,應該負責任地告知公衆,並對通過AI詐騙負法律責任。公衆也應該明白,在AI時代,眼見耳聞都不一定爲實。另外,針對AI技術的應用,要研究如何規範管理,進一步加強立法。

徐延豪還提到了科幻電影在科普方面的作用。談及當前爆火的國產科幻作品如電影《流浪地球》、電視劇《三體》時,他表示,科幻作品之所以吸引人,主要是把我們原來想做但做不到的事情變成現實。

“科幻是先行一步的科研,它可以給青少年提供很多聯想,激發他們對科學的興趣和好奇。”徐延豪說。

但徐延豪也強調,科幻電影還是要回歸本源。科幻不是妄想,而是建立在一定科學基礎之上的聯想。“我希望人們在對科學產生的幻想和聯想感興趣時,可以用藝術作品來呈現科學本身的奧秘和神奇。科幻的終極價值是傳播科學,特別是可以在吸引青少年好奇心、想象力上發揮獨特作用。我希望作家和創作者都來關注這方面的發展,投身這一事業。”

採寫:南都記者 王瑋 李玲 發自北京