上海交大科學史與科學文化研究院舉辦「人工智慧、倫理與文化高端論壇」


上海交大科學史與科學文化研究院舉辦「人工智慧、倫理與文化高端論壇」

2021-01-16 上海交大科史哲

上海交通大學科學史與科學文化研究院

舉辦「人工智慧、倫理與文化高端論壇」

10月31日上午9點,由上海交通大學馬克思主義學院科學史與科學文化研究院主辦,上海交通大學文科建設處資助的「人工智慧、倫理與文化高端論壇」在上海交通大學閔行校區圖書信息樓9層會議室召開。上海交通大學馬克思主義學院科學史與科學文化研究院院長李俠主持開幕式,上海交通大學馬克思主義學院黨委書記王震致歡迎詞。

這次會議由《自然辯證法研究》、《自然辯證法通訊》、《哲學分析》、《學術前沿》、《探索與爭鳴》、《長沙理工大學學報(社會科學版)》等編輯部十多位學術期刊編委成員和國內知名專家學者參與,主要圍繞人工智慧、倫理與文化主題進行了深入研究,藉此契機探討新時代以科技史、科學技術哲學、科技倫理等爲代表的新文科的發展趨勢。

尚智叢教授:人工智慧的道德困境

尚老師以人工智慧到底能否解決道德問題爲開端。指出道德產生的先決條件是自我意識,而認識上的困境體現在缸中之腦思想實驗中,人工智慧在一定程度上亦是如此。缸中之腦最早來源於笛卡爾的我思故我在。作爲主體的存在首先要有自我意識,針對自我意識才能談論道德。但是目前爲止,人工智慧尚未具備自我意識,因此無法談論人工智慧的道德問題。那麼,人工智慧如何講述道德問題?人工智慧處理人類工作,而人的活動內含道德規範。機器在運行中必然存在著道德規範,而規範設計來自人工智慧背後的編寫者。那麼到底預設怎樣的道德?倫理學家進行多方討論,宗教道德難以應用,世俗標準成爲選擇。如果出現問題,即使用功利主義標準,那麼大多數該如何定義?不同的歷史階段基於其發展而不同,目前是限定在羣體價值上,而現在所追求的普世價值,其實就是限定羣體價值。因此,當談論人工智慧道德是什麼的時候,其實是將程序編寫者都認可的道德寫入人工智慧。

杜嚴勇教授:構建友好人工智慧

杜老師以人工智慧向何處去爲問題開篇,從政府、技術、公衆、關係四個維度進行分析論述如何構建友好人工智慧。具體而言,在政府層面社會管理制度的發展進步。首先應加大人工智慧對社會的影響研究;其次是努力實現人工智慧時代社會的公平正義;第三加強對人工智慧科技的監管與調控。在技術層面,首先實現人工智慧技術的安全性,可控性與穩健性。其次人工智慧算法、數據的公正性與透明性。第三是人工智慧技術的人性化、倫理化研發與設計。公衆層面則需要做到觀點的調整與前瞻性準備。第一是積極應對人工智慧對就業的影響;第二是人工智慧威脅論及其克服;第三是思想觀念的調整。在關係層面則需要做到倫理與法律的與時俱進。若是能做到如上四個維度則可能實現友好的人工智慧。

下半場會議由上海交通大學馬克思主義學院科學史與科學文化研究院閆宏秀教授主持,首先是周程教授開場做報告。

周程教授:人工智慧應回到現實關照

周程教授提出,如果人工智慧、科技史和哲學(科技哲學)都是一級學科後將會發生什麼?學科門類的解決、自然科學基金的申請問題、人工智慧在中國的大發展,這些都是我們將面臨的情境。首先是人才培養的問題,若是依靠現在的人才培養機制能否滿足人工智慧的發展?第二,學院的建設是否需要?人工智慧是一個典型的理工與人文互動的交叉學科。那麼,當務之急是提早布局人才培養。雖然很多學科人才培養過剩,但是人工智慧是一個新學科,那麼對此人才需求量是會增加的。第三,人工智慧學院的使命是什麼?我們需要釐清人工智慧到底是什麼,如果還處於公說公有理婆說婆有理,那麼很難發展,需要學界進行清晰的界定。在如何實現人工智慧上,直指方法論的問題。第四是如何開發人工智慧,資源如何配置,這是政策問題。第五是如何應用人工智慧,這是價值論的問題。對於我們而言,現在需要解決定義問題,這是需要我們來回答的,否則人工智慧無法走得更遠。

徐飛教授:從智能到智慧——醫學人工智慧發展再思考

徐飛教授認爲,從應用的角度看AI是模擬、延伸和擴展人類智能的一種高新科技。在醫學領域,AI的技術正陸續在智能診斷、醫學影像、數據挖掘、藥物研發以及健康管理等多個方面被廣泛應用,給醫生和患者帶來效率和便利,但同時仍然有很多問題有待解決,其中最爲突出的還是AI與人類智慧的差別,以及由這種差別導致的種種理論和實踐難題。徐教授主要從以下幾個方面進行論述:體能、技能與智能;醫學AI中智能技術的由來;醫學AI未來能否取代醫生;醫學AI的哲學審思;走向人機一體智慧醫療新紀元。徐飛教授認爲,醫學AI作爲人類智能增強性技術,本質上依然具有工具的性質。在大力發展醫學AI的同時,同步關注技術方案、應用規範的倫理考量,及時開展技術風險及預期治理的哲學反思,將成爲AI健康走向未來的必由之路。

李斌教授:利用「不對稱」解決科技倫理

李斌教授認爲,目前對人工智慧的討論更多的脫離現實情況從而進入一種科幻情況。因此李老師從「不對稱性」概念的引入來解決科技與倫理問題。爲什麼要引入這個概念,引入這個概念後是否存在不對稱現象,這個現象是由於科技的發展造成的。由不對稱戰爭引入不對稱的概念,然後從科技助力形成的三對不對稱的現象展開,分析科技與倫理出現不對稱的現象,最後提出利用不對稱解決科技倫理的建議。

成素梅教授:人工智慧對社會的整體影響

成素梅認爲,智能革命已使人類結成了命運共同體,在這個共同體中,人與人之間和國與國之間不在於有多麼的不同,而在於相似性。智能革命的發展最終將會對工業文明釜底抽薪,成爲工業文明的掘墓人和智能文明的締造者。智能文明將是社會與技術高度糾纏的文明,也是深度拷問人類本質特徵的文明。我們只有辨明了「人之所以成爲人」的本質特徵,才能有針對性地出台規範人工智慧發展的約束機制和有效治理的全球標準,才能守護人的底線。要做到這一點,需要把曾經在工業時代位於邊緣的哲學人文社會科學,置於智能文明時代的中心,而未來智能社會的重建充滿了對人類智慧的更加嚴峻的考驗。

李俠教授:大數據殺熟現象與政策治理

隨著近幾年大數據的興起, 數據挖掘技術以及算法的迅猛發展, 其潛在商業前景不可限量。時至今日, 我們尚無法準確研判大數據革命對於人類的存在狀態到底會造成什麼樣的深遠影響, 但至少在其早期應用中已顯露出一些令人擔憂的徵兆, 整個社會已經開始逐漸感受到大數據對國家安全與個人生活的侵入以及權利的侵蝕。爲了便於討論,李俠教授對最近湧現出來的基於大數據的算法殺熟現象做了細緻分析,指出:任何商家的算法通常都標榜:客觀、中立、科學。然而,公衆無法檢驗算法,它完全不透明、也從不受外界審查,我們不知道算法里預設了什麼樣的偏見與歧視。所謂的「殺熟」就是歧視性定價。基於這種現實引發三種矛盾:矛盾1:算法不透明VS人越發透明;矛盾2:個體的道德敏感性低VS算法通過小惡的累積,大概率殺熟;矛盾3:個體追責成本高VS算法違規成本低。期望通過生活中的一個常見視角,探討在新技術面前人類的處境以及可能的解決措施。李老師提出完善與充實治理算法的政策工具箱是該行業進入規範與有序發展的當務之急。總之,對於算法的治理到了從政策引導、道德規訓到出台法規三管齊下的時候了,這也是一個逐漸調整、相互支撐的治理過程,在此基礎上各種基於大數據的算法的應用才是合規的。

易顯飛教授:當代新興「情感增強技術」的界定、類型與特徵

當代新興”情感增強技術”(EET)通過現代技術手段對人類的情感進行干預和調節,從而可以達到”增強”的目的,對其界定可以解構爲關於情感內涵和範圍的界定、關於”治療”、”預防”與”增強”三者之間界限的劃分以及會聚技術爲代表的新技術變革下EET所包含的核心技術要素。當代新興EET大致可以劃分爲醫藥技術型、基因工程型、納米技術型、信息技術型、植入技術型、複合控制型等六大類型。與傳統情感增強技術相比,當代新興EET具有”前提的預設性”、”風險的高度不確定性”、”功能的逾越性”、”工具的植入性”、”技術的會聚性”以及”人的深度科技化”等特徵。上述特徵的出現,體現了當代新興EET已經呈現出新的”技術範式”。

會議過程中,在座的專家學者對每場學術報告進行了熱烈的討論,期待爲建設中國人工智慧研究的新局面而共同努力。最後,李俠教授致閉幕辭。在與會代表的掌聲中,「人工智慧、倫理與文化高端論壇」順利落下帷幕。