11月12日，由beat365官方网站和中國科學院科技戰略咨詢研究院（以下簡稱戰略咨詢院）聯合主辦的“數字技術研發與應用的倫理規制”研讨會在戰略咨詢研究院901會議室順利召開，來自beat365、清華大學、南京大學、複旦大學、浙江大學、中國科學技術大學、北京理工大學、上海交通大學、中國政法大學、西南政法大學、中國科學院自動化研究所、北京協和醫學院、中國社會科學院等單位的近30位專家參會。本次研讨會是為了推進中國科學院學部部署項目“數字技術的倫理研究”組織的專家研讨，研讨會由項目負責人梅宏院士、項目組成員譚鐵牛院士共同組織發起。梅宏院士在緻辭中提到，數字技術是一把“雙刃劍”，其廣泛應用的同時引發了一系列倫理風險與挑戰。在此背景下，我們亟需構建數字世界的倫理秩序，以回應數字技術倫理治理的迫切需要。

當今世界正在經曆一場源于信息技術的快速發展和廣泛應用而引發的大範圍、深層次的社會經濟革命。然而，這一領域研究也産生了一系列倫理風險，受到國内外科學界的高度重視，特别是數字技術基礎研究禁區、數字技術風險點位識别及治理重點劃定、以及我國科技倫理治理體系高效運行等問題，需要自然科學、倫理學、政策科學、法學等領域的專家共同研讨，達成共識。為此，會議邀請各方專家共同參與，以尋求對于相關問題的共識和解決方案。會議設置主題報告和交流研讨環節。為加強跨學科對話，主題報告環節由生命科學、數字技術和社會科學領域的專家就會議主題分别作報告。

研讨會設置3個特邀報告，分别從生命科學領域、人工智能大模型研究、腦機接口等前沿科技領域探讨技術進展及其治理。中國醫學科學院/北京協和醫學院生命倫理學研究中心執行主任翟曉梅教授作了“生命科學研究禁區與紅線劃定的倫理學分析”的主旨報告，介紹了人與非人動物嵌合體、腦機接口技術、基因編輯等領域的研究禁區及相應的倫理學依據，并指出涉及科技的國内國際政策都應該是與時俱進的，以适應科技的迅猛發展和社會價值的轉變。複旦大學計算機科學技術學院邱錫鵬教授作了“大語言模型的安全對齊”的主旨報告，分析了大語言模型的認知安全、社會安全和政治安全風險，構建了大語言模型的安全研究框架，提出要從不同階段、不同層面提高AI安全性。浙江大學計算機科學與技術學院潘綱教授作了“腦機接口倫理治理的若幹思考與淺見”的主旨報告，對腦機接口前沿技術進行了詳細介紹，指出數字技術基礎研究進行分級分類研究非常必要，認為應當充分利用現有人體醫學研究倫理規範作為基礎，多方面聯合進行深入的實證研究，謹慎對基礎研究階段的技術劃定紅線。

戰略咨詢院、beat365、南京大學等承擔項目子課題研究的團隊分别進行課題彙報。戰略咨詢院魯曉研究員作了“數字技術的治理重點和安全護欄”的報告，介紹數字技術研發與應用的倫理規制問題，構建數字技術分級分類管理的評估指标體系，并據此梳理當前國内外法律法規所設定禁止性的、高風險的研發和應用清單，分析美國、歐盟、中國的數字技術治理措施、優先事項、發展态勢。南京大學哲學系劉鵬教授作了“數字治理主體的倫理責任及其問題”的報告，認為在數字治理中數字技術是對象和手段的統一。指出從技術治理到數字治理的過程中，需要政府、社會組織、企業、高校、科研院所以及公民協同參與，建議通過全民數字素養與技能提升、強化制度保障、構建科技倫理教育體系等方式，提升數字治理的倫理敏感。複旦發展研究院研究員、複旦大學生命醫學倫理學研究中心教授楊慶峰作了“數字技術的倫理研究項目中期彙報交流”的報告，彙報了課題組在人工智能醫學影像倫理、人工智能輔助診斷、腦機接口、通用大模型倫理等領域的年度工作進展。

在交流研讨環節，與會專家就“數字技術基礎研究禁區設置”“數字技術的倫理風險與治理重點”“國家科技倫理治理體系高效運行機制構建”等議題進行熱烈讨論。與會專家認為，數字技術研究禁區設置具有必要性，是引領全球話語體系、獲取公衆信任、塑造科學家道德規範的重要方式。但是，數字技術研究禁區的設置有一定的難度，這主要是因為數字技術對社會生活的強滲透性、數字技術研發與應用的“旋轉門”的短周期性以及禁區設置在實際應用中可行性、可操作性等的原因。基于此，專家們認為要充分考慮數字技術數字技術受衆面廣、推行快、範圍廣的特征，結合地緣政治、社會風險、經濟發展等要素，統籌兼顧安全與風險關系，綜合考量技術與社會風險，積極參與國際對話，跨學科協同開展實證研究，審慎、動态、場景化設置數字技術基礎研究禁區。

針對治理體系的問題，專家強調制度建設的重要作用，要發揮有影響力的科學家在前瞻研判技術風險的作用；科學共同體要充分讨論、達成共識；搭建載體平台，強化多元主體的溝通交流；動态構建多層次的技術倫理規範體系；堅持包容審慎原則，引入沙箱監管，建立重大事件快速響應機制；加強國際合作，積極參與國際上相關法律法規和标準化制定工作；同時，專家建議要加強科普教育，将自律與他律貫穿于科技倫理治理過程中。

譚鐵牛院士在發言中指出，科技本身沒有善惡之分，關鍵在于“人”，在科技倫理治理中要規範人的行為，包括設立禁區、劃定紅線，這樣才能确保科技向善；同時要統籌兼顧發展與安全的關系，不能因噎廢食、因小失大；數字技術具有寬泛性，要針對數字技術的具體環節、細分領域設置相應的規制制度；在實踐層面要确保倫理風險得到有效防範，通過技術加強安全測試，強化科研人員科技向善的意識和思維；要在系統梳理國内外在科技倫理治理規制的基礎上，結合中國國情借鑒其經驗。

梅宏院士做會議總結，他指出本次研讨會的目标是能同各專業領域同仁一起推動數字技術領域的持續健康發展，探索合理有效的監管舉措和治理策略，在保障數字技術發展空間的同時，保證其在合理合規框架内的規範運行，并确保個人的尊嚴、自由、隐私等權益得到尊重和保護。