“現在的深度學習大多是一種黑箱模式，它的可解釋性或透明性還不高。因此在臨床應用時，醫生可能會覺得可靠性不高。”西安交通大學數學與統計學院助理教授楊燕24日在滬直言人工智能(AI)的“弱點”。

當天，2023世界人工智能大會青年科學家論壇暨“新青年·星思享——青年科技論壇”在上海科學會堂舉行，青年科學家們結合各自領域冷靜思考當下的人工智能發展。

8月24日，2023世界人工智能大會青年科學家論壇暨“ 新青年·星思享——青年科技論壇”在上海科學會堂舉行。楊浦東 攝

楊燕說，深度學習從某種程度上說降低了從業門檻，很多人可能并不掌握專業領域知識，只是“喂”數據，這會導致“僅僅把精度做得很高，但不一定可應用”等問題。

浙江大學軟件學院青年科研人員彭思達認為，人工智能所帶來的隱私問題是一個特別需要關注的方面，之前ChatGPT就出現過信息泄露的問題。因此，業界需要思考如何對這些掌握大模型的公司進行更規范化的約束；尤其是在醫療領域，要關注如何讓病人的隱私不被泄露。

要訓練模型，需要給它“投喂”數據。上海科技大學生物醫學工程學院常任軌助理教授、研究員錢學駿表示，在醫學影像智能診療領域，醫學圖像往往很難達到自然圖像的訓練數量級，“在醫療領域，即使采到也不一能存下來，存下來也不一定能共享。層層下來，真正能用的只有小樣本。”

但他指出，通過傳統的后處理方式獲得高質量的醫療圖像往往非常耗時，人工智能打開了新思路，讓“魚”和“熊掌”(時間)可兼得，“有效利用預訓練模型與微調策略將在生物醫學領域發揮重要作用。”

同濟大學教授何良華認為，人工智能對“藥”的影響可能比對“醫”的影響更大。

他指出，在“醫”上，人工智能近年主要體現為輔助醫療，要想完全實現智慧醫療，還有一段路要走。而對制藥而言，從制藥材料的篩選，到藥物研發中的分子結構建模，人工智能影響深遠。