論文「沉海」曾陷低谷 導師引導重建信心

談及科研之路的開端，陽行意憶述，自己是於東南大學本科時開始參與科研和產業項目，到升大四的暑期更投入海外研究計劃並長時間沉浸其中，反覆思考、嘗試和驗證，深深感受到科研的吸引力。然而，赴美讀碩士期間，陽行意亦曾經歷低谷，論文投稿幾乎全部石沉大海，常常自我懷疑，後於新加坡國立大學博士階段，他在導師引導下不斷嘗試和調整，才逐漸建立起對科研的信心與觸覺，「在博士階段，我終於發現自己願意長時間鑽研一個問題，同時想法比較活躍，常常從不同角度重新審視問題。直到今天，我依然很享受經過推理、實驗和不斷修正，像剝洋葱一樣，一層一層地消除問題中的不確定性。」

在研究歷程中，陽行意有幾次有趣嘗試，都是把原本來自圖演算法或數學優化方法，放到神經網絡中重新使用。其中一個是做一種「可以自動變大變小的神經網絡」，就像一把能自動伸縮的工具，其困難之處在於如何用數學語言描述「變大」和「變小」之間的關係，因為不同大小的神經網絡結構和參數排列都不一樣，不能簡單直接比較。

後來團隊想到用圖優化方法把這些網絡先「對齊」。他比喻說，就像比較幾幢大小和結構都不同的房子，需要先把屋頂和屋頂對齊、樓層和樓層對齊，再找出它們的相似部分，從而發現不同網絡之間共同的結構規律，再嘗試從中生成不同大小的模型，最終在小規模實驗中得到不錯的結果。雖然這方法未成為影響特別廣泛的技術，但陽行意認為，這是他做過最有趣的工作之一，「一個想法未必會變成最成功的成果，但在把它從『異想天開』變成『可以驗證』的過程中，你會真正體會到研究的樂趣。」