第184章 沒關係,交給我就可以了
第184章 沒關係,交給我就可以了
「在進行計算之前,先運行幾個簡化版的拓撲預報器,對未來幾步的計算熱點區域進行預測,從而提前、漸進的調整數據布局。」
徐瑞的這個方案,很好的對任務分配進行了優化,讓整個N—S方程模擬的數據布局變得非常的合理。
「嗯,這個想法確實很好,不過通信瓶頸的問題並沒有得到解決。」
另一位網絡工程師想了想,還是提出了另外的一個問題。
「通信瓶頸是第三步需要解決的,這也是最關鍵的一部。我們不再使用常規的數據搬運方式,而是用編碼理論去代替數據搬運————」
這個問題徐瑞同樣也早就想到了,通信帶寬不足是天河二號在處理N—S方程時遇到的一個麻煩,而徐瑞解決這個問題的思路,是不去發送原始數據,而只發送關於這個數據的「描述」。
這會造成部分數據回存在精確度不足的情況,但可以通過補充發送少量校正信息的方式去解決。
因為這個誤差即使存在,也並不會非常的大,只需要原始數據幾十分之一的信息量,就可以對誤差進行修正了。
聽完了徐瑞完整的思路,超算中心的人們都不禁對徐瑞肅然起敬了起來。
無論這個方法最終到底會起到怎樣的效果,能夠分析出問題可能的原因,並制定這樣一個完善的方案,這都是一件非常不可思議的事情。
驚嘆了一會兒之後,付嘉這才率先回應道:「這真是一個精彩的方案啊————這相當於以計算作為代價去交換通信了,用局部計算生成數據的預測值,修正量也是完全可控的。」
「沒錯,而且這個過程還是有很大的優化空間的。根據我的理論,渦度場的拓撲結構變化是連續且有界的,預測的準確性可以很高,所需要的傳輸修正量有可能比我們想像的更少一些。」
「好的,徐瑞,我們會認真考慮你的思路的,如果沒問題的話,我們就一起在這個方向上嘗試了一下。」
隨後,天河二號超算中心的領導層們,聚在一起又慎重的研究了一下。
這其中,有些人並不贊同按照徐瑞的思路進行研究,畢竟這樣的事情是屬於「外行指導內行」,如果被外界知道的話,有可能會對他們超算中心的專業性產生懷疑。
而且就算徐瑞的理論非常的優美,但實際實施起來還是需要對工程細節把控得非常精準,並不是那麼容易的事情。
不過相比之下,支持徐瑞的人還是更多一些。
他們並不單向閥外界對這件事情的看法,畢竟這只是他們超算中心內部的事情,只要
不公開的話,誰也不會知道事情的原委。
反正只是嘗試一下的話,並不會付出太多的成本,就算最終的結果沒有那麼理想,也是完全可以接受的事情。
最終,經過他們的一番商議,超算中心還是決定從中抽調十多名工程師,幫助徐瑞去進行這項研究工作。
對於這個結果,徐瑞已經非常滿意了,按照原本他的心理期望,有幾個人幫助自己完成研究他就會非常知足了。
將這十幾位工程師召集到一起,徐瑞對他們安排起了工作。
第一階段的工作是基礎資料庫的重置,徐瑞將親自負責關鍵公式的推導,其他工程師則是在徐瑞的指導下進行程序的編輯。
在徐瑞的領導之下,他們很快便取得了一些不錯的突破。
首先是在預測算子上,基於徐瑞之前論文中的渦度傳輸方程簡化形式,他們構造了一個輕量級預報模型,在保持90%精度的同時,計算耗時僅為完整計算的1%而已。
在數據壓縮編碼上,徐瑞設計了一種非均勻小波壓縮方案,平均壓縮比達到了15:1。
而在動態映射優化上面,他們也成功的將問題進行簡化,可以用更快的算法完成映射問題的求解。
追書神器 TW 看書網,𝘀𝗵𝘂.𝘁𝘄超方便
當然,這些突破相對來說也只是比較小的進展,在處理計算和通信的轉換問題時,他們遇到了第一個非常棘手的問題。
由於每個核心都需要運行小規模的局部N—S求解,來對臨近數據進行預測,這導致了額外計算量的增加。
這樣的話,之前理論上節省出來的收益,也將會被抵消一部分了。
為此,徐瑞也意識到必須要對原計劃進行修改,盯著屏幕上的代碼,專注的思考了起來。
就在其他工程師對此都感到有些茫然的時候,徐瑞突然開口說道:「我們把每個核心的局部預測計算,從軟體上轉移到硬體上吧。」
聽到徐瑞的這個提議,其他人紛紛都感到有些不解,疑惑的看向徐瑞。
「這、這是為什麼呢?」
「因為協處理器有大量閒置的矢量寄存器和小規模專用計算單元,如果我們把這些局部預測固化到硬體中,就基本不會占用CPU的時間了。」
聽著徐瑞的解釋,其他人也明白了徐瑞的思路是什麼了。
這可以讓預測計算和其他計算重疊,理論上確實可以解決額外計算量增加的問題。
可是理論畢竟只是理論,想要真正實施這個想法,難度是可想而知的。
「徐瑞,這項操作需要深入到晶片的微架構層面,對驅動程序進行改寫。之前我們從來沒有做過類似的工作。」
「是啊,這項操作的難度實在太大了,並不屬於我們的專業範疇。」
這些工程師的專業能力雖然都很強,但在處理自己並不擅長的工作的時候,也並沒有太大的信心。
徐瑞卻並沒有這樣的顧慮,對於他來說,無論是自己之前是否擅長的領域,他都可以依靠自己強大的學習能力,來把這變成自己擅長的領域。
「沒關係,交給我就可以了。如果能給我提供一下晶片的微架構手冊和驅動開發套件就更好了。」
徐瑞的這個要求,自然得到了超算中心的支持,可是這些內容實在過於繁雜,技術文檔就足足有上千頁之多,學習起來並不容易。
「在進行計算之前,先運行幾個簡化版的拓撲預報器,對未來幾步的計算熱點區域進行預測,從而提前、漸進的調整數據布局。」
徐瑞的這個方案,很好的對任務分配進行了優化,讓整個N—S方程模擬的數據布局變得非常的合理。
「嗯,這個想法確實很好,不過通信瓶頸的問題並沒有得到解決。」
另一位網絡工程師想了想,還是提出了另外的一個問題。
「通信瓶頸是第三步需要解決的,這也是最關鍵的一部。我們不再使用常規的數據搬運方式,而是用編碼理論去代替數據搬運————」
這個問題徐瑞同樣也早就想到了,通信帶寬不足是天河二號在處理N—S方程時遇到的一個麻煩,而徐瑞解決這個問題的思路,是不去發送原始數據,而只發送關於這個數據的「描述」。
這會造成部分數據回存在精確度不足的情況,但可以通過補充發送少量校正信息的方式去解決。
因為這個誤差即使存在,也並不會非常的大,只需要原始數據幾十分之一的信息量,就可以對誤差進行修正了。
聽完了徐瑞完整的思路,超算中心的人們都不禁對徐瑞肅然起敬了起來。
無論這個方法最終到底會起到怎樣的效果,能夠分析出問題可能的原因,並制定這樣一個完善的方案,這都是一件非常不可思議的事情。
驚嘆了一會兒之後,付嘉這才率先回應道:「這真是一個精彩的方案啊————這相當於以計算作為代價去交換通信了,用局部計算生成數據的預測值,修正量也是完全可控的。」
「沒錯,而且這個過程還是有很大的優化空間的。根據我的理論,渦度場的拓撲結構變化是連續且有界的,預測的準確性可以很高,所需要的傳輸修正量有可能比我們想像的更少一些。」
「好的,徐瑞,我們會認真考慮你的思路的,如果沒問題的話,我們就一起在這個方向上嘗試了一下。」
隨後,天河二號超算中心的領導層們,聚在一起又慎重的研究了一下。
這其中,有些人並不贊同按照徐瑞的思路進行研究,畢竟這樣的事情是屬於「外行指導內行」,如果被外界知道的話,有可能會對他們超算中心的專業性產生懷疑。
而且就算徐瑞的理論非常的優美,但實際實施起來還是需要對工程細節把控得非常精準,並不是那麼容易的事情。
不過相比之下,支持徐瑞的人還是更多一些。
他們並不單向閥外界對這件事情的看法,畢竟這只是他們超算中心內部的事情,只要
不公開的話,誰也不會知道事情的原委。
反正只是嘗試一下的話,並不會付出太多的成本,就算最終的結果沒有那麼理想,也是完全可以接受的事情。
最終,經過他們的一番商議,超算中心還是決定從中抽調十多名工程師,幫助徐瑞去進行這項研究工作。
對於這個結果,徐瑞已經非常滿意了,按照原本他的心理期望,有幾個人幫助自己完成研究他就會非常知足了。
將這十幾位工程師召集到一起,徐瑞對他們安排起了工作。
第一階段的工作是基礎資料庫的重置,徐瑞將親自負責關鍵公式的推導,其他工程師則是在徐瑞的指導下進行程序的編輯。
在徐瑞的領導之下,他們很快便取得了一些不錯的突破。
首先是在預測算子上,基於徐瑞之前論文中的渦度傳輸方程簡化形式,他們構造了一個輕量級預報模型,在保持90%精度的同時,計算耗時僅為完整計算的1%而已。
在數據壓縮編碼上,徐瑞設計了一種非均勻小波壓縮方案,平均壓縮比達到了15:1。
而在動態映射優化上面,他們也成功的將問題進行簡化,可以用更快的算法完成映射問題的求解。
追書神器 TW 看書網,𝘀𝗵𝘂.𝘁𝘄超方便
當然,這些突破相對來說也只是比較小的進展,在處理計算和通信的轉換問題時,他們遇到了第一個非常棘手的問題。
由於每個核心都需要運行小規模的局部N—S求解,來對臨近數據進行預測,這導致了額外計算量的增加。
這樣的話,之前理論上節省出來的收益,也將會被抵消一部分了。
為此,徐瑞也意識到必須要對原計劃進行修改,盯著屏幕上的代碼,專注的思考了起來。
就在其他工程師對此都感到有些茫然的時候,徐瑞突然開口說道:「我們把每個核心的局部預測計算,從軟體上轉移到硬體上吧。」
聽到徐瑞的這個提議,其他人紛紛都感到有些不解,疑惑的看向徐瑞。
「這、這是為什麼呢?」
「因為協處理器有大量閒置的矢量寄存器和小規模專用計算單元,如果我們把這些局部預測固化到硬體中,就基本不會占用CPU的時間了。」
聽著徐瑞的解釋,其他人也明白了徐瑞的思路是什麼了。
這可以讓預測計算和其他計算重疊,理論上確實可以解決額外計算量增加的問題。
可是理論畢竟只是理論,想要真正實施這個想法,難度是可想而知的。
「徐瑞,這項操作需要深入到晶片的微架構層面,對驅動程序進行改寫。之前我們從來沒有做過類似的工作。」
「是啊,這項操作的難度實在太大了,並不屬於我們的專業範疇。」
這些工程師的專業能力雖然都很強,但在處理自己並不擅長的工作的時候,也並沒有太大的信心。
徐瑞卻並沒有這樣的顧慮,對於他來說,無論是自己之前是否擅長的領域,他都可以依靠自己強大的學習能力,來把這變成自己擅長的領域。
「沒關係,交給我就可以了。如果能給我提供一下晶片的微架構手冊和驅動開發套件就更好了。」
徐瑞的這個要求,自然得到了超算中心的支持,可是這些內容實在過於繁雜,技術文檔就足足有上千頁之多,學習起來並不容易。