亚洲在线日韩伦理片,96精品国产AⅤ一区二区,青鸟影视网,yy黄色频道,国内精品久久久精品AV电影院

云南天文臺:基于分布式存儲,為天文觀測構建新數據底座

2023-02-23 15:42 4550

北京(jing)2023年2月23日(ri) /美(mei)通社/ -- 晴空萬里、群星(xing)(xing)璀璨(can)的(de)麗江高(gao)美(mei)古,在納西語中的(de)釋義是"天氣好、星(xing)(xing)星(xing)(xing)多(duo)、離天最近的(de)地(di)(di)(di)方(fang)"。這里的(de)年(nian)平(ping)均晴天超200天,視寧度達(da)到世界(jie)優良臺址的(de)水平(ping),大氣潔(jie)凈(jing)透明,抬頭(tou)可見滿(man)天的(de)繁星(xing)(xing)、清(qing)晰的(de)銀(yin)河(he),近年(nian)來(lai)逐步成(cheng)為國內重要的(de)天文(wen)觀測(ce)站(zhan)點,逐步成(cheng)為國內外天文(wen)工作者的(de)觀測(ce)圣地(di)(di)(di)。建(jian)設在高(gao)美(mei)古的(de)中國科學院云(yun)(yun)南(nan)天文(wen)臺麗江觀測(ce)站(zhan)(以下簡稱麗江觀測(ce)站(zhan)),擁有獨特的(de)地(di)(di)(di)理環境優勢(shi),經過多(duo)年(nian)的(de)建(jian)設,逐步建(jian)設完成(cheng)了2.4米(mi)(mi)、1.8米(mi)(mi)、1.6米(mi)(mi)等(deng)(deng)多(duo)種口徑(jing)規格光學望遠(yuan)鏡和一(yi)批小口徑(jing)的(de)遠(yuan)程/自動望遠(yuan)鏡、日冕儀、射電望遠(yuan)鏡等(deng)(deng)科學觀測(ce)裝置,云(yun)(yun)南(nan)天文(wen)臺的(de)南(nan)方(fang)天文(wen)觀測(ce)集群已經初具規模。

隨著天文(wen)觀(guan)測(ce)需求(qiu)的(de)不斷(duan)提升(sheng),天文(wen)觀(guan)測(ce)所產(chan)生(sheng)的(de)觀(guan)測(ce)數據(ju)量(liang)也越(yue)來(lai)越(yue)大,這也對數據(ju)存儲和處理提出了更高的(de)要求(qiu)。為此(ci),麗江觀(guan)測(ce)站采(cai)用浪潮分布式存儲構建三級數據(ju)存儲平臺,為天文(wen)研究乃至今后的(de)數字經濟(ji)產(chan)業研究提供有利的(de)硬件平臺支(zhi)撐。


云南天文(wen)臺麗江觀測站的(de)2.4米(mi)光學望(wang)遠鏡

天文觀測儀器背后驚人的數據需求

麗(li)江觀(guan)測站(zhan)擁有(you)多(duo)種型號的(de)天文(wen)望遠(yuan)(yuan)鏡(jing)(jing),包括光(guang)(guang)學(xue)望遠(yuan)(yuan)鏡(jing)(jing)、日冕(mian)儀和射電(dian)望遠(yuan)(yuan)鏡(jing)(jing),整個觀(guan)測站(zhan)的(de)觀(guan)測能力(li)已經覆蓋(gai)了從光(guang)(guang)學(xue)到(dao)射電(dian)的(de)波段范圍(wei),每年(nian)能開展多(duo)項(xiang)具有(you)國際先進(jin)(jin)水平(ping)的(de)天體物理(li)觀(guan)測和研(yan)究工(gong)作(zuo)。天文(wen)領域的(de)科(ke)研(yan)工(gong)作(zuo)者借助觀(guan)測儀器設備對星體進(jin)(jin)行觀(guan)測,并采(cai)集數據以便進(jin)(jin)一步研(yan)究。

近些年隨著新的天文觀測技術快速發展,觀測的廣度和精度得到極大提升,讓天文工作者更清晰觀測到天文目標,也更準確驗證已有物理模型。與此同時,新的天文觀測儀器采集的數據量也有了量級的提升,如麗江觀測站正在調試的云南大學1.6米多通道測光巡天望遠鏡,其中裝置了3臺大靶面的科學技術CCD相機,每個相機由4片9k*9k的芯片拼接而成,在觀測過程中三臺相機同時曝光,一次曝光就能產生近1GB的觀測數據,一個觀測夜的觀測數據量近3TB,一年的原始觀測數據接近1PB。如何有效傳輸觀測站眾多望遠鏡觀測采集的數據、支撐計算平臺高效分析和處理觀(guan)測(ce)數(shu)(shu)據、安全存儲原始數(shu)(shu)據和價值數(shu)(shu)據,給麗江天文觀(guan)測(ce)站的(de)觀(guan)測(ce)數(shu)(shu)據管(guan)理提出了(le)新的(de)需(xu)求。

首先,數據性能需求。在數據采集過程中,天文望遠鏡觀測產生的數據,需要通過數據采集程序,實時地完成數據采集、數據預處理、計算、數據存盤等多個任務。數據量根據觀測設備數量及型號等因素會有不同,數據采集過程就對存儲提出了數GB/s至數十GB/s的帶寬需求,以保障數據穩定寫入。數據計算過程,作(zuo)為以(yi)數(shu)據(ju)(ju)為驅動的(de)(de)天文觀測任(ren)務(wu),科研計算平(ping)臺需要存(cun)(cun)儲集(ji)群平(ping)臺提供數(shu)十GB/s聚合帶(dai)寬的(de)(de)讀寫能(neng)力(li)以(yi)保證計算任(ren)務(wu)并(bing)行的(de)(de)高效性。在實現用(yong)戶數(shu)據(ju)(ju)共享的(de)(de)同時,還要針對不同的(de)(de)用(yong)戶進行權限控制(zhi)和配額限制(zhi),以(yi)實現存(cun)(cun)儲數(shu)據(ju)(ju)的(de)(de)安全(quan)高效使(shi)用(yong)。

其次,數據的長期保存需求。天文觀測的原始數據(ju)要(yao)通過(guo)合理的生命周(zhou)期管理系統進行永久歸檔(dang)保留,數據(ju)的自動(dong)化遷移歸檔(dang)、數據(ju)的安全性、歸檔(dang)數據(ju)長(chang)期保存成本(ben)、存儲的易擴展性是數據(ju)歸檔(dang)存儲考(kao)慮的重要(yao)因素。

分層存儲方案滿足不同天文數據的需求

麗江觀測站為(wei)了滿足天文科研工作者對望遠鏡觀測數(shu)據(ju)的(de)(de)(de)存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)和分析處(chu)理過程中高帶寬存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)資源需(xu)求,從而滿足大量文件的(de)(de)(de)頻繁讀(du)寫(xie)(xie),采(cai)(cai)用(yong)了浪潮的(de)(de)(de)計(ji)算節(jie)點(dian)和分布(bu)式存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)搭(da)建(jian)(jian)了三級分層的(de)(de)(de)存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)資源池(chi),通(tong)過浪潮分布(bu)式存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)高性(xing)能節(jie)點(dian)AS13000G5-H搭(da)建(jian)(jian)高速存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)層提(ti)供并行(xing)讀(du)寫(xie)(xie)能力,滿足前(qian)端多個計(ji)算節(jie)點(dian)同時(shi)在(zai)存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)上進(jin)行(xing)數(shu)據(ju)讀(du)寫(xie)(xie)的(de)(de)(de)需(xu)求;采(cai)(cai)用(yong)浪潮分布(bu)式存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)AS13000G5-M系列4U60高密節(jie)點(dian)提(ti)供2PB低速存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)空間,用(yong)于存(cun)(cun)儲(chu)(chu)(chu)(chu)(chu)前(qian)端回傳的(de)(de)(de)觀測原始(shi)數(shu)據(ju)以(yi)及(ji)計(ji)算集群計(ji)算處(chu)理后的(de)(de)(de)歸(gui)檔數(shu)據(ju)。


浪(lang)潮(chao)存儲

為天文觀測任務提供性能保障

浪潮(chao)AS13000G5-H通過私有客戶端,能(neng)夠(gou)使(shi)接收到(dao)的(de)數(shu)據并發寫(xie)(xie)入每個數(shu)據節(jie)點(dian),打破傳(chuan)統存儲的(de)單(dan)存儲節(jie)點(dian)性能(neng)限制,通過RDMA協議,有效降低(di)數(shu)據傳(chuan)輸過程中的(de)時(shi)延,進一步提升(sheng)傳(chuan)輸效率,單(dan)存儲節(jie)點(dian)性能(neng)可達(da)到(dao)GB/s讀寫(xie)(xie)帶寬。通過并行文(wen)件系統可以添加(jia)(jia)更多的(de)存儲節(jie)點(dian),性能(neng)和(he)容量隨(sui)節(jie)點(dian)數(shu)的(de)增(zeng)加(jia)(jia)而線性增(zeng)長。

科研項目的階段性增長可以按需滿足、高效運維

為保障天文數據長(chang)期可靠保存(cun)、彈性擴展的需求,浪(lang)潮存(cun)儲在(zai)架構和運維方(fang)面進行了創新。

擴展性方面,浪(lang)潮(chao)存儲(chu)基于分(fen)布式(shi)存儲(chu)架構支持靈活擴展,可(ke)隨著(zhu)天文科研項目需(xu)求(qiu)橫向擴展,運(yun)用(yong)獨特的擴容算法,在擴容同(tong)時可(ke)保障業務(wu)性能(neng)無(wu)明顯波動,性能(neng)與容量隨著(zhu)節點的擴展而線性增(zeng)長,避免對現有接收業務(wu)和科研計算任(ren)務(wu)讀寫訪問性能(neng)造成(cheng)影響,存儲(chu)空間可(ke)達到EB級別,滿(man)足(zu)了未來天文觀測儀器設備(bei)提升(sheng)的存儲(chu)增(zeng)長需(xu)求(qiu)。

在可靠性方(fang)面,浪潮(chao)分(fen)布式存(cun)儲采用糾(jiu)刪策略(lve),允許(xu)多(duo)個節點損(sun)壞時業(ye)務(wu)(wu)不中斷(duan),保(bao)證觀(guan)測(ce)任務(wu)(wu)以及(ji)計(ji)算任務(wu)(wu)7x24小時的(de)連續業(ye)務(wu)(wu)訪問,保(bao)障天文工作者科研項目順利進行。同時還(huan)可搭配(pei)InView智能(neng)管(guan)理平臺,對于天文觀(guan)測(ce)海量數據中心的(de)設備進行管(guan)理,提供容量、性能(neng)、故(gu)(gu)障等(deng)預(yu)測(ce)性分(fen)析等(deng)一系列智能(neng)化(hua)功能(neng),幫助運維(wei)人員(yuan)預(yu)防硬件潛在故(gu)(gu)障,同時降低(di)存(cun)儲的(de)復雜(za)性和維(wei)護成(cheng)本。

占地260余畝麗江觀(guan)(guan)測站園區(qu)里運行(xing)的(de)(de)(de)(de)(de)光(guang)學望(wang)(wang)遠鏡(jing)每年(nian)都要執行(xing)數(shu)(shu)千次的(de)(de)(de)(de)(de)觀(guan)(guan)測任務,積累(lei)大(da)量的(de)(de)(de)(de)(de)原始觀(guan)(guan)測數(shu)(shu)據,這(zhe)些觀(guan)(guan)測數(shu)(shu)據幫助科(ke)(ke)研(yan)工作(zuo)者取得(de)了大(da)量研(yan)究成果,加速(su)中國(guo)天文研(yan)究的(de)(de)(de)(de)(de)發(fa)(fa)(fa)展。如(ru)借助2.4米望(wang)(wang)遠鏡(jing)光(guang)譜(pu)觀(guan)(guan)測發(fa)(fa)(fa)現(xian)(xian)(xian)了數(shu)(shu)十個高(gao)紅移類星(xing)體(ti)(ti),不斷刷新中國(guo)發(fa)(fa)(fa)現(xian)(xian)(xian)類星(xing)體(ti)(ti)的(de)(de)(de)(de)(de)紅移記錄;通過系(xi)(xi)(xi)外(wai)行(xing)星(xing)的(de)(de)(de)(de)(de)精確視向速(su)度搜(sou)尋工作(zuo),已經發(fa)(fa)(fa)現(xian)(xian)(xian)若干顆(ke)系(xi)(xi)(xi)外(wai)行(xing)星(xing)候選源(yuan);擅長(chang)搜(sou)尋新的(de)(de)(de)(de)(de)凌食(shi)系(xi)(xi)(xi)外(wai)行(xing)星(xing)系(xi)(xi)(xi)統(tong)的(de)(de)(de)(de)(de)寬視場巡(xun)天望(wang)(wang)遠鏡(jing)(小口徑望(wang)(wang)遠鏡(jing)),幫助科(ke)(ke)學家(jia)們發(fa)(fa)(fa)現(xian)(xian)(xian)了10多(duo)(duo)顆(ke)凌食(shi)系(xi)(xi)(xi)外(wai)行(xing)星(xing)候選體(ti)(ti)以及200多(duo)(duo)顆(ke)其(qi)它(ta)類型(xing)的(de)(de)(de)(de)(de)變源(yuan)。正在建(jian)設的(de)(de)(de)(de)(de)云南大(da)學1.6米多(duo)(duo)通道測光(guang)巡(xun)天望(wang)(wang)遠鏡(jing),建(jian)成后將(jiang)(jiang)通過3臺相機進行(xing)同(tong)時曝光(guang)的(de)(de)(de)(de)(de)巡(xun)天觀(guan)(guan)測,將(jiang)(jiang)直接提供星(xing)空的(de)(de)(de)(de)(de)"彩色(se)電(dian)影(ying)"。

未來云南天(tian)文臺麗江(jiang)觀測(ce)站也將在此基礎上,不(bu)斷進(jin)行天(tian)文學高(gao)新技術創(chuang)新,為天(tian)文學的科學應用研(yan)究服務提供高(gao)質量(liang)的觀測(ce)數(shu)據,發揮(hui)南方天(tian)文觀測(ce)集群的前沿作用,推動天(tian)文領(ling)域研(yan)究的快速發展,探索宇宙奧秘。

消息來源:浪潮信息
全球TMT
微信公眾號“全球TMT”發布全球互聯網、科技、媒體、通訊企業的經營動態、財報信息、企業并購消息。掃描二維碼,立即訂閱!
collection