數(shù)據(jù)治理:數(shù)據(jù)成本優(yōu)化的主要方向
本文主要介紹了數(shù)據(jù)治理對于降低成本的重要性,并從多個方面提出了數(shù)據(jù)成本優(yōu)化的主要方向,包括提高資源利用效率、優(yōu)化存儲策略、量化成本并促進(jìn)優(yōu)化、加強(qiáng)數(shù)據(jù)質(zhì)量管理以及滿足合規(guī)要求以保障數(shù)據(jù)安全等方面。
除了提效,降本也成了企業(yè)經(jīng)營的長期戰(zhàn)略。在運(yùn)營數(shù)據(jù)進(jìn)行精細(xì)化運(yùn)營和數(shù)字化轉(zhuǎn)型之后,數(shù)據(jù)成本優(yōu)化也成了數(shù)據(jù)治理的核心工作之一。數(shù)據(jù)成本優(yōu)化能夠減少企業(yè)運(yùn)營成本,提高資源利用效率,使企業(yè)能夠更高效地利用有限的資源,實現(xiàn)可持續(xù)發(fā)展。
一、數(shù)據(jù)成本的主要來源
數(shù)據(jù)成本除了相關(guān)產(chǎn)研等人力資源成本外,存儲和計算的服務(wù)器成本是大頭,尤其是隨著大模型應(yīng)用的逐漸深入,對計算資源有了更多的需求,一臺服務(wù)器幾萬塊錢,千萬級DAU的企業(yè)每年在服務(wù)器上的支持成本在大幾千萬。數(shù)據(jù)成本產(chǎn)生的主要原因:
- 數(shù)據(jù)規(guī)模和復(fù)雜度:隨著數(shù)據(jù)量的增加和種類的增多,處理、存儲和分析這些數(shù)據(jù)所需的成本也會相應(yīng)增加。
- 數(shù)據(jù)質(zhì)量和準(zhǔn)確性:數(shù)據(jù)質(zhì)量低或存在錯誤,需要投入更多的資源進(jìn)行清洗和修復(fù),從而增加成本。
- 數(shù)據(jù)分析需求:不同的分析需求可能需要不同的技術(shù)和工具,導(dǎo)致成本增加。
- 數(shù)據(jù)安全和合規(guī)要求:不同行業(yè)和地區(qū)對數(shù)據(jù)安全和合規(guī)的要求不同,需要額外的投入來滿足這些要求。
二、數(shù)據(jù)成本優(yōu)化的方向
提高資源利用效率:通過優(yōu)化任務(wù)執(zhí)行、提高機(jī)器利用率等方式,減少資源浪費(fèi),也就是在大數(shù)據(jù)平臺(離線、實時),可以借助AI能力,優(yōu)化任務(wù)的調(diào)度策略,最大可能提升機(jī)器利用率
優(yōu)化存儲策略:除了業(yè)務(wù)自然增長外,設(shè)定合理的數(shù)據(jù)生命周期,設(shè)定冷溫?zé)釘?shù)據(jù)的標(biāo)準(zhǔn),如90天不使用為冷數(shù)據(jù),定期刪除或歸檔不再需要的數(shù)據(jù),減少存儲成本。
量化成本并促進(jìn)優(yōu)化:建立明確的成本量化標(biāo)準(zhǔn),通過賬單排名等方式促進(jìn)相關(guān)人員主動優(yōu)化成本,除了量化成本結(jié)果外,定期檢測高耗時、低效任務(wù),給到數(shù)據(jù)生產(chǎn)者明確的優(yōu)化指引,促進(jìn)低效任務(wù)的代碼優(yōu)化。也可以借助AI代碼檢測能力,在任務(wù)提交環(huán)節(jié)進(jìn)行校驗、提醒
加強(qiáng)數(shù)據(jù)質(zhì)量管理:提高數(shù)據(jù)質(zhì)量和準(zhǔn)確性,減少因數(shù)據(jù)問題導(dǎo)致的額外成本。
滿足合規(guī)要求并保障數(shù)據(jù)安全:遵守相關(guān)法規(guī)和政策,確保數(shù)據(jù)在存儲、傳輸和使用過程中的安全性,避免因數(shù)據(jù)安全問題導(dǎo)致的額外成本。
建設(shè)完善的數(shù)據(jù)資產(chǎn)管理能力,提升模型復(fù)用性,減少重復(fù)開發(fā)帶來的程浪費(fèi),如建設(shè)易用的數(shù)據(jù)地圖、數(shù)據(jù)血緣、指標(biāo)管理工具等,通過完善的元數(shù)據(jù)信息,輔助數(shù)據(jù)使用者快速找到已有數(shù)據(jù),同時平臺需要具備一些重復(fù)任務(wù)的自動化檢測能力
本文由人人都是產(chǎn)品經(jīng)理作者【數(shù)據(jù)干飯人】,微信公眾號:【數(shù)據(jù)干飯人】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于 CC0 協(xié)議。
- 目前還沒評論,等你發(fā)揮!