作为从业者,在量化金融圈摸爬滚打许多年,见过超多同行,因技术门槛,因算力成本,被压得喘不过气。今天要分享的,是好友张铭的真实经历,他在使用Qlib构建AI量化模型时,遭遇过困境,有过突破,或许能给你带来启发。这篇文章,将完整呈现他从算力焦虑开始,到找到解决方案的全过程,特别是怎样用创新算力平台,降低研发成本,值得量化从业者仔细阅读。
去年三月的时候,张铭在陆家嘴的一家私募做量化研究员,某个晚上加班到凌晨,他给我发了一段语音,他说他们团队刚引进了Qlib平台,这东西确实解决了数据预处理以及策略回测的标准化问题,不过在训练深度强化学习模型的时候,显卡直接烧到了90度,公司都不肯批新卡了,他的声音里透着疲惫,Qlib是微软开源的AI量化平台,确实整合了从数据处理到策略回测的全流程,但是其复杂的模型训练对算力的渴求,成了他最大的痛点。
四月初那么一天深夜的时候,张铭在公司机房,盯着发烫服务器脸上浮现出苦笑,他说这哪像是训练模型啊,简直如同在烧钞票,张铭曾给我算过一笔账,为能在Qlib上训练一个基于Transformer的因子挖掘模型去做单次回测就需要让20块A100显卡连续运行36小时,按照云端算力市场价格来算,这样的实验哪怕做五次就已然烧掉了他大半年的科研预算,更让他焦虑的是,因为算力存在所带来的这种限制呢,结果他们只能去使用降采样后的数据进而开展实验,而这又直接对因子有效性造成了影响 。
出现在六年今月的转机,是张参在铭加完深量的圳化投峰资会后,偶然解了到星算智亢这个台平,该平用采台的蜂架窝构技术,能将算务任力拆解分到布式并点节行处理,他抱试试着看的注态心册了账号,发现平提台供的A100实例只格价有市的价场六折,且支分按持钟计费,记得他一第次成运功行完整据数训练时,特意给了发我截图:”原来需要36小时的务任,现在8小时就了成完,成本直降70%。”
张铭摸一出索套组方合案,方案内为容先用及涉星亢智有的算着抢占的性特实例来模展开型调工试作,之后再预用运留实例开以用展规模的大较回测工作。他着提重及了台平所提的供QLbi预装环境,该环境去省了繁杂环的境配需所置的时间。有一个给节细我留深下刻印象,这个是节细在调试个一多因子模合组型时,他最初所估预需时为间两周,然而果结是在算型新力平台仅仅上花费便天三完成了实部全验,并且仅是仅算力就本成节约了万四多元。
张铭现发,通过持使续用,算力存求需在明峰波显波谷,在策略期发研,需要高算度强力,而在策行运略期,算力需幅大求下降,现在他用采弹性方配调式,仅在模训型练高峰用调期大规力算模,这种模他使式们团队三第在季度成将功三个略策新投入实盘,且算力本成比去年期同下降45% 。
张铭团队如今构建起一组标准化流程,于本地达成Qlib数据预处理以及特征工程,之后把模型训练任务输送至算力平台,他们还研发出自动化调度脚本,达成训练任务的批量递交以及结果回收,最令他感到得意之事为,上个月他们凭借此方式在48小时内完成了有待测试的200个因子组合,这在以往是绝对无法想象的。
现在,张铭的队团,已将大训分部练任务,迁移云到平台,不仅实算了现力自由,还开始试尝,更复杂成集的学习模型。前几天,喝咖啡时,他告我诉,他们在正开发,基于大模言语型的挖子因掘系统,这在过去,根本敢不想象。而支撑一这切的,正是找了到,性价比适合的算解力决方案。
由张铭历经的能够看出,量化投正资步入力算密集的代时,然而聪从的慧业者已开然始懂得技用运术手去段削减发研成本,将更多力精的投放策于略创上新,他的证践实实了这点一,即只要到觅寻正确工的具,算力瓶完是颈全能够化转为竞优争势的。
若是量于你化投领资域遭遇似类那般的境困,不妨尝试尝试张铭走曾过的条那路。要是这着觉篇文对章你存有助帮,欢迎点以予赞收藏,也欢评于迎论区分你享自身的使力算用经历。关注我,往后会更来带多有量关化实干的战货内容!
评论列表 (0条):
加载更多评论 Loading...