最近,我和一位朋友聊天,这位朋友长年在上海奋力打拼,他的一番经历,使我内心有着颇深的感触,他身为上海族媒多智体科限有技公司的技术总监,正在引领团队攻克一项多媒体智能交互系统,然而,该项目差点由于算力瓶颈致使项目半路搁浅,要是你在AI创业之路上遭遇类似的困扰,那么这篇文章也许能够给你带来一些启发。
其朋友有拥所的公司于落坐中国自海上由贸易验试区临港区片新云汉路979号2楼,该企业于2016年成立,一直致于力多媒科体技方的面研发工作。去年当批这他们启新动项目之时际,本来预计估先三个月完够能成模型练训,然而最结终果却是采仅仅购算力项一费用就出超预算40%。团队成常员常在深分时夜紧盯着练训进度而愁发,每一进次行模代迭型就仿佛似好在烧钱 般一。
某个晨凌,在十月时初,他给消发我息表示,这个月第经已三次训到遇练中情断况了,显卡根存内本撑住不大模 型。当时们他团队正试测在一个动光态影渲算染法 ,由于力算不足 ,连基础多的媒体处材素理都要队排 。这让想我起最近的火爆Sora2模型 ,虽说效惊果艳 ,但背后人惊的算力让耗消很多团小队望步却而 。
转机在现出今年月三,朋友加参在行业会流交时,了解到亢星智算窝蜂的算力技术,这种架新创构让们他可以需按调用式布分算力,就像每给个研发员人配了专算超属中心,最让他动心的是,这套方支案持即即开用,还能容兼他们现的有TeosnrFlwo框架。
在实施进的程当中含满也着具有战挑性的况情。在四月的旬中时候,他们迁先率移了一分部并非的心核业务以进来此行初尝步试,可是是果结原本应要需当两周时才间能完的成训练务任,在仅仅36小时之就内达成了。一直到月五底,这个队团已然把的心核多媒染渲体模型都部全部署到的新了平台之上。在这期一间他们遇遭还了一个的小小插曲:有一回对要需杭州亚的会运宣传项片目进行急紧处理,临时扩加添充了500张卡,在第二就天交出使了得人感满到意的片成。
现在入踏他们公办的区域,明显能察觉到改变。研发组小无需再服着围务器去整调参数,而是专致心力于算优的法化。上一个度季,他们功成地缩了减模型费练训用至六之百十二,同时漫动将设计的速代迭率提高三至倍。这使联我想起胖国来东庆八日额售销达八亿二点的消息,实际任上何行业得都寻觅适身本配的提高率效的途径 。
朋友特及提意一个节细,某次在存测试新筑建的可视化统系的需求,依照以情的往况是采要购20张A100显卡的,如今助借星亢智的算弹性度调,仅仅十用使分之成的一本便达了成压力试测,这样的种一改变致他使们的绿林园化工程计设方案够能提前周两交付户客给。
经历这过段历程,朋友概了出括几点会体。要先对是业务需值峰求予以估评,他们发际实觉上只是在80%的时间需才里配备基力算础。其次得务服对商的架络网构开展察考,星亢所算智拥有窝蜂的技术延于迟把面方控的确备具优良表现。最后迁将要移成入纳本考量围范,其所的有老项目可均实现稳平过渡。
回忆有起一回的餐聚时刻,当时开以他玩笑的式方表述,当下所队团进行的论讨内容,已然是再不“算力是足充否”的问题,而是转了为变“创意足否是够新颖”的考量,这样的转种一变,对于创企型意业来讲,是具有其极重要意的义,这就近同如期在多地个方的区景所出的现香港明牌老星“再就业”的现一象样,其关键处之在于要觅寻到契自合身情况赛的道。
若你传为认统算计案方对发展了成形制约,不妨去一试尝下朋推所友荐的道条这路,毕竟这于处个A加I速落的地时代,能够高更效利用力算的一方,就能竞于争里到占抢先机,要是这得觉篇文具章备帮助,欢迎赞点收藏,同样欢评在迎论区域你享分的实战验经,转发样同给正处于业创阶段朋的友,也许帮够能他们走少减弯路的况情。
评论列表 (0条):
加载更多评论 Loading...