2013年的12月,重生歸來幾個月的孟繁岐即將前往澳大利亞,西尼,參加計算機視覺方向的頂級會議,ICCV2013,國際計算機視覺大會。
他沒有任何的文章投稿併發布在這個會議,但所有人都很清楚,這個沒有投稿的人才是本次會議的絕對核心。
去年的同一時刻,AI三巨頭之一,加拿大多倫多大學的辛頓(Hinton與自己的學生阿里克斯(Alex一同釋出了人類歷史上第一個深度神經網路阿里克斯網路(AlexNet。在千萬級別的圖片上提取了人類難以理解和解釋的知識。
可以根據圖片的內容,分辨出它屬於一千種類中的哪一種。
作為唯一一個使用神經網路作為核心演算法的隊伍,他們以碾壓的姿態擊敗了傳統的演算法,獲得了千分類這樣一個複雜視覺任務的冠軍。
AI的新時代,深度學習從這一刻開始,以谷歌,微軟,白度等公司為首的巨無霸科技企業蜂擁而至,讓原本比較純粹的AI領域多了幾分工業界的務實,當然也有一些資本的銅臭。
2013年,相同的賽事例行舉辦。
就在各路高校,機構還在爭相復現去年辛頓團隊的結果之時,一個眾人從未聽過的名字,孟繁岐,使用DreamNet,以一個更為誇張的效能提升傲立於競賽的所有任務榜單之上。
並且4.8%的top5錯誤率更是已經突破了賽方四年前提供的人類標準5.1%。
這個恐怖的提升完全超乎了所有人的想象和理解。
此時距離結果的公佈已經接近一個月,整個學界對這個結果是如何做到的仍舊是一無所知。
協辦該賽事的國際計算機視覺大會會議方早已給名列前茅的參賽者們都傳送了邀請郵件。
所幸這個神秘的“Meng”很快便確認出席。否則還真沒有人清楚到底該怎麼聯絡上他。
不僅是不夠熟悉這個領域的人難以想象,就連深耕該領域接近半個世紀,去年以三人之力刷爆榜單的辛頓團隊,也完全想不明白這麼恐怖的效能進步到底是怎麼實現的。
有人在自己最擅長的領域做出了這麼可怕的突破,自己卻完全沒有任何思路和頭緒,這對這個灰白頭髮的老人來說是一件一時間不大容易接受的事情。
除此之外,最大的壓力來自於他的僱主谷歌。
時年六十五歲的辛頓在去年將該競賽的千分類Top5準確率從75左右直接提升到單模型85。這對當時的谷歌來說是一個巨大的震撼。
雖然沒有正式參賽,但一向對海量資料的處理非常自信的谷歌,私下裡在競賽的資料上做了一些驗證。結果卻發現,擁有豐富大資料處理經驗,並具備海量計算資源的自己,被辛頓三人組這樣一個學界的小團隊給狠狠地爆出了十條街。
技術是核心生產力。
敏銳地谷歌很快意識到深度神經網路的潛力,但同時的,還有其他知名公司和機構。辛頓團隊的電話和郵箱很快被擠爆,
谷歌派出了工程主管阿蘭(Alan,甚至名震矽谷的傑夫(Jeff Dean親自前往加拿大拜訪,以求辛頓團隊加入谷歌。
傑夫其人加入谷歌甚早,也是早期谷歌三位大牛之一,由於其實在太牛,坊間流傳有不少他的笑話,人稱姐夫笑話。
大抵都是些,“光曾經時速只有120km/h,後來傑夫花了一個週末對物理學進行了小小的最佳化”
又或者,“傑夫程式設計的時候只使用0和1兩個按鈕”
“編譯器從來不給Jeff警告,是Jeff警告編譯器”