Dean自从写完那篇本科论文之后,就没怎么关注过神经网络了。但他一直觉得这是个对的方向,只是时机没到。
"有意思,"他说,"我们这儿电脑多。要不试试训练一个特别大的神经网络?"
当时Google的数据中心里没有GPU,只有成千上万的CPU服务器。Dean开始写一个软件框架,让神经网络的计算能够分摊到几千台机器上。
他们给这个项目起了个名字:DistBelief。意思是"分布式信念"。
几个月后,他们用一万六千个CPU核心,训练了一个比当时任何人都训练过的神经网络大50倍的模型。他们把它放到一千万张YouTube随机截图上,让它自己学习。
没人告诉它什么是猫。但它学会了识别猫脸。
这个项目后来有了个更响亮的名字:Google Brain。
一切都始于微型厨房里的那次闲聊。
显示更多