重塑千禧年代

第255章 甲光向日金鱗開

字體:16+-

無論如何,易科的Q3財報在這個月十五號都要出爐了。

盡管心裏已經有預期,但親自走入暴風雨中的陸奇還是心神不寧,也免不了在心中自嘲,看客與當事人的感受終究不同,這份壓力還是受著了。

11月2日,上午11點,陸奇開完會接到了秘書的通知,方總中午請客。

等他抵達小食堂,聽到正在放著的音樂是《All You Need Is Love》便不禁微微一笑,那篇由穀歌發布《Attention Is All You Need》的名字就是來自披頭士的這首歌。

陸奇與埃爾德、吳恩達打了招呼,沒聊幾句就轉入了深度學習DL的話題,也就立即打起精神,講述自己更多的想法。

這兩位在易科都不簡單,一位總領研發範疇的事務,一位是深度學習的主要負責人,雖說自己算是空降組建深度學習事業部,但資源的分配和使用也需要相互的溝通。

陸奇能在微軟做到高位,自然不會輕視人事工作。

“穀歌那邊把自注意力機製的模型在論文裏命名為Transformer,我問了問,他們內部是在開發新的NLP模型了。”吳恩達談到上次業界探討後的變化。

吳恩達之前是斯坦福的副教授和人工智能實驗室主任,而在加入易科前就在穀歌負責相關工作,與那邊的研究交流沒有中斷,上次的激辯同樣給他帶來不少靈感。

陸奇點點頭,也說著自己掌握的消息:“業界對於Transformer的表現很認可,像去年成立的OpenAI,他們現在也在著手研發一款以Transformer為核心的大模型,幹脆直接以它命名,叫GPT,Generative Pre-trained Transformer。”

OpenAI是一家去年成立的公司,有不少領域內知名的人物參與。

方卓這時候簡單總結道:“難道穀歌的這個Transformer真就能超過RNN和CNN了?我們在這兩方麵已經投入很多了。”

RNN是循環神經網絡,CNN是卷積神經網絡,易科的Siri是基於前者,太白則是基於後者。