您現在的位置是:首頁 > 標簽 > transformer首頁標簽

  • 看懂這25個核心概念,就沒有啃不動的機器學習論文

    看懂這25個核心概念,就沒有啃不動的機器學習論文

    Swin Transformer解讀再比如當年屠榜各大視覺任務的Swin Transformer,由微軟亞洲研究院郭百寧團隊提出,是視覺領域的研究者必讀的一篇論文,這項工作也在這個論文解讀專案有精彩的分享:文章首先以原始論文中的關鍵圖表,簡...

  • 7 Papers & Radios | 新型Transformer架構解決多智慧體強化學習問題;ICRA 2022最佳論文出爐

    目錄Multi-Agent Reinforcement Learning is A Sequence Modeling ProblemStyleGAN-XL: Scaling StyleGAN to Large Diverse Datase...

  • 架構瓶頸原則:用注意力probe估計神經網路元件提供多少句法資訊

    架構瓶頸原則:用注意力probe估計神經網路元件提供多少句法資訊

    更進一步,在 BERT、ALBERT 和 RoBERTa 語言模型上,一個句子的語法樹大部分是可以被 probe 提取的,這表明這些模型在組成上下文表示時可以訪問句法資訊...

  • 支援Transformer全流程訓練,最高加速3倍!位元組跳動LightSeq上新

    LightSeq 是業界第一款完整支援整個 Transformer 模型加速的訓練引擎,包括了詞嵌入層、編碼層、解碼層、損失函式層等高效自定義層...

  • slipper什麼意思

    slipper什麼意思

    Slipper的英文解釋:(UK old-fashioned also carpet slipper) a type of soft, comfortable shoe for wearing inside the house擴充套件閱讀:...

  • AlphaFold2是什麼狗?(會後解讀)

    18年的alphafold我們還可以argue,其實他是集學術界大成者,整體創新性並沒有那麼強,起碼大家都很容易follow,這次的alphafold2我要下個暴論,是真正意義上的應用了AI來解決蛋白質摺疊問題...