7月23日|據AIGC開放社區,Meta的研究人員開源了創新架構AU-Net,過引入一種自迴歸的 U-Net 架構,徹底改變了傳統語言模型的分詞和處理模式。AU-Net 能夠直接從原始字節開始學習,動態地將字節組合成單詞、詞對,甚至多達四個單詞的組合,形成一種多尺度的序列表示。