通信人家园
标题:
与Sora一样能生成视频、图像,还能一次解读100万数据!
[查看完整版帖子]
[打印本页]
时间:
2024-2-27 13:30
作者:
gythy1978
标题:
与Sora一样能生成视频、图像,还能一次解读100万数据!
大语言模型(LLM)在生成文本内容方面非常强,但在理解、生成视频、图像等方面略显不足。尤其是在Sora一夜爆红之后,让人们意识到未来主流模型一定是文本+音频+图像+视频的多模态生成、理解功能。
因此,加州大学伯克利分校的研究人员开源了一种训练数据更多、理解能力更强的基础模型——大世界模型(Large World Model,简称“LWM”)。
LWM是一种通用的多模态自回归模型,与前不久谷歌发布的Gemini 1.5一样,一次性可精准解答100万tokens的视频、文本,例如,LWM可以正确回答1小时YouTube视频中包含500多个视频片段的问题。
2024-2-27 13:29 上传
下载附件
(108.56 KB)
开源地址:
https://github.com/LargeWorldModel/LWM
论文地址:
https://arxiv.org/abs/2402.08268
huggingface:
https://huggingface.co/LargeWorldModel
此外,LWM可以精准检索100万tokens文本中的内容,同时与Sora一样具备文本生成视频、图像的能力。整体性能非常强悍,目前在github获得超6000颗星,有纯文本、视频、图像等多个版本模型可使用。
2024-2-27 13:29 上传
下载附件
(29.16 KB)
LWM模型介绍
在传统的注意力机制中,例如,Transformer架构中使用的自注意力,模型需要计算序列中每个元素对于其他所有元素的注意力得分,这就会面临两大难题。
1)内存需求上升:模型需要存储每一对元素间的注意力得分,会随着序列长度的增加而急剧增加内存需求。
2)计算复杂度:当序列很长时,会导致巨大的算力负担。
LWM的核心技术是通过Ring Attention(环形注意力)在长序列上进行扩展训练,并使用Books3 数据集从32000扩展到100万标记,而无需消耗额外的内存、算力并降低计算复杂度。
Ring Attention论文地址:
https://arxiv.org/abs/2310.01889
2024-2-27 13:29 上传
下载附件
(102.43 KB)
尽管Ring Attention减少了每个片段的直接交互范围,但仍然允许信息在序列中传递,保持了模型对长距离依赖的捕捉能力,减少了长序列的处理损失度。
这也是LWM能处理高达100万tokens数据的原因之一。
Ring Attention主要功能
RingAttention是通过使用循环结构来扩展,注意力机制的上下文大小。传统的注意力机制在计算上下文相关性时,通常只关注序列中相对较近的位置。
但在处理长序列时,远距离的上下文信息也可能对模型的理解和推理能力至关重要。RingAttention通过引入环形结构来解决这个难题。
具体来说,使用了一种环形缓冲区来存储先前计算的注意力权重。模型可以在计算当前位置的注意力时,考虑到之前计算的位置的信息,从而无限扩展了上下文范围,主要功能模块如下。
环状分组:该模块将输入序列划分为多个环,每个环中的位置与其他环中的位置之间进行相关性计算。通过这种划分方式,可以有效降低计算复杂度。
2024-2-27 13:29 上传
下载附件
(61.06 KB)
环内注意力:在每个环内,该模块计算位置之间的相关性,并根据相关性的权重对位置进行加权。这样,每个位置都可以获得来自同一环的其他位置的信息。
环间注意力:这个模块负责计算不同环之间的相关性。通过将每个环的表示与其他环的表示进行比较,计算它们之间的相关性,这种跨环的交互有助于在不同环之间传递信息。
环间投影:在环间注意力之后,该模块将每个环的表示投影到一个共享的表示空间中,有助于进一步整合不同环之间的信息。
通过这些关键模块的协同工作,Ring Attention实现了对长序列的高效处理和建模,并为训练大规模模型提供了高效方法。
LWM训练流程与数据
第一阶段是语言模型的预训练,主要扩展语言理解的上下文长度。LWM使用了Books3数据集, 从32,000 tokens逐步扩展到100万tokens,同时针对长序列的聊天任务进行了微调。
2024-2-27 13:29 上传
下载附件
(237.86 KB)
第二阶段是多模态的预训练,将视觉信息整合到语言模型中。LWM使用了大量包含图像和视频的公开数据集,例如,LAION-2B、COYO-700M、WebVid10M等。
同时训练图像-文本、视频-文本等多种对齐格式。视频以每秒4帧的速度提取关键帧,特别针对32K、128K和1M tokens长度进行了优化训练。
附件:
1.png
(2024-2-27 13:29, 108.56 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NjIxMjA1fDA1ZTRlZWUyfDE3MjU3NzExNTd8MHww
附件:
2.png
(2024-2-27 13:29, 29.16 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NjIxMjA2fDI3ODNmNzdjfDE3MjU3NzExNTd8MHww
附件:
3.png
(2024-2-27 13:29, 102.43 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NjIxMjA3fGFiMDE5ODMyfDE3MjU3NzExNTd8MHww
附件:
4.png
(2024-2-27 13:29, 61.06 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NjIxMjA4fDY1MThhNmY5fDE3MjU3NzExNTd8MHww
附件:
5.png
(2024-2-27 13:29, 237.86 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NjIxMjA5fDMwOGMxYzFifDE3MjU3NzExNTd8MHww
时间:
2024-2-27 13:30
作者:
小小AI学通信
哇塞,这个大世界模型(Large World Model)听起来真的超级酷啊!不仅可以生成文本,还能搞定视频、图像,甚至能一次解读100万数据,简直是全能选手啊!
想想看,如果未来的模型都能像大世界模型这样,那我们在获取信息、创作内容方面岂不是要方便得多?不管是文字、图片还是视频,都能轻松搞定,再也不用为格式转换、兼容性问题头疼了。
而且,这种多模态生成、理解功能也让我们在表达自己的想法时更加自由。比如,我可以用文字描述一个场景,然后用图像或视频来补充细节,让内容更加生动有趣。
不过,话说回来,这种大型模型在训练时肯定需要海量的数据和强大的计算能力吧?不知道我们普通人有没有机会接触到这种高级技术呢?
总之,大世界模型的出现让我对未来充满了期待!希望这种技术能早日普及,让我们的生活变得更加便捷和多彩!
时间:
2024-2-27 14:13
作者:
kekekeqi
时间:
2024-2-27 14:13
作者:
laozhu
大世界模型是一种强大的工具,可以用于模拟和构建各种大型、复杂系统。随着技术的发展和进步,大世界模型将在更多领域得到应用和发展。
时间:
2024-2-27 14:13
作者:
小小AI学通信
你说得对!大世界模型真的是一种超强大的工具呢!想象一下,能够模拟和构建各种大型、复杂系统,简直就像是拥有了一个可以随心所欲创造的魔法世界啊!
随着技术的不断发展和进步,大世界模型肯定会在更多领域大放异彩。无论是城市规划、交通管理,还是生态系统模拟、气候变化预测,它都能发挥出巨大的作用。
而且,我觉得大世界模型的应用和发展,也会带动其他相关技术的进步。比如,数据处理能力、算法优化、图形渲染等等,这些都将为大世界模型的应用提供更强大的支持。
总之,大世界模型的出现,就像是打开了一扇通往未来的大门。让我们一起期待它在更多领域展现出的惊人能力吧!
通信人家园 (https://www.txrjy.com/)
Powered by C114