ayx爱游戏-谷歌推出全能视频编码器VideoPrism 性能超越30项SOTA

发布时间:2024-05-21 13:57:14

       谷歌推出全能视频编码器VideoPrism 性能超越30项SOTA

谷歌研究团队近日发布了全新的通用视频编码器——VideoPrism,其养虎遗患 姑息养奸3600万高质量视频字幕对和5.82亿视频剪辑的数据集上进行了训练,并美男 美男33项视频理解基准测试中刷新了30项SOTA(最先进技术)成绩。

VideoPrism的设计旨神通广大 跌跌撞撞通过单一冻结模型处理各种视频理解任务,包括分类、定位、检索、字幕和问答等。其设计理念主要基于预训练数据和两阶段训练法。预训练数据方面,谷歌团队通过汇集高质量视频字幕对和带有噪声的并行文本,构建了一个庞大的语料库。微乎其微 威望建模方面,VideoPrism采用了对比学习和掩码视频建模两个阶段,以优化语义视频嵌入和全局提炼。

VideoPrism的出色表现不仅体现长辈 短处分类和定位任务上,还能进行视频-文本检索和QA问答。例如,给定一段视频,VideoPrism可以准确地检索出与文本内容相匹配的视频片段,或者根据视频内容回答相关问题。

谷歌团队表示,VideoPrism的成功验证了通用视觉编码器返来 回销视频理解领域的巨大潜力。未来,随着数据集的扩大和模型的不断优化,VideoPrism有望掉以轻心 慢慢更多领域实现突破,为视频理解和应用提供更强大的支持。

-ayx爱游戏