1. 首页
  2. 教育
  3. 深度学习

使用深度学习融合各种来源的信息

导读使用深度学习融合各种来源的信息。多模态数据我们对世界的体验是多模态的——我们看到物体,听到声音,感觉到质地,闻到气味,尝到味道。模态是指某件事发生或经历的方式,当一个研究问题包含多个模态时,它就具有多模态的特征。为了让人工智能在理解我们周围的世界方面取得进展,它需要能够同时解释这些多模态的信号。

导读

使用深度学习融合各种来源的信息。

使用深度学习融合各种来源的信息

多模态数据

我们对世界的体验是多模态的——我们看到物体,听到声音,感觉到质地,闻到气味,尝到味道。模态是指某件事发生或经历的方式,当一个研究问题包含多个模态时,它就具有多模态的特征。为了让人工智能在理解我们周围的世界方面取得进展,它需要能够同时解释这些多模态的信号。

例如,图像通常与标签和文本解释相关联,文本包含图像,以更清楚地表达文章的中心思想。不同的模态具有非常不同的统计特性。

多模态深度学习

虽然结合不同的模态或信息类型来提高效果从直观上看是一项很有吸引力的任务,但在实践中,如何结合不同的噪声水平和模态之间的冲突是一个挑战。此外,模型对预测结果有不同的定量影响。在实践中最常见的方法是将不同输入的高级嵌入连接起来,然后应用softmax。

使用深度学习融合各种来源的信息

多模态深度学习的例子,其中使用不同类型的神经网络提取特征

这种方法的问题是,它将给予所有子网络/模式同等的重要性,这在现实情况中是非常不可能的。

使用深度学习融合各种来源的信息

所有的模态对预测都有相同的贡献

对网络进行加权组合

我们采用子网络的加权组合,以便每个输入模态可以对输出预测有一个学习贡献(Theta)。我们的优化问题变成-

使用深度学习融合各种来源的信息

对每个子网络给出Theta权值后的损失函数。

使用深度学习融合各种来源的信息

将权值附加到子网后预测输出。

把所有的都用起来!

准确性和可解释性我们在两个现实多模态数据集上得到了SOTA:MultimodalCorpusofSentimentIntensity(MOSI)数据集——有417个标注过的视频,每毫秒标注的音频特征。共有2199个标注数据点,其中情绪强度定义为从stronglynegative到stronglypositive,线性尺度从-3到+3。

模态包括:

1.文本2.音频

3.语言

使用深度学习融合各种来源的信息

每种模态对情绪预测的贡献量TranscriptionStartSitePrediction(TSS)数据集——Transcription是基因表达的第一步,在这一步中,特定的DNA片段被复制到RNA(mRNA)中。Transcription起始位点是transcription开始的位置。DNA片段的不同部分具有不同的特性,从而影响其存在。

我们将TSS分为三个部分:

上游DNA

下游DNA

TSS位置

我们取得了前所未有的改善,比之前的最先进的结果3%。使用TATAbox的下游DNA区域对这一过程影响最大。

使用深度学习融合各种来源的信息

责任编辑:lq

免责声明:本站旨在传递信息,不代表有传资讯的观点和立场。本站遵循行业规范,如转载您的文章未标注版权,请联系我们(QQ:78799268)改正。本站的原创文章,如若转载,请注明出处:http://www.ainoline.cn/jiaoyu/shenduxuexi/15941.html

发表评论

电子邮件地址不会被公开。 必填项已用*标注

联系我们

在线咨询:点击这里给我发消息

邮件:78799268@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

QR code