1 论文总结归纳 做为最后一篇分布式多任务学习的论文阅读记录，我决定对我目前为止粗读和精读的论文进行一次总结，然后陈述一些个人对该研究领域的见解和想法。 目前已经有许多论文对多任务学习提出了分布式并行方案。在分布式多任务学习中，传统的处理方式[1][2][3]仍然是基于主从 ...

1 分布式多任务学习（Multi-task Learning， MTL）简介 我们在上一篇文章《基于正则表示的多任务学习》中提到，实现多任务学习的一种传统的（非神经网络的）方法为增加一个正则项[1][2][3]： \[\begin{aligned} \underset{\textbf{W ...

目录 preliminary user clustering data interpolation model interpolation 这篇文章与那些 ...

我们在博客《基于正则化的多任务学习》中介绍了标准多任务学习的核心是多任务个性化权重+知识共享[1]。如 ...

1 代理损失函数——一种并行化拆解技巧 我们在本系列第一篇文章《分布式多任务学习论文阅读（一）多任务学习速览》(链接：https://www.cnblogs.com/orion-orion/p/15481054.html)中提到，实现多任务学习的一种传统（非神经网络）的方法为增加一个正则项 ...

摘要：ModelArts提供了一个实现个性化联邦学习的API——pytorch_fedamp_emnist_classification，它主要是让拥有相似数据分布的客户进行更多合作的一个横向联邦学习框架，让我们来对它进行一些学习和探索。 随着数字技术的发展，以及全社会对数字化的不断重视 ...

摘要：近期，中科院上海药物所、上海科技大学联合华为云医疗智能体团队，在Science China Life Sciences 发表题为“Facing Small and Biased Data D ...

1 分布式机器学习、联邦学习、多智能体介绍 最近这三个方面的论文都读过，这里写一篇博客归纳一下，以方便搞这几个领域的其他童鞋入门。我们先来介绍以下这三种机器学习范式的基本概念。 1.1 分布式机器学习介绍 分布式机器学习(distributed machine learning)，是指利用 ...