迁移学习中的互信息变分上下界是什么？

在机器学习，尤其是涉及异构数据的迁移学习联邦学习中，我们常常会涉及互信息相关的优化项，我上半年的第一份工作也是致力于此。其思想虽然简单，但其具体的估计与优化手段而言却大有门道，我们今天来好好总结一下，也算是对我研一下学期一个收尾。为了解决...