C

一组数据“$12$，$12$，$28$，$35$，■”，该数据■在$30\sim 40$之间，
四个数据的和随数据■的变化而变化，所以平均数是变化的，选项$A$错误.
众数也变化，选项$B$错误.
中位数是$28$，不变，选项$C$正确.
因为平均数改变，方差随着改变，选项$D$错误.
故选：$C$.