D

过点$A$作$AH\bot BM$，
$\because$点$A$到$BM$的距离为$3cm$，
$\therefore AH=3cm$，
$\because AB=5cm$，
根据勾股定理，得$BH=\sqrt{A{B}^{2}-A{H}^{2}}=4cm$，
当$\angle APB=90^{\circ}$时，如图所示：

此时点$P$与点$H$重合，则$BP=BH=4cm$
根据题意，得$2t=4$，
解得$t=2$；
当$\angle BAP=90^{\circ}$时，如图所示：

$\because AB=5cm$，$BP=2tcm$，$AH=3cm$，$BH=4cm$，
$\therefore HP=\left(2t-4\right)cm$，
根据勾股定理，得$AP^{2}=BP^{2}-AB^{2}=4t^{2}-25$，$AP^{2}=AH^{2}+HP^{2}=9+\left(2t-4\right)^{2}$，
$\therefore 4t^{2}-25=9+\left(2t-4\right)^{2}$，
解得$t=\frac{25}{8}$；
综上所述，当$\triangle ABP$为直角三角形时，$t$的值为$2$或$\frac{25}{8}$，
故选：$D$.