如图，取$AD$的中点$O$，连接$OB$，$OM$.

$\because$四边形$ABCD$是矩形，
$\therefore \angle BAD=90^{\circ}$，$AD=BC=4$，
$\therefore \angle BAP+\angle DAM=90^{\circ}$，
$\because \angle ADM=\angle BAP$，
$\therefore \angle ADM+\angle DAM=90^{\circ}$，
$\therefore \angle AMD=90^{\circ}$，
$\because AO=OD=2$，
$\therefore OM=\frac{1}{2}AD=2$，
$\therefore$点$M$在以$O$为圆心，$2$为半径的$\odot O$上，
$\because OB=\sqrt{A{B}^{2}+A{O}^{2}}=\sqrt{{3}^{2}+{2}^{2}}=\sqrt{13}$，
$\therefore BM\geqslant OB-OM=\sqrt{13}-2$，
$\therefore BM$的最小值为$\sqrt{13}-2$.
故答案为：$\sqrt{13}-2$.

如图，取$AD$的中点$O$，连接$OB$，$OM$.

$\because$四边形$ABCD$是矩形，
$\therefore \angle BAD=90^{\circ}$，$AD=BC=4$，
$\therefore \angle BAP+\angle DAM=90^{\circ}$，
$\because \angle ADM=\angle BAP$，
$\therefore \angle ADM+\angle DAM=90^{\circ}$，
$\therefore \angle AMD=90^{\circ}$，
$\because AO=OD=2$，
$\therefore OM=\frac{1}{2}AD=2$，
$\therefore$点$M$在以$O$为圆心，$2$为半径的$\odot O$上，
$\because OB=\sqrt{A{B}^{2}+A{O}^{2}}=\sqrt{{3}^{2}+{2}^{2}}=\sqrt{13}$，
$\therefore BM\geqslant OB-OM=\sqrt{13}-2$，
$\therefore BM$的最小值为$\sqrt{13}-2$.
故答案为：$\sqrt{13}-2$.