（1）过点$B$作$BC\bot OA$于点$C$，如图$1$所示：

$\because$点$A\left(5,0\right)$，点$B$在第一象限，
$\therefore OA=5$，
$\because \triangle OAB$是等腰直角三角形，$\angle OBA=90^{\circ}$，
$\therefore OB=AB$，
$\because BC\bot OA$，
$\therefore OC=AC=BC=\frac{1}{2}OA=2.5$，
$\therefore$点$B$的坐标为$\left(2.5,2.5\right)$；
$(2)$当点$M$落在$AB$上时，如图$2$所示：

$\triangle OAB$是等腰直角三角形，$\angle OBA=90^{\circ}$，$OA=5$，
$\therefore OB=AB$，$\angle BOA=\angle BAO=45^{\circ}$，
由勾股定理得：$OA=\sqrt{O{B}^{2}+A{B}^{2}}=\sqrt{2}OA$，
$\therefore AB=OB=\frac{\sqrt{2}}{2}OA=\frac{5\sqrt{2}}{2}$，
根据点$P$运动的速度和时间得：$OP=t$，
$\because PQ\bot OA$，
$\therefore \triangle OPQ$是等腰直角三角形，
$\therefore OP=PQ=t$，
由勾股定理得：$OQ=\sqrt{O{P}^{2}+P{Q}^{2}}=\sqrt{2}t$，
$\therefore BQ=OB-OQ=\frac{5\sqrt{2}}{2}-\sqrt{2}t$，
由旋转的性质得：$\angle PQM=90^{\circ}$，$QM=PQ=t$，
$\therefore \triangle PQM$是等腰直角三角形，$QM\bot PQ$，
$\therefore QM$∥$OA$，
$\because M$在$AB$上，
$\therefore \triangle BQM$∽$\triangle BOA$，
$\therefore \frac{BQ}{OB}=\frac{QM}{OA}$，
$\therefore OA\cdot BQ=OB\cdot QM$，
即$5(\frac{5\sqrt{2}}{2}-\sqrt{2}t)=\frac{5\sqrt{2}}{2}t$，
解得：$t=\frac{5}{3}$；
$(3)$依题意有以下三种情况：
①当点$M$在$\triangle OAB$的内部或点$M$落在$AB$上时，
此时$0≤t≤\frac{5}{3}$，如图$3$所示：

$\triangle PQM$与$\triangle OAB$重合部分的面积为$S=S_{\triangle PQM}$，
由（2）可知：$PQ=QM=t$，
$\therefore S_{\triangle PQM}=\frac{1}{2}{t}^{2}$，
$\therefore S=\frac{1}{2}{t}^{2}$，
②当点$M$在$\triangle OAB$的外部，且点$Q$在$OB$上时，
此时$\frac{5}{3}＜OP≤\frac{5}{2}$，设$QM$交$AB$与点$D$，$PM$交$AB$于点$E$，如图$4$所示：

由（2）可知：$QM$∥$OA$，$OP=PQ=QM=t$，$BQ=\frac{5\sqrt{2}}{2}-\sqrt{2}t$，
$\therefore \triangle BQM$∽$\triangle BOA$，
$\therefore \frac{BQ}{OB}=\frac{QD}{OA}$，
$\therefore OA\cdot BQ=OB\cdot QD$，
即$5(\frac{5\sqrt{2}}{2}-\sqrt{2}t)=\frac{5\sqrt{2}}{2}×QD$，
$\therefore QD=5-2t$，
$\therefore DM=QM-QD=t-\left(5-2t\right)=3t-5$，
$\because \triangle PQM$是等腰直角三角形，
$\therefore \angle M=45^{\circ}$，
$\because QM$∥$OA$，
$\therefore \angle MDE=\angle BAO=45^{\circ}$，
$\therefore \angle M=\angle MDE=45^{\circ}$，
$\therefore \triangle DEM$是等腰直角三角形，
$\therefore DE=ME$，
由勾股定理得：$DE^{2}+ME^{2}=DM^{2}$，
$\therefore DE^{2}=\frac{1}{2}DM^{2}=\frac{1}{2}(3t-5)^{2}$，
$\therefore S_{\triangle DEM}=\frac{1}{2}DE\cdot ME=\frac{1}{2}DE^{2}=\frac{1}{4}(3t-5)^{2}$，
$\because \triangle PQM$与$\triangle OAB$重合部分的面积为$S=S_{\triangle PQM}-S_{\triangle DEM}$，
$\therefore S=\frac{1}{2}{t}^{2}-\frac{1}{4}(3t-5)^{2}=-\frac{7}{4}{t}^{2}+\frac{15}{2}t-\frac{25}{4}$；
③当点$M\triangle OAB$的外部，且点$Q$在$AB$上时，
此时$\frac{5}{2}＜t≤5$，设$PM$交$AB$于点$F$，如图$4$所示：

$\because OP=t$，$OA=5$，
$\therefore AP=OA-OP=5-t$，
$\because \angle BAO=45^{\circ}$，$OP\bot OA$，
$\therefore \triangle PAQ$是等腰直角三角形，
$\therefore PQ=AP=5-t$，
$\because \triangle PQM$是等腰直角三角形，
$\therefore PQ=QM=5-t$，$\angle M=45^{\circ}$，
由勾股定理得：$PM=\sqrt{P{Q}^{2}+Q{M}^{2}}=\sqrt{2}(5-t)$，
$\because QM$∥$OA$，
$\therefore \angle FQM=\angle BAO=45^{\circ}$，
$\therefore \triangle FQM$是等腰直角三角形，
$\therefore \angle QFM=90^{\circ}$，
即$QF\bot PM$，
$\therefore QF=PF=FM=\frac{1}{2}PM=\frac{\sqrt{2}}{2}(5-t)$，
$\because \triangle PQM$与$\triangle OAB$重合部分的面积为$S=S_{\triangle PQF}$，
$\therefore S=\frac{1}{2}PF\cdot QF=\frac{1}{2}×\frac{\sqrt{2}}{2}(5-t)×\frac{\sqrt{2}}{2}(5-t)=\frac{1}{4}(5-t)^{2}$，
综上所述：$S$关于$t$的函数关系式是：$S=\left\{\begin{array}{l}{\frac{1}{2}{t}^{2}}&{(0≤t≤\frac{5}{3})}\\{-\frac{7}{4}{t}^{2}+\frac{15}{2}t-\frac{25}{4}}&{(\frac{5}{3}＜t≤\frac{5}{2})}\\{\frac{1}{4}(5-t)^{2}}&{(\frac{5}{2}＜t≤5)}\end{array}\right.$.

（1）过点$B$作$BC\bot OA$于点$C$，如图$1$所示：

$\because$点$A\left(5,0\right)$，点$B$在第一象限，
$\therefore OA=5$，
$\because \triangle OAB$是等腰直角三角形，$\angle OBA=90^{\circ}$，
$\therefore OB=AB$，
$\because BC\bot OA$，
$\therefore OC=AC=BC=\frac{1}{2}OA=2.5$，
$\therefore$点$B$的坐标为$\left(2.5,2.5\right)$；
$(2)$当点$M$落在$AB$上时，如图$2$所示：

$\triangle OAB$是等腰直角三角形，$\angle OBA=90^{\circ}$，$OA=5$，
$\therefore OB=AB$，$\angle BOA=\angle BAO=45^{\circ}$，
由勾股定理得：$OA=\sqrt{O{B}^{2}+A{B}^{2}}=\sqrt{2}OA$，
$\therefore AB=OB=\frac{\sqrt{2}}{2}OA=\frac{5\sqrt{2}}{2}$，
根据点$P$运动的速度和时间得：$OP=t$，
$\because PQ\bot OA$，
$\therefore \triangle OPQ$是等腰直角三角形，
$\therefore OP=PQ=t$，
由勾股定理得：$OQ=\sqrt{O{P}^{2}+P{Q}^{2}}=\sqrt{2}t$，
$\therefore BQ=OB-OQ=\frac{5\sqrt{2}}{2}-\sqrt{2}t$，
由旋转的性质得：$\angle PQM=90^{\circ}$，$QM=PQ=t$，
$\therefore \triangle PQM$是等腰直角三角形，$QM\bot PQ$，
$\therefore QM$∥$OA$，
$\because M$在$AB$上，
$\therefore \triangle BQM$∽$\triangle BOA$，
$\therefore \frac{BQ}{OB}=\frac{QM}{OA}$，
$\therefore OA\cdot BQ=OB\cdot QM$，
即$5(\frac{5\sqrt{2}}{2}-\sqrt{2}t)=\frac{5\sqrt{2}}{2}t$，
解得：$t=\frac{5}{3}$；
$(3)$依题意有以下三种情况：
①当点$M$在$\triangle OAB$的内部或点$M$落在$AB$上时，
此时$0≤t≤\frac{5}{3}$，如图$3$所示：

$\triangle PQM$与$\triangle OAB$重合部分的面积为$S=S_{\triangle PQM}$，
由（2）可知：$PQ=QM=t$，
$\therefore S_{\triangle PQM}=\frac{1}{2}{t}^{2}$，
$\therefore S=\frac{1}{2}{t}^{2}$，
②当点$M$在$\triangle OAB$的外部，且点$Q$在$OB$上时，
此时$\frac{5}{3}＜OP≤\frac{5}{2}$，设$QM$交$AB$与点$D$，$PM$交$AB$于点$E$，如图$4$所示：

由（2）可知：$QM$∥$OA$，$OP=PQ=QM=t$，$BQ=\frac{5\sqrt{2}}{2}-\sqrt{2}t$，
$\therefore \triangle BQM$∽$\triangle BOA$，
$\therefore \frac{BQ}{OB}=\frac{QD}{OA}$，
$\therefore OA\cdot BQ=OB\cdot QD$，
即$5(\frac{5\sqrt{2}}{2}-\sqrt{2}t)=\frac{5\sqrt{2}}{2}×QD$，
$\therefore QD=5-2t$，
$\therefore DM=QM-QD=t-\left(5-2t\right)=3t-5$，
$\because \triangle PQM$是等腰直角三角形，
$\therefore \angle M=45^{\circ}$，
$\because QM$∥$OA$，
$\therefore \angle MDE=\angle BAO=45^{\circ}$，
$\therefore \angle M=\angle MDE=45^{\circ}$，
$\therefore \triangle DEM$是等腰直角三角形，
$\therefore DE=ME$，
由勾股定理得：$DE^{2}+ME^{2}=DM^{2}$，
$\therefore DE^{2}=\frac{1}{2}DM^{2}=\frac{1}{2}(3t-5)^{2}$，
$\therefore S_{\triangle DEM}=\frac{1}{2}DE\cdot ME=\frac{1}{2}DE^{2}=\frac{1}{4}(3t-5)^{2}$，
$\because \triangle PQM$与$\triangle OAB$重合部分的面积为$S=S_{\triangle PQM}-S_{\triangle DEM}$，
$\therefore S=\frac{1}{2}{t}^{2}-\frac{1}{4}(3t-5)^{2}=-\frac{7}{4}{t}^{2}+\frac{15}{2}t-\frac{25}{4}$；
③当点$M\triangle OAB$的外部，且点$Q$在$AB$上时，
此时$\frac{5}{2}＜t≤5$，设$PM$交$AB$于点$F$，如图$4$所示：

$\because OP=t$，$OA=5$，
$\therefore AP=OA-OP=5-t$，
$\because \angle BAO=45^{\circ}$，$OP\bot OA$，
$\therefore \triangle PAQ$是等腰直角三角形，
$\therefore PQ=AP=5-t$，
$\because \triangle PQM$是等腰直角三角形，
$\therefore PQ=QM=5-t$，$\angle M=45^{\circ}$，
由勾股定理得：$PM=\sqrt{P{Q}^{2}+Q{M}^{2}}=\sqrt{2}(5-t)$，
$\because QM$∥$OA$，
$\therefore \angle FQM=\angle BAO=45^{\circ}$，
$\therefore \triangle FQM$是等腰直角三角形，
$\therefore \angle QFM=90^{\circ}$，
即$QF\bot PM$，
$\therefore QF=PF=FM=\frac{1}{2}PM=\frac{\sqrt{2}}{2}(5-t)$，
$\because \triangle PQM$与$\triangle OAB$重合部分的面积为$S=S_{\triangle PQF}$，
$\therefore S=\frac{1}{2}PF\cdot QF=\frac{1}{2}×\frac{\sqrt{2}}{2}(5-t)×\frac{\sqrt{2}}{2}(5-t)=\frac{1}{4}(5-t)^{2}$，
综上所述：$S$关于$t$的函数关系式是：$S=\left\{\begin{array}{l}{\frac{1}{2}{t}^{2}}&{(0≤t≤\frac{5}{3})}\\{-\frac{7}{4}{t}^{2}+\frac{15}{2}t-\frac{25}{4}}&{(\frac{5}{3}＜t≤\frac{5}{2})}\\{\frac{1}{4}(5-t)^{2}}&{(\frac{5}{2}＜t≤5)}\end{array}\right.$.